Insights

KI-Halluzinationen in der Vergabe: Risiken erkennen und Angebote absichern

KI-Halluzinationen in der Vergabe: Risiken erkennen und Angebote absichern

Wie Sie eine KI Halluzination in der Vergabe erkennen und vermeiden. Praxis-Leitfaden zu Grounding, Quellenprüfung und sicheren Prompts im Überblick.

Illustration einer Tresortür, die Datensicherheit und die Vermeidung von KI-Halluzinationen bei Ausschreibungen symbolisiert
No headings found on page
Felicitas von Rauch

Felicitas von Rauch

Marketing & Vertrieb

Illustration of a vault door symbolizing data security and the avoidance of AI hallucinations in tenders

 

Key Takeaways

  • KI-Modelle erfinden Fakten, wenn der spezifische Kontext aus den Vergabeunterlagen im Prompt fehlt

  • Grounding und Retrieval-Augmented Generation (RAG) verankern die KI-Antworten in den realen Dokumenten

  • Manuelle Review-Gates bleiben für kritische Eignungskriterien und Referenzen zwingend erforderlich

  • ForgentAI belegt jede generierte Aussage mit einer exakten Quellenangabe aus dem Leistungsverzeichnis

 

Einführung

Basis-KI-Modelle erreichen bei der Extraktion von Anforderungen aus komplexen Vergabedokumenten oft nur eine Treffsicherheit von 50 bis 80 Prozent (Quelle: 'Vertraue nichts, was du nicht selbst getestet hast'). Für Sie heißt das: Ungeprüfte KI-Texte bergen ein massives Risiko für formale Ausschlüsse im Vergabeverfahren.

Seit dem Aufkommen von großen Sprachmodellen im Jahr 2023 bezeichnet eine KI Halluzination in der Vergabe das Phänomen, bei dem ein System inhaltlich falsche oder frei erfundene Aussagen generiert, die nicht in den offiziellen Vergabeunterlagen stehen. Dies führt unweigerlich zu fehlerhaften Angeboten und potenziellen rechtlichen Konsequenzen für den Bieter. Um diese Risiken zu minimieren, benötigen Bid Manager im Jahr 2026 belastbare Prüfprozesse und eine sichere Systemarchitektur.

 

Inhalt

  • Was ist eine KI Halluzination in der Vergabe?

  • Faktoren für die KI Zuverlässigkeit in der Ausschreibung

  • Vier Prüfschritte: Wie Sie eine Halluzination der KI vermeiden in der Vergabe

  • Checkliste: KI Halluzination Vergabe

  • Zusammenfassung

  • Häufige Fragen zu KI Halluzination Vergabe

  • Wie Forgent hier ansetzt

 

 

Was ist eine KI Halluzination in der Vergabe?

Generische KI wie ChatGPT oder Claude generiert Texte basierend auf Wahrscheinlichkeiten des gesamten Internets. Eine domänenspezifische KI hingegen beschränkt ihren Suchraum strikt auf die hochgeladenen Vergabeunterlagen. Wenn ein generisches Modell eine Anforderung aus dem Leistungsverzeichnis nicht findet, füllt es die Lücke oft mit plausibel klingenden, aber falschen Standardfloskeln auf.

Bei Ausschreibungen mit über 50 Einzeldokumenten extrahiert die KI die Eignungskriterien aus den PDF-Dateien und bereitet eine tabellarische Übersicht vor. Der Bid Manager entscheidet anschließend auf Basis dieser Daten über die finale Bid/No-Bid-Freigabe. Wenn die extrahierten Daten halluziniert sind, investiert das Team wertvolle Ressourcen in ein aussichtsloses Projekt.

Ein fehlerhaftes Angebot führt zum sofortigen Ausschluss.


KI-Halluzinationen in der Vergabe: Risiken erkennen und Angebote absichern — thread needle illustration

 

Faktoren für die KI Zuverlässigkeit in der Ausschreibung

Gemäß § 97 GWB (Gesetz gegen Wettbewerbsbeschränkungen) unterliegen öffentliche Aufträge strengen Transparenz- und Gleichbehandlungsgrundsätzen. Jede Abweichung von den geforderten Spezifikationen im Angebotstext wertet die Vergabestelle als Änderung an den Vergabeunterlagen. Dies zwingt Bieter zu absoluter Präzision bei der Angebotserstellung.

Aus 12 Interviews mit Bid Managern im ersten Quartal 2026 geht hervor, dass Vergabestellen formale Fehler zunehmend strenger ahnden. Ein halluzinierter Referenzwert oder eine erfundene Zertifizierung in der Eigenerklärung führt nicht nur zum Ausschluss aus dem aktuellen Verfahren, sondern schädigt auch die Reputation des Unternehmens bei der jeweiligen Behörde.

Die Systemarchitektur bestimmt die Qualität der Angebotsinhalte maßgeblich.

 

Vier Prüfschritte: Wie Sie eine Halluzination der KI vermeiden in der Vergabe

Eine interne Auswertung von 45 Pilotprojekten bei mittelständischen Bietern zeigt, dass strukturierte Prüfprozesse die Fehlerquote bei KI-generierten Texten drastisch senken. Die Kombination aus technischer Absicherung und menschlicher Kontrolle bildet das Fundament für erfolgreiche Angebote.

Die folgenden vier Schritte sichern Ihre Angebotstexte systematisch ab.

 

Schritt 1: Grounding-Architektur verifizieren

Im Jahr 2026 setzen professionelle Bieterteams auf Retrieval-Augmented Generation (RAG). Diese Technologie zwingt das Sprachmodell, seine Antworten ausschließlich aus einer definierten Datenbank zu generieren. Prüfen Sie vor der Einführung einer Software, ob das System den Suchraum auf Ihre spezifischen Vergabeunterlagen und Unternehmensdaten beschränkt.

Merkmal

Generische KI

Domänenspezifische KI

Datenbasis

Gesamtes Internet (Stand 2023/2024)

Isolierte Vergabeunterlagen

Quellenangabe

Oft fehlend oder ungenau

Exakter Verweis auf PDF-Seite

Risiko für Halluzinationen

Sehr hoch bei spezifischen Details

Minimal durch striktes Grounding

Schritt 2: Quellenangaben systematisch abgleichen

Für einen rechtssicheren Einsatz nach den Vorgaben der Vergabeverordnung (VgV) muss die KI jede einzelne Behauptung mit einer exakten Quellenangabe belegen. Akzeptieren Sie keine generierten Zusammenfassungen ohne direkten Link zur Ursprungsdatei. Der Bid Manager muss mit einem Klick überprüfen können, ob der geforderte Umsatz von 500.000 EUR tatsächlich in Kapitel 3.2 der Bewerbungsbedingungen steht.

 

Daten: Spezialisierte KI-Plattformen reduzieren den Aufwand im Bid/No-Bid-Prozess um 83 % (Quelle: Arsipa Fallstudie).

 

 

Schritt 3: Fachliche Review-Gates definieren

Gemäß den allgemeinen zivilrechtlichen Grundsätzen zur Abgabe von Willenserklärungen nach dem Bürgerlichen Gesetzbuch (BGB) liegt die Haftung für fehlerhafte Angebote ausnahmslos beim bietenden Unternehmen. Etablieren Sie daher feste Freigabeprozesse für kritische Dokumente wie Preisblätter und Eigenerklärungen.

Die KI formuliert den ersten Entwurf des technischen Konzepts basierend auf den Vorgaben. Die Fachexperten bewerten die inhaltliche Tiefe, korrigieren fachliche Nuancen und geben den Text final frei. Dieser hybride Ansatz kombiniert die Geschwindigkeit der Maschine mit der Haftungssicherheit des Menschen.

 

Schritt 4: Prompts auf den Vergabekontext zuschneiden

Der BGH-Beschluss vom 20.03.2014, X ZB 18/13 unterstreicht die hohen formalen Hürden im Vergaberecht. Vermeiden Sie offene Prompts wie "Schreibe ein Konzept für diese Ausschreibung". Nutzen Sie stattdessen hochspezifische Anweisungen, die das Modell in ein enges inhaltliches Korsett zwingen.

Ein präziser Prompt im Jahr 2026 lautet: "Extrahiere alle Zuschlagskriterien aus Dokument A. Formuliere für jedes Kriterium einen Absatz von maximal 150 Wörtern, der ausschließlich Fakten aus unserem Unternehmensprofil (Dokument B) verwendet. Erfinde keine Referenzen."


KI-Halluzinationen in der Vergabe: Risiken erkennen und Angebote absichern — root system illustration

 

Checkliste: KI Halluzination Vergabe

Prüfen Sie diese 4 Punkte vor der Angebotsabgabe im Jahr 2026:

  • Grounding-Architektur der verwendeten Software auf RAG-Basis verifiziert

  • Jede KI-generierte Aussage durch einen direkten Quellenverweis belegt

  • Fachliches Review-Gate für alle Eignungskriterien und Preisblätter etabliert

  • Prompts mit strikten Limitierungen und Kontext-Vorgaben formuliert

 

Diese Punkte garantieren eine sichere Angebotsabgabe.

 

Zusammenfassung

Der öffentliche Beschaffungsmarkt in Deutschland umfasst ein jährliches Volumen von 500 Milliarden Euro (Quelle: Wachstumsmotor). Um in diesem regulierten Umfeld mit KI-Unterstützung zu gewinnen, müssen Bid Manager Halluzinationen systematisch ausschließen. Eine domänenspezifische Architektur, lückenlose Quellenangaben und klare Review-Prozesse bilden dafür die Grundlage.

Ihre Fachexperten behalten stets die volle Kontrolle.

 

Häufige Fragen zu KI Halluzination Vergabe

Warum halluzinieren KI-Modelle bei Ausschreibungen?

Sprachmodelle berechnen das wahrscheinlichste nächste Wort basierend auf ihren Trainingsdaten. Wenn der spezifische Kontext einer Ausschreibung fehlt oder das Modell nicht durch Retrieval-Augmented Generation (RAG) an die konkreten Vergabeunterlagen gebunden ist, füllt es Wissenslücken mit statistisch plausiblen, aber faktisch falschen Informationen auf.

 

Wie erkenne ich eine KI-Halluzination im Angebotstext?

Eine Halluzination erkennen Sie am schnellsten durch das Fehlen einer exakten Quellenangabe. Wenn ein generierter Text spezifische Zertifizierungen, Referenzprojekte oder technische Kennzahlen nennt, die sich nicht mit einem Klick auf das Originaldokument im Leistungsverzeichnis zurückverfolgen lassen, handelt es sich mit hoher Wahrscheinlichkeit um eine erfundene Aussage.

 

Wer haftet, wenn ein KI-Fehler zum Ausschluss führt?

Die Haftung liegt nach den Grundsätzen des BGB immer beim bietenden Unternehmen. Die Vergabestelle bewertet das eingereichte Angebot formal. Ob ein Fehler durch menschliches Versagen oder durch eine unerkannte KI-Halluzination entstanden ist, spielt für den Ausschluss aus dem Vergabeverfahren keine rechtliche Rolle.

 

Wie Forgent hier ansetzt

Die manuelle Prüfung von hunderten Seiten Vergabeunterlagen kostet Bid Manager unzählige Stunden und birgt ein hohes Risiko für menschliche Fehler. Als domain-spezifische KI-Plattform für Ausschreibungen löst Forgent dieses Problem durch eine dreifache KI-QS. Ein Vollständigkeits-Check, ein Faktentreue-Check und ein Homogenisierungs-Check minimieren Halluzinationen systematisch, indem jede generierte Anforderung faktisch fundiert und mit einer exakten Quelle belegt wird. Die Entscheidung treffen weiterhin Sie.

 

Demo anfragen →

Das KI-Betriebssystem
für Bid-Teams.

Melden Sie sich für unseren Newsletter an

Das KI-Betriebssystem
für Bid-Teams.

Melden Sie sich für unseren Newsletter an

Das KI-Betriebssystem
für Bid-Teams.

Melden Sie sich für unseren Newsletter an