---
name: halluzinations-handhabung
description: "Pflicht zur Quellenprüfung jedes KI-generierten Zitats, Prozessbetrug-Vermeidung, Linie des OLG Koblenz sowie AG Köln 02.07.2025, Dokumentation der Prüfung und Vier-Augen-Prinzip für beweissichere Schriftsätze."
---

# Halluzinations-Handhabung

Das sogenannte „Halluzinieren" von KI-Systemen — die Erzeugung von nicht existierenden, aber plausibel wirkenden Zitaten, Gerichtsentscheidungen und Fundstellen — ist das größte praktische Haftungsrisiko beim Einsatz von KI-Systemen in der anwaltlichen Arbeit. Die eiserne Regel lautet: Jede einzelne Fundstelle aus einem KI-System ist ausnahmslos zu verifizieren.

## Rechtlicher Hintergrund

§ 43 Satz 1 BRAO: Gewissenhaftigkeit — schließt die kritische Prüfung aller KI-Ergebnisse ein (BRAK-Hinweise 12/2024, S. 2). § 138 Abs. 1 ZPO: Wahrheitspflicht zu Tatsachenbehauptungen. § 263 StGB: Betrug / Prozessbetrug — Risiko bei bewusster oder grob fahrlässiger Vorlage falscher Fundstellen; OLG Koblenz, NJW 2001, 1364: falsche Rechtsbehauptungen allein begründen in der Regel keinen Prozessbetrug, da Gerichte zur eigenverantwortlichen Rechtsprüfung verpflichtet sind (iura novit curia) — entbindet aber nicht von der Sorgfaltspflicht. AG Köln, Beschluss vom 02.07.2025 — 312 F 130/25: Gericht monierte Liste erfundener Zitate aus KI-Output in einem familienrechtlichen Verfahren. DAV-Stellungnahme 32/2025: Halluzinationsrisiko als berufsrechtlich relevantes Thema; Belegstellen vollständig zu prüfen, auch ohne konkreten Anlass.

## Vorgehen

1. **Quellenprüfung als Standard-Schritt**: In den Arbeitsablauf für jeden Schriftsatz und jede Beratung als festen Schritt integrieren: Jedes KI-generierte Zitat wird vor der Verwendung in der Originalquelle nachgeschlagen.
2. **Primärquellen nutzen**: Gerichtsentscheidungen aus offiziellen Portalen (z.B. openjur, Bundesgerichtshof-Website, ECLI-Suche), Gesetze aus dem Bundesgesetzblatt oder gesetze-im-internet.de.
3. **Dokumentation der Prüfung**: Im Arbeitsvermerk oder in der Akte festhalten, welche Fundstellen KI-generiert waren und wie die Verifikation erfolgte (Prüfer, Datum, Quelle).
4. **Vier-Augen-Prinzip bei kritischen Schriftsätzen**: Schriftsätze, die auf KI-generierte Fundstellen gestützt werden, sollten von einer zweiten Person vor Einreichung geprüft werden.
5. **Schulung zu Halluzinationsmustern**: Mitarbeitende müssen typische Muster erkennen lernen: besonders eloquente Formulierungen, genaue Randnummernangaben, unbekannte Senate oder Spruchkörper können Warnsignale sein.
6. **Konsequenz bei Auffinden einer Halluzination**: Gesamtes KI-generiertes Dokument erneut vollständig prüfen; keine selektive Verifikation.

## Vorlagentext / Bausteine

**Baustein Quellenprüfungspflicht:**
Alle von KI-Systemen generierten Fundstellen, Zitate, Gesetzesangaben und Rechtsprechungshinweise sind vor ihrer Verwendung in Schriftsätzen, Gutachten oder Beratungsunterlagen ausnahmslos anhand der Originalquelle zu verifizieren. KI-Systeme können Fundstellen erfinden, die nicht existieren. Ein Unterlassen der Prüfung stellt eine Verletzung der anwaltlichen Sorgfaltspflicht nach § 43 BRAO dar und kann Haftungsansprüche des Mandanten begründen.

**Baustein Vier-Augen-Prinzip:**
Schriftsätze, die unter wesentlicher Mitwirkung von KI-Systemen erstellt wurden, sind vor Einreichung bei Gericht oder Weitersendung an Mandanten von einer zweiten Person inhaltlich zu überprüfen. Dabei ist besonderes Augenmerk auf die Korrektheit aller Zitate und Fundstellen zu legen.

**Baustein Dokumentationsprotokoll:**
Für jeden Schriftsatz oder jede Beratungsunterlage, bei der KI-Systeme wesentlich mitgewirkt haben, wird ein Prüfprotokoll angelegt mit folgenden Angaben: Datum der Prüfung, Name der prüfenden Person, geprüfte Fundstellen und Verifikationsquelle, Ergebnis der Prüfung.

## Hinweise zur Aktualisierung

Gerichtliche Entscheidungen zum Umgang mit KI-generierten Fundstellen (insbesondere Entscheidungen zum Prozessbetrug oder zur anwaltlichen Haftung) sind laufend zu beobachten und in die Schulungsunterlagen aufzunehmen. BRAK und DAV werden ihre Stellungnahmen weiterentwickeln.
