# Vorschau: KI-Richtlinie-Musterkanzlei-Entwurf

> Lesbare Markdown-Vorschau der gleichnamigen DOCX-Datei. Massgeblich ist die DOCX-Originaldatei.

## Richtlinie zur Nutzung von KI-Systemen in [Name der Kanzlei]

Stand: [Monat/Jahr]

### 1. Künstliche Intelligenz („KI“) im Einsatz - worum geht es?

Diese Richtlinie schafft einen modernen Compliance-Rahmen für den sicheren und rechtskonformen Einsatz von KI, KI-Plattformen und Chatbots (nachfolgend auch KI-Systeme genannt) in deutschen Rechtsanwaltskanzleien. Die hierin enthaltenen allgemeinen Erwägungen sind jedoch auch für verwandte Berufsfelder wie Steuerberater, Wirtschaftsprüfer und Notare von Relevanz. KI-Plattformen und intelligente Chatbots verändern gerade die juristische Arbeitswelt grundlegend. Dabei entstehen neue Chancen, aber auch kritische Herausforderungen: Diese Systeme sammeln, speichern und verarbeiten enorme Datenmengen und bergen daher rechtliche Risiken, insbesondere bezüglich der Wahrung des Datenschutzrechtes, des anwaltlichen Berufsrechtes und beim Schutz von Geschäftsgeheimnissen.


Zugleich ist diese Richtlinie ein lebendiges Dokument, das sich ständig weiterentwickeln muss und aufgrund der Dynamik des Themas nur eine Momentaufnahme sein kann. Die KI-Technologie verändert sich in atemberaubendem Tempo, und parallel dazu entsteht ein völlig neuer Rechtsrahmen. Die bereits in Kraft getretene EU-KI-Verordnung ist dabei erst der Startschuss für eine neue Ära der Regulierung. Weitere Regeln auf EU-Ebene werden erarbeitet, nationale deutsche Gesetze sind anzupassen und Bundes- und Landesbehörden arbeiten derzeit daran, wie sie die europäischen Vorgaben konkret umsetzen werden. Es wird also eine Verwaltungspraxis entstehen, die es zu beobachten gilt. Zusätzlich schaffen Gerichte mit ihren Urteilen neue Maßstäbe. Diese Richtlinie berücksichtigt diese Dynamik und bleibt flexibel genug für notwendige Anpassungen.


### 2. Executive Summary

Der Einsatz von KI-Systemen wie Chatbots in Kanzleien ermöglicht in vielen Bereichen schnelleres und präziseres Arbeiten, birgt aber auch erhebliche rechtliche Risiken. Um diese Risiken zu minimieren oder gar auszuschließen und einen verantwortungsvollen Umgang mit KI zu gewährleisten, wurde diese Richtlinie als Empfehlung entwickelt. Rechtsanwälte können Chatbots und KI-Systeme zwar berufsrechtskonform nutzen, müssen aber insbesondere auf die anwaltliche Verschwiegenheitspflicht strikt achten. Sowohl Rechtsanwälte als auch nicht-anwaltliche Mitarbeiter dürfen ungeprüften KI-generierten Output nicht gegenüber Dritten als Rechtsrat verwenden.

Die wichtigsten Punkte im Überblick:

Unterstützendes Werkzeug: Nutzen Sie KI nur als Werkzeug, nicht als Ersatz für Ihre juristische Expertise. Die finale Verantwortung für rechtliche Bewertungen und die persönliche Leistungserbringung liegt stets bei den Anwältinnen und Anwälten.


Verschwiegenheit: Achten Sie strikt auf die anwaltliche Verschwiegenheitspflicht (§ 43a BRAO, § 203 StGB). Die Weitergabe von Mandatsgeheimnissen an KI-Dienstleister ist berufsrechtlich nur unter den engen Voraussetzungen des § 43e BRAO zulässig. Die sorgfältige Auswahl und vertragliche Bindung des Anbieters ist entscheidend.


Datenschutz & Geheimnisschutz: Personenbezogene Daten, Mandatsgeheimnisse und Geschäftsgeheimnisse dürfen nur in Ausnahmefällen und nach Möglichkeit anonymisiert in KI-Systeme eingegeben werden. Dokumente, Akten und Informationen müssen vor einem Upload anonymisiert werden. Im Zweifel ist der Upload zu unterlassen. Ausnahme: der entsprechende KI-Dienstleister sichert vertraglich und tatsächlich IT-Sicherheit und Berufskonformität und Datenschutzkonformität zu, dann keine eigene Schwärzung/Anonymisierung nötig (aber im Einzelfall bei Auswahl des KI-Anbieters zu prüfen).


Quellenprüfung & Risikobewusstsein: Auch wenn der Output der Chatbots plausibel klingt: die Ergebnisse sind kritisch zu hinterfragen. Zitate und Quellen müssen zwingend nachrecherchiert werden. KI kann schwer zu erkennende Fehler machen! Ein "Grundvertrauen" wie bei menschlichen Mitarbeitern ist nicht angebracht. Dies ist eine Kernkompetenz im Umgang mit KI.


Keine Privat-Accounts: Verwenden Sie für Ihre berufliche Tätigkeit in der Kanzlei nur vorab freigegebene KI-Accounts der Kanzlei, nicht Ihre privaten Accounts, um dem Compliance-Risiko der "Schatten-KI" entgegenzuwirken.


Kennzeichnung & Transparenz: Öffentliche KI-generierte Inhalte, die keiner menschlichen Verantwortung oder redaktionellen Kontrolle von Menschen unterliegen, müssen stets als solche gekennzeichnet werden. KI-generierte Inhalte müssen stets hinsichtlich möglicher Verletzungen von Urheber- und Persönlichkeitsrechten geprüft werden.

### 3. Was können die Chatbots? Potenziale und Metaphern für die juristische Praxis

Gegenstand dieser Richtlinie ist insbesondere der Einsatz der KI-basieren Chatbots von ChatGPT (von OpenAI), Copilot Pro (von Microsoft), Claude (von Anthropic), Gemini (von Google), Le Chat Mistral (von Mistral aus Frankreich) und Beck-Noxtua (von Xayn/CMS und dem Beck-Verlag), Juris-KI, Beamon (von BRYTER), LIBRA (von LibraTech), Harvey (aus den USA), Legora (aus Schweden) und vergleichbaren Angeboten und von darauf (ggf. per Schnittstelle/API) basierenden Plattformdiensten.

All diesen Chatbots ist gemeinsam, dass sie Texte, Informationen, Daten, Dokumente etc. ausgeben und zum anderen hochgeladene Texte, Informationen, Daten, Dokumente etc. verarbeiten können. Es handelt sich hierbei um die sogenannte generative künstliche Intelligenz, die auf sogenannten „Large Language Models“ („LLM“) basiert, die anhand großer Datenmengen maschinell trainierte neuronale Netze darstellen. Diese Chatbots sind meist cloud-basiert.

Die Nutzungsformen von KI in der juristischen Praxis lassen sich durch verschiedene Metaphern veranschaulichen: KI kann als eine Art Sprach-Taschenrechner für standardisierbare Routineaufgaben, als Tutor zur Unterstützung bei der Rechtserkenntnis, als Sparringspartner zur Schärfung der eigenen Argumentation, als Assistenzsystem für Zuarbeiten ohne autonome Entscheidung und letztlich als Werkzeug zur Erweiterung professioneller Fähigkeiten unter menschlicher Kontrolle dienen.

KI-Systeme können große Datenmengen analysieren, komplexe Vertragsdokumente auf Widersprüche prüfen und bei der Erstellung von Schriftsätzen helfen. Praktische Anwendungsbereiche umfassen die Due Diligence, die Überprüfung von Entwürfen auf Übereinstimmung mit der Aktenlage, erweiterte Recherche-Augmentation, die assistierte Dokumenten-Generierung, die Unterstützung in der Mandantenkommunikation und das automatisierte Wissensmanagement. Es ist denkbar, dass Mandanten zukünftig erwarten, dass die Arbeit von Berufsanfängern standardmäßig durch KI auf Kohärenz vorgeprüft wird, was die Effizienz steigert, aber auch Fragen zur Abrechnung aufwerfen kann.

Wichtig zu wissen: KI-Systeme sind Wahrscheinlichkeits-Maschinen und können ohne eine Anbindung an verifizierte Datenbanken fehlerhafte Zitate oder Fantasiefundstellen erzeugen. Dies wird auch „halluzinieren genannt“. Dies ist kein Bug, sondern eine inhärente Eigenschaft von Sprachmodellen, die darauf trainiert sind, statistisch wahrscheinliche Wortfolgen zu generieren, nicht aber, Faktenwissen zu speichern und abzurufen. Das „Halluzinieren“ kommt dann vor, wenn der Chatbot erkennt, dass er eine Information mitteilen müsste, diese Information aber nicht vorliegen hat, weswegen er sie so kohärent wie möglich erfindet, was faktisch falsch sein kann. Selbst professionelle Anbieter juristischer KI können derzeit nicht garantieren, dass alle Fundstellen existieren, arbeiten aber daran, dieses Problem zu beheben oder zu minimieren. Daher gilt: Jede einzelne Fundstellenangabe muss überprüft werden. Immer!

Die aktuelle Entwicklung zeigt einen vielversprechenden Lösungsansatz für das Halluzinationsproblem. Führende KI-Anbieter arbeiten intensiv an der systematischen Integration proprietärer traditioneller juristischer Datenbanken in ihre KI-basierten Rechtsinformationssysteme. Diese technologische Weiterentwicklung verspricht eine Verbesserung in der Verlässlichkeit KI-generierter juristischer Texte. Dieser aktuelle technische Lösungsansatz, um die Zuverlässigkeit zu erhöhen, wird „Retrieval-Augmented Generation“ (RAG) genannt, auch als „Grounding“ bezeichnet. Dieses Verfahren kombiniert die Stärken traditioneller, verifizierter Datenbanken mit den sprachlichen Fähigkeiten generativer KI-Modelle. Der Prozess funktioniert in zwei Schritten: 1. Retrieval (Abrufen): Stellt der Nutzer eine Anfrage, durchsucht das System zunächst eine angebundene, vertrauenswürdige Datenquelle (z.B. eine juristische Fachdatenbank oder eben die eigenen Dokumente aus der elektronischen Akte) nach relevanten Dokumenten, Urteilen oder Kommentarauszügen. 2. Generation (Erzeugen): Das Sprachmodell erhält anschließend die ursprüngliche Anfrage zusammen mit den gefundenen, relevanten Textstellen und wird angewiesen, seine Antwort ausschließlich auf Basis dieser Quellen zu formulieren. Dieses Vorgehen „erdet“ (grounding) die KI in der Faktenwelt der Datenbank und reduziert das Risiko von Halluzinationen erheblich, da das Modell nicht mehr auf sein allgemeines Trainingswissen zurückgreifen muss, sondern eine konkrete Wissensbasis nutzt. Dennoch entbindet auch dieser Ansatz nicht von der finalen anwaltlichen Prüfpflicht, da die KI zwar die Relevanz einer Quelle besser bewerten, aber den juristischen Kontext und dessen Nuancen nicht immer vollständig korrekt erfassen kann.


ABER: Auch nach der flächendeckenden Verfügbarkeit solcher integrierte Systeme, die keine Fundstellen mehr erfinden, gilt weiterhin der Grundsatz der sorgfältigen Überprüfung aller KI-generierten Fundstellen. Mit fortschreitender technischer Entwicklung wird sich jedoch die Vertrauenswürdigkeit KI-basierter Rechtsinformationssysteme kontinuierlich verbessern und damit deren praktischer Nutzen für die juristische Profession erheblich steigern. But please: Check your sources, always!


### 4. Was ist künstliche Intelligenz in rechtlicher Hinsicht?

Es existieren viele verschiedene technische und juristische Definitionen des Begriffes “Künstliche Intelligenz”. Die OECD hat Ende 2023 eine überarbeitete Definition verabschiedet, der sich die EU in der Verordnung über Künstliche Intelligenz (“AI Act”) angeschlossen hat. Die KI-VO ist die zentrale Rechtsquelle: Verordnung (EU) 2024/1689 (Verordnung über künstliche Intelligenz).

Die Definition des AI Acts für ein KI-System lautet:

„[Ein] „KI-System“ [ist] ein maschinengestütztes System, das für einen in wechselndem Maße autonomen Betrieb ausgelegt [ist], das nach seiner Einführung anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ergebnisse wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorgebracht werden, die physische oder virtuelle Umgebungen beeinflussen können[.]“


Diese gesetzliche Definition ist sehr weit und es ist diskutabel, was sie eigentlich rechtlich bedeutet. Klar ist aber auch: keines der derzeit existierenden KI-Systeme hat in irgendeiner Form ein Bewusstsein oder kann denken. Es handelt sich immer noch um Software, die von Menschen eingesetzt wird, selbst wenn sie partiell autonom agiert.

Inwieweit diese Definition aus der KIVO überhaupt relevant ist außerhalb des Anwendungsbereiches der KIVO ist noch nicht geklärt. Grundsätzlich regelt die KIVO eher eine Art Produkthaftung bzw. Risikohaftung. Berufsrechtliche und datenschutzrechtliche Ansätze sind aber gegebenenfalls anders. Es ist zu erwarten, dass sich insbesondere im Berufsrecht für Anwältinnen und Anwälte ein Begriff von KI durchsetzt, der sich vielleicht an diese Definition anlehnt, aber trotzdem eigenständig ist.


### 5. Fragen zum Einsatz von KI in Kanzleien

Seit ChatGPT von OpenAI Ende 2022 an die Öffentlichkeit ging (und im Nachgang auch Microsofts Copilot, Googles Gemini, Anthropics Claude und andere Chatbots direkt oder per API öffentlich zugänglich wurden) hat sich herausgestellt, dass alle diese Chatbots in der Lage sind, relativ präzise Aussagen zu Gesetzen, Rechtsprechung, Vertragsentwürfen und gerichtlichen Schriftsätzen nach deutschem Recht zu machen, und das in der Tendenz mit stetiger Verbesserung. Innerhalb des vergangenen Jahres wurde insbesondere die Zitierweise von deutschen Gesetzen, europäischen Normen und EuGH-Entscheidungen und beigefügter Aufsatz- und Kommentarliteratur ganz erheblich besser in der Nutzungspraxis dieser Chatbots. Die Chatbots können jetzt randnummerngenau zitieren. Aber ob das Zitat (wenn es denn existiert) auch passt, kann ausschließlich von einem Menschen entschieden werden!


KI-Systeme können also juristische Texte bewerten, damit arbeiten, diese verarbeiten und daraus oder in diesem Zusammenhang neue Texte generieren, welche in Kanzleien und Rechtsabteilungen nach deutschem Recht durchaus brauchbar sind. Dies alles funktioniert selbstverständlich nur, wenn ein erfahrener Nutzer mit juristischem Hintergrund einen Chatbot bedient, weil nur solch ein Nutzer beurteilen kann, ob das Ergebnis brauchbar und juristisch korrekt ist oder nicht.


Der Einsatz von KI durch Nichtjuristen/Laien für juristische Texterzeugung birgt das grundsätzliche Problem, dass solche Nutzer nicht beurteilen können, ob das vorgeschlagene Ergebnis etwas taugt und juristisch korrekt ist (was vor allem auch deshalb ein Problem ist, weil die Textvorschläge der Chatbots meist plausibel aussehen und nur ein Profi erkennen kann, was daran nicht stimmt).


Einige der wichtigsten Fragen in diesem Zusammenhang sind:

Verstößt der Einsatz von KI-Systemen in Kanzleien gegen die DSGVO. Ist ein datenschutzkonformer Einsatz überhaupt denkbar?

Verstößt der Einsatz von KI-Systemen in Kanzleien gegen das anwaltliche Berufsrecht?

Verstößt der Einsatz von KI-Systemen in Kanzleien gegen das Urheberrecht und was ist der urheberrechtliche Status des Outputs der Chatbots?

Kann es Möglichkeiten oder Angebote geben, womit potenzielle Rechtsverstöße beim Einsatz von KI-Systemen in Kanzleien technisch oder vertraglich ausgeschlossen werden können?


Hinweis:


Dieses Dokument beantwortet nicht die Frage und geht nicht darauf ein, ob die Technik, die all diesen KI-Systemen zugrunde liegt, insbesondere die sogenannten Stiftungsmodelle/Basis-Modelle („foundation models“, LLMs), welche im Wesentlichen gigantische Datensammlungen sind, überhaupt rechtskonform zustande gekommen sind. Dies wird nämlich gerade in der Literatur diskutiert und in den USA in einigen Gerichtsprozessen streitig erörtert (und hoffentlich am Ende gerichtlich geklärt).


Fraglich ist z.B., ob die zugrunde liegenden Sprachmodelle überhaupt in urheberrechtlich zulässiger Weise (Stichworte: fair use, Data/Text-Mining/Scraping, Urheberrechtsschranken) trainiert wurden. Es ist jedenfalls zu erwarten, dass - ganz gleich, wie der Klärungsprozesses ausfällt - es immer Anbieter von KI-Systemen geben wird, deren Sprachmodelle grundsätzlich zunächst rechtmäßig zustande gekommen sind und bei denen die darauf beruhenden Chatbots rechtmäßig agieren. Dies ist auch der industriepolitische Hintergrund des AI Acts, der KI Systeme zwar regulieren, aber gerade nicht verbieten, sondern stattdessen grundrechtssichernd/-schonend innerhalb der EU ermöglichen will.


### 6. Generelle Handlungsempfehlungen und rechtliche Rahmenbedingungen

#### 6.1 Verstößt der Einsatz von KI-Systemen in Kanzleien gegen die DSGVO?

Ein Verstoß gegen das Datenschutzrecht, also insbesondere die DSGVO, kann nur vorliegen, wenn personenbezogene Daten verarbeitet werden, vgl. Art. 2 Abs. 1 DSGVO. Grundsätzlich ist der Begriff der personenbezogenen Daten weit zu verstehen, er wird aber derzeit noch vom EuGH weiter konkretisiert und konturiert. Soweit es nur um Daten von Unternehmen und Maschinen geht, also lediglich um Informationen, aber nicht um personenbezogene Daten, ist die DSGVO gar nicht einschlägig.


Allerdings kann auch die Verarbeitung von personenbezogenen Daten nach der DSGVO rechtmäßig und damit zulässig sein. Es gilt nach Art. 6 DSGVO ein sogenanntes Verbot mit Erlaubnisvorbehalt, d.h. die Verarbeitung von personenbezogenen Daten ist grundsätzlich nicht erlaubt, es sei denn, es findet sich dafür eine Rechtfertigung. Die Rechtfertigungsgründe sind breit gefächert und vielfältig, sodass man allein aus der Tatsache, dass personenbezogene Daten beim Einsatz eines KI-Systems verarbeitet werden, nicht schließen kann, dass diese Verarbeitung stets unzulässig wäre. Dies ist eben im Einzelfall zu prüfen.


Bei der rechtlichen und/oder gerichtlichen Auseinandersetzung kann eine Verarbeitung der personenbezogenen Daten der eigenen Partei auf einer Einwilligung im Zusammenhang mit dem Mandatsvertrag beruhen, Art. 6 Abs. 1 a DSGVO, sowie auf einem berechtigten Interesse, Art 6. Abs. 1 f) DSGVO iVm Art. 9 Abs. 2 f DSGVO). Ebenso kann die Verarbeitung der personenbezogenen Daten der anderen Beteiligten auf einem solchen berechtigten Interesse beruhen und damit gestattet sein. Ob damit auch ein Versand der personenbezogenen Daten zur Verarbeitung in die USA zulässig ist, ist gleichfalls nach der DSGVO zu überprüfen, auch im Zusammenhang mit den Vereinbarungen zwischen der EU und den USA über den internationalen Datenverkehr und dessen Rechtfertigungsgründen.


Ist ein entsprechender Erlaubnistatbestand gegeben, so ist der Einsatz von KI-Systemen nach der DSGVO im Grundsatz gesetzlich zulässig. Im Umkehrschluss ist also festzuhalten, dass im Rahmen der Regelungssystematik der DSGVO der Einsatz von Chatbots nicht per se verboten ist. Allerdings überprüfen derzeit die europäischen Datenschutzbehörden die verschiedenen Anbieter von KI-Systemen darauf, ob sie ihre konkreten Angebote in Übereinstimmung mit der DSGVO betreiben.


Aus dem Markt ist bekannt, dass die großen Anbieter aus den USA (insbesondere OpenAI, Microsoft und Anthropic) sowie per API dazwischen geschaltete Anbieter aus Deutschland versuchen, sowohl technisch als auch vertragsrechtlich zu gewährleisten, dass beim Einfügen und Verarbeiten personenbezogener Daten in einen Chatbot die DSGVO eingehalten wird, z.B. durch Anonymisierung/Pseudonymisierung oder den Abschluss entsprechender Verträge über Daten-Auftragsverarbeitung etc. Hier bleibt abzuwarten, wie sich die Datenschutzbehörden dazu positionieren.


Wie ersichtlich, ist eine datenschutzrechtliche Prüfung durchaus kompliziert und von vielerlei Voraussetzungen abhängig, weswegen es prima facie empfehlenswert ist, keine personenbezogenen Daten im Umgang mit Chatbots einzusetzen, es sei denn man nutzt einen Anbieter, der vertraglich und technisch zusichert, dass er die Rechtmäßigkeit der Datenverarbeitung nach der DSGVO gewährleistet. Dies gilt insbesondere für Unternehmen, die personenbezogene Daten verarbeiten, da diese nach Art. 5 Abs. 2 DSGVO einer Rechenschaftspflicht unterliegen, also die Einhaltung der DSGVO nachweisen müssen und für die Einhaltung verantwortlich sind. Dies ist umso wichtiger, als dass der EuGH in den letzten Monaten die Schadensersatzhaftung von Unternehmen für Datenschutzverstöße nach Art. 82 DSGVO immer weiter verschärft bzw. die Haftung für Schadensersatz und die Verhängung von Bußgeldern weiter erleichtert hat.


Hinzu kommt, dass datenschutzrechtlich auch das Prinzip der Datenrichtigkeit zu beachten ist. Aufgrund des bereits beschriebenen Phänomens des Halluzinierens kann ein Chatbot über reale Personen falsche personenbezogene Daten erzeugen, was unter Umständen als Verstoß gegen die DSGVO zu bewerten sein kann. Ebenso kann dies eine Verletzung des Persönlichkeitsrechts der betreffenden Personen bedeuten.


Aufgrund des Halluzinierens können des Weiteren datenschutzrechtliche Betroffenenrechte im Allgemeinen (Auskunftsrecht nach Art. 15 DSGVO), Zweckbindungen und Transparenzanforderungen problematisch sein.


#### 6.2 Verstößt der Einsatz von KI-Systemen gegen das anwaltliche Berufsrecht?

Die Nutzung von Chatbots ist nach dem anwaltlichen Berufsrecht nicht per se verboten, aber es sind zentrale Grundsätze zu beachten.

Grundsatz 1: Eigenverantwortliche Überprüfung und Endkontrolle


Nach § 43 Satz 1 BRAO ist der Rechtsanwalt zur gewissenhaften Berufsausübung verpflichtet. Der Einsatz von KI-Systemen darf die anwaltliche Tätigkeit lediglich unterstützen, aber niemals ersetzen. Jedes von einer KI generierte Ergebnis muss einer eigenverantwortlichen Überprüfung und Endkontrolle durch die Rechtsanwältin oder den Rechtsanwalt unterzogen werden.


Die KI entscheidet nie, es entscheidet immer der Mensch!


Gewissenhaft handeln Rechtsanwältinnen und Rechtsanwälte also nur, wenn sie das Ergebnis der KI kritisch prüfen. Ein "Grundvertrauen", wie es erfahrenen Mitarbeitenden entgegengebracht wird, ist bei KI-generierten Arbeitsprodukten nicht angebracht. Belegstellen in KI-Texten sind vollständig zu prüfen, auch wenn keine konkreten Hinweise auf Halluzinationen vorliegen.



Grundsatz 2: Anwaltliche Verschwiegenheit (§ 43a Abs. 2 BRAO, § 203 StGB)


Die Wahrung des Anwaltsgeheimnisses ist oberstes Gebot. Die befugte (!) Zusammenarbeit mit externen Dienstleistern ist möglich unter den strengen Voraussetzungen des § 43e BRAO und § 203 Abs. 3, Abs.4 StGB (einer Vorschrift, die der fortschreitenden Digitalisierung auch in der Anwaltschaft Rechnung trägt, insbesondere hinsichtlich digitaler Dienstleister und Anbietern/Betreibern von IT-Systemen), ggf. iVm § 2 Abs. 4 lit. c BORA („Sozialadäquanz“).


Wählen Sie ihren Dienstleister stets sorgfältig aus und schließen Sie eine entsprechende Vereinbarung, die den Anbieter zur Verschwiegenheit verpflichtet und auf das strafrechtliche Risiko hinweist. Andernfalls kommt ggf. ein Verstoß gegen die Pflicht zur anwaltlichen Verschwiegenheit nach § 43a Abs. 2 S. 1 BRAO und § 2 BORA in Frage, sowie ein Verstoß gegen das nach § 203 Abs. 1 Nr. 3 StGB strafbare unbefugte (!) Offenbaren von fremden Geheimnissen, die einem Rechtsanwalt anvertraut wurden.


Ob die berufsrechtliche Rechtsprechung den Einsatz von KI durch Anwälte als sozialadäquat ansehen wird, insbesondere wenn ausländische Anbieter im Spiel sind, lässt sich nicht abschätzen; es ist eher zu erwarten, dass die Rechtsprechung restriktiv ausfällt und die Sozialadäquanz grundsätzlich verneint.

Im Markt ist aber auch bekannt, dass manche Anbieter von KI-basierten Dienstleistungen wie z.B. Übersetzungs-Plattformen deutschen Rechtsanwaltskanzleien und Rechtsabteilungen bereits vertraglich sogenannte „§ 43e BRAO-Erklärungen/Verträge” anbieten, wonach sie technisch und vertraglich zusichern, als Dienstleister aufzutreten, mit dem Rechtsanwälte zusammenarbeiten dürfen, ohne dass das Anwaltsgeheimnis verletzt wird. Es ist zu erwarten, dass auch die großen Anbieter von KI-Systemen aus den USA über kurz oder lang dergleichen anbieten werden. Bis dahin ist im Einzelfall zu überprüfen, ob das Anwaltsgeheimnis tangiert ist.


Grundsatz 3: Rechtsdienstleistungsgesetz (RDG) wahren


Wenn Nicht-Anwälte KI-Systeme zur Erstellung juristischer Texte nutzen und diese ungeprüft weitergeben, kann ein Verstoß gegen das RDG vorliegen. Etwaige Disclaimer der Anbieter, dass sie keinen Rechtsrat erteilen, sind rechtlich möglicherweise unbeachtlich. Soweit Nicht-Anwälte Chatbots juristisch einsetzen, kommt u.U. ein Verstoß gegen das sogenannte Rechtsberatungsmonopol nach dem RDG in Betracht: Rechtsberatung ist in Deutschland grds. nur mit Erlaubnis gestattet. Hinsichtlich der Anwendbarkeit des RDG kommt es darauf an, ob ein Chatbot tatsächlich Rechtsberatung erteilt oder lediglich einen „juristisch aussehenden“ Text erzeugt, den sich der Verwender zu eigen macht.



Grundsatz 4: Umgang mit "Halluzinationen" und die Gefahr des Prozessbetrugs


Die größte praktische Gefahr stellen die oben erwähnten sogenannten „Halluzinationen” dar – von KI frei erfundene, aber plausibel wirkende Zitate und Gerichtsurteile. Hier gilt wie schon gesagt die eiserne Regel:


Alle von einer KI generierten Fundstellen sind ausnahmslos auf ihre Existenz und ihren Inhalt hin zu überprüfen. Wer dies unterlässt, handelt pflichtwidrig und haftet für die Folgen.


Die unkritische Übernahme solcher KI-generierter Falschzitate wirft die Frage nach einem möglichen Prozessbetrug auf. Das OLG Koblenz hat jedoch bereits in einem Fall weit vor dem gegenwärtigen Einsatz von KI generell klargestellt, dass falsche Rechtsbehauptungen allein in der Regel keinen Prozessbetrug begründen, da Gerichte zur eigenverantwortlichen Rechtsprüfung verpflichtet sind (iura novit curia) und der Wahrheitspflicht nach § 138 ZPO nur Tatsachen, nicht aber Rechtsausführungen unterliegen (OLG Koblenz, NJW 2001, 1364). Diese technologieoffene Rechtsprechung entbindet aber nicht von der anwaltlichen Sorgfaltspflicht. Die Gefahr ist real, wie ein Fall des AG Köln in einer Familiensache (Beschluss vom 02.07.2025 - 312 F 130/25) zeigt, in dem das Gericht eine ganze Liste erfundener Zitate monierte.


Die 2025 von der BRAK veröffentlichten (unverbindlichen) Hinweise zum Einsatz von künstlicher Intelligenz unterstreichen nunmehr auch die anwaltliche Kernpflicht zur Verifizierung sämtlicher KI-generierter Inhalte. Der Leitfaden stellt auf Seite 2 unmissverständlich klar:


"Nach § 43 Satz 1 BRAO ist der Rechtsanwalt zur gewissenhaften Berufsausübung verpflichtet. [...] Der Einsatz von KI-Systemen [sollte] lediglich zur Unterstützung einer anwaltlichen Tätigkeit eingesetzt werden und darf diese nicht ersetzen. In jedem Fall ist eine eigenverantwortliche Überprüfung und Endkontrolle der KI-Ergebnisse durch die Rechtsanwältin/den Rechtsanwalt erforderlich." (Remmertz, Hinweise zum Einsatz von künstlicher Intelligenz (KI), BRAK. 8. Januar 2025, S. 2 - https://www.brak.de/newsroom/newsletter/nachrichten-aus-berlin/2025/ausgabe-1-2025-v-812025/kuenstliche-intelligenz-in-anwaltskanzleien-brak-veroeffentlicht-leitfaden/).


Ebenso hat jüngst der Deutsche Anwaltverein (DAV) in seiner (unverbindlichen) Stellungnahme konkretisiert, dass ein vorsichtiger Umgang mit den Risiken von KI nötig sei. Anwältinnen und Anwälte müssen sich demnach des Risikos des „Halluzinierens“ – “der Erzeugung falscher oder erfundener Informationen, die von der KI überzeugend als Fakten dargestellt werden” – stets bewusst sein: “Gewissenhaft handeln Rechtsanwältinnen und Rechtsanwälte also nur, wenn sie das Ergebnis der KI kritisch prüfen, sofern eine solche Überprüfung nicht explizit im Mandatsvertrag ausgeschlossen ist. (...) Belegstellen in KI-Texten sind vollständig zu prüfen, auch wenn keine konkreten Hinweise auf Halluzinationen vorliegen. Das geht sicher über die Prüfung des Entwurfs einer Kollegin oder eines Kollegen hinaus, ist aber geboten. Ein "Grundvertrauen" wie in langjährige, erfahrene und zuverlässige Mitarbeitende kann KI-generierten Arbeitsprodukten (jedenfalls noch) nicht entgegengebracht werden. (...) Die typischen Risiken bei der Arbeit mit KI sollten bekannt sein (...). Es ist nicht erforderlich, das Phänomen technisch erklären zu können, wohl aber, zu wissen, dass Halluzinationen unvorhersehbar auftreten können.” (DAV, Initiativ-Stellungnahme zum Einsatz von KI in der Anwaltschaft, Stellungnahme Nr. 32/2025, Berlin, Juli 2025.)


Der Leitfaden der BRAK und die Stellungnahme des DAV sind als Softlaw sicherlich sehr hilfreiche Diskussionsbeiträge zum Phänomen der KI-Halluzination. Sollten sich späterhin Gerichte sich darauf stützen, kann es auch sein, dass hierdurch die berufsrechtlichen Mindeststandards im Umgang mit KI-Output konkretisiert werden.




#### 6.3 Verstößt der Einsatz von KI-Systemen in Kanzleien gegen das Urheberrecht?

Ob der Output von KI-Systemen urheberrechtlich geschützt ist, ist umstritten, da es urheberrechtlichen Schutz gemäß § 2 Abs. 2 UrhG nur für geistige Schöpfungen gibt, womit menschliche Schöpfungen gemeint sind. Eine von einem Menschen geschaffene Instruktion (ein sogenannter Prompt) an einen Chatbot kann ab einem gewissen Level eine solche Schöpfungshöhe erreichen und damit urheberrechtlich geschützt sein. Der Output ist jedoch regelmäßig von der KI erzeugt und entbehrt insoweit eines menschlichen Schöpfers, weshalb wohl kein urheberrechtlicher Schutz besteht. Dieser würde erst dann entstehen, wenn man den maschinengenerierten Text mit menschlich erzeugtem Text mit Schöpfungshöhe vermischt.


Lädt man urheberrechtlich geschützte Texte hoch, z.B. juristische Artikel oder Kommentare oder auch Nachrichten/Zeitungsartikel und dergleichen, ist das Urheberrecht regelmäßig berührt und es ist vorab zu prüfen, ob für eine solche Verwertung eine Nutzungserlaubnis/Lizenz vorliegt, z.B. durch die AGB einer Website, von der urheberrechtlich geschützte Inhalte übernommen werden. Ggf. kann auch eine der gängigen Urheberrechts-Schranken einschlägig sein. Bei der Verwertung von urheberrechtlich geschützten Inhalten innerhalb der Chatbots ist also höchste Vorsicht geboten, selbst wenn unter Umständen die Entdeckungswahrscheinlichkeit gering ist, weil die Urheber nicht sehen können, ob ihre Inhalte in die Chatbots einkopiert werden.


Es gibt jedoch eine wichtige Bereichsausnahme, siehe § 5 UrhG: Gesetze, Verordnungen, amtliche Erlasse und Bekanntmachungen sowie gerichtliche Entscheidungen usw. genießen keinen urheberrechtlichen Schutz. Sie sind urheberrechtsfrei, also gemeinfrei. Man darf sie kopieren, bearbeiten, veröffentlichen etc., also auch in eine eigene KI-Plattform hochladen und damit arbeiten. All dies ist urheberrechtlich unkritisch.


Vorsicht ist geboten, wenn man eigentlich urheberrechtsfreie Urteile nicht von einer offiziellen Gerichts-Website entnimmt, sondern aus einer proprietären juristischen Datenbank, da diese gegebenenfalls weitere Bestandteile enthalten, die von dem jeweiligen Datenbankanbieter hinzugefügt wurden und gegebenenfalls doch urheberrechtlichen oder einen anderen immaterialgüterrechtlichen (Leistungsrechts-) Schutz (z.B. nach dem Datenbankherstellerrecht) genießen. Grundsätzlich ist darauf zu achten, dass die veröffentlichten Gerichtsentscheidungen auf die übliche Weise pseudonymisiert wurden (manche sagen auch: anonymisiert, was aber häufig nicht möglich ist, da zumindest das Aktenzeichen bei einer Entscheidung immer genannt wird), um zu vermeiden, dass es bei der Nutzung von Urteilen zur Verarbeitung personenbezogener Daten kommt.


6.4 Verstöße gegen das Geschäftsgeheimnisschutzgesetz (GeschGehG)?


Das Gesetz zum Schutz von Geschäftsgeheimnissen (GeschGehG) schützt vertrauliche Informationen von wirtschaftlichem Wert vor unerlaubter Erlangung, Nutzung und Offenlegung. Bei der Nutzung von KI-Systemen ist das GeschGehG relevant, wenn vertrauliche Mandatsinformationen, die als Geschäftsgeheimnis im Sinne des § 2 Nr. 1 GeschGehG gelten, an externe Dienstleister übermittelt werden.


Allerdings stellt § 1 Abs. 3 Nr. 1 GeschGehG klar, dass der berufs- und strafrechtliche Schutz nach § 203 StGB unberührt bleibt. In der anwaltlichen Praxis wird der Schutz durch das GeschGehG daher weitgehend von den strengeren berufsrechtlichen Vorschriften (§ 43a BRAO, § 2 BORA) und dem Strafrecht (§ 203 StGB) überlagert. Für eine Verletzung der anwaltlichen Schweigepflicht ist es demnach unerheblich, ob der Mandant angemessene Geheimhaltungsmaßnahmen im Hinblick auf die in Rede stehende Information getroffen hat. Allerdings muss ggf. mit Mandanten vorher geklärt werden, ob ein KI-Einsatz ein Geschäftsgeheimnis im Sinne des GeschGehG tangieren würde, denn nachher kann es zu spät und der Schutz erloschen sein.


#### 6.4 Technische und vertragliche Absicherungsmöglichkeiten

Im Markt ist bekannt, dass die großen Anbieter mit ihren sogenannten Enterprise-Angeboten für Geschäftskunden vermehrt vertraglich und technisch zusichern (wollen), die in das KI-System geschickten/hochgeladenen Informationen möglichst schonend und mit wenig bzw. gar keiner Verletzung von Datenschutz-, Berufsrechts- und Urheberrechtsvorschriften zu verarbeiten. Ob dies rechtlich und tatsächlich gelingt, bleibt abzuwarten. Es ist aber davon auszugehen, dass je nach Aufwand die Anbieter durchaus in der Lage sein werden, viele Probleme abzuschichten.

Dennoch besteht auch die Gefahr, dass menschliche Nutzer eines solchen Systems einen Verstoß gegen Datenschutz, Berufsrecht oder Urheberrecht begehen, weil sie diese Systeme entgegen der Nutzungs-Vereinbarung oder der technischen Leistungsfähigkeit benutzen. Das ist auch nicht weiter ungewöhnlich, da es auch durch die Nutzung gängiger digitaler Systeme, zum Beispiel über E-Mail, jederzeit möglich ist, dass durch eine irrtümliche Versendung von personenbezogenen Daten, z.B. einer Klageerwiderung an den falschen Empfänger, Datenschutz und Anwaltsgeheimnis verletzt werden. Dies soll durch Richtlinien wie diese und Compliance Trainings etc. vermieden werden.

Ein zentrales Instrument ist der Vertrag mit dem Dienstleister. Jeder Vertrag mit einem KI-Dienstleister muss nicht nur eine Auftragsverarbeitungsvereinbarung (AVV) nach der DSGVO enthalten, sondern zwingend auch eine Vereinbarung und Belehrung nach § 43e BRAO. Diese ist entscheidend, da sie die Nutzung erst befugt im Sinne des § 203 StGB macht. Dadurch wird der Dienstleister auch strafprozessual privilegiert und unterliegt dem Zeugnisverweigerungsrecht nach § 53a StPO sowie dem Beschlagnahmeschutz nach § 97 StPO.


#### 6.5 Besonderheiten bei ausländischen KI-Dienstleistern (§ 43e Abs. 4 BRAO)

§ 43e Abs. 4 BRAO gestattet Anwälten ausdrücklich, IT-Dienstleister aus dem EU-Ausland und aus Drittstaaten (z.B. USA) zu beauftragen. Voraussetzung ist, dass der dortige Schutz der Geheimnisse dem im Inland vergleichbar ist. Der Gesetzgeber hat bewusst auf starre Vorgaben wie eine Positivliste verzichtet und der Anwaltschaft die eigenverantwortliche Prüfung und Abwägung im Einzelfall übertragen.

Während die DSGVO strenge formale Anforderungen an den Drittstaatentransfer stellt (z.B. Angemessenheitsbeschluss; Standardvertragsklauseln, Impact Assessment), ist die berufsrechtliche Regelung pragmatischer. Es kommt auf eine funktionale Vergleichbarkeit an, nicht auf einen formalen Gleichlauf der Rechtssysteme in DSGVO und BRAO, wobei man einen Konflikt zwischen DSGVO und BRAO auch vermeiden sollte. Die Anwaltschaft muss und kann aber keine umfassende Analyse ausländischer Regelungen für den Schutz des Anwaltsgeheimnis durchführen. In der Praxis bedeutet dies, sich auf vertragliche Zusicherungen, anerkannte Zertifizierungen und eine plausible, dokumentierte Risikobewertung zu stützen. Durch eine sorgfältige Auswahl und einen soliden Vertrag nach § 43e BRAO kann die Nutzung ausländischer KI-Dienste berufsrechtskonform sein, auch wenn datenschutzrechtliche Fragen gesondert zu bewerten sind.

### 7. Spezifische Richtlinien-Vorgaben für den Einsatz von KI in Kanzleien samt Erläuterungen

In Ergänzung zu den vorstehenden generellen Überlegungen und rechtlichen Warnhinweisen werden im Folgenden einige praktische Vorschläge unterbreitet, mit denen in einer Kanzlei erreicht werden kann, dass Rechtsverstöße bei der Benutzung von KI-Systemen vermieden bzw. weitestgehend minimiert werden. Der dabei verfolgte Ansatz ist, eine möglichst umfassende Compliance/Einhaltung des geltenden Rechts innerhalb der Kanzlei zu erreichen:

#### 7.1 Umgang mit "Schatten-KI"

Gehen Sie davon aus, dass Ihre Mitarbeiterinnen und Mitarbeiter im Rahmen ihrer beruflichen Tätigkeit insgeheim oder ganz offen KI-Systeme bzw. Chatbots benutzen. Besprechen Sie dies mit Ihren Mitarbeiterinnen und Mitarbeitern, schulen Sie diese und dokumentieren Sie diese Schulung. Dadurch minimieren Sie bereits die Wahrscheinlichkeit von Verstößen. Besprechen Sie, warum der Einsatz dieser KI-Systeme im jeweiligen Bereich in einigen Fällen problematisch bzw. rechtswidrig, aber in anderen Fällen durchaus zulässig und vor allen Dingen sehr nützlich sein kann. Erfragen Sie aber auch, warum die Mitarbeiterinnen und Mitarbeiter diese Chatbots nützlich finden, weil sich daraus unter Umständen ableiten lässt, wo es in Ihrer Kanzlei oder Rechtsabteilung Probleme gibt, welche die Mitarbeiter dazu bringen, ggf. ungeprüft und ohne die rechtlichen Folgen zu bedenken, Chatbots zu benutzen.

#### 7.2 Chatbot-Compliance-Regelung für KI, ChatGPT & Co

Erlassen Sie klare Regeln als Leitfaden für Ihre Kanzlei oder Rechtsabteilung. Der entsprechende Regelsatz könnte beispielhaft wie folgt lauten:

Beim Einsatz von KI in unserem Unternehmen respektieren wir die Grundrechte und die menschliche Selbstbestimmung, achten auf Fairness, Diskriminierungsfreiheit, Schadensvermeidung, Erklärbarkeit und Transparenz.


Bei Fragen, Zweifeln oder einem Störgefühl bei der Verwendung von Chatbots muss man sich vorher an den Datenschutz-/KI-Beauftragten oder die Geschäftsführung wenden und um Rücksprache bitten.


Wir benutzen keinen privaten Account für einen Chatbot, sondern nur einen Account unseres Unternehmens.


Wir kopieren keine personen- oder geschäftsbezogenen Daten unserer Mandanten oder Mitarbeiter in den Chatbot hinein. Wir anonymisieren vorher, soweit möglich.


Wir laden keine Dokumente, Unterlagen oder Aktenbestände direkt als PDF oder in einem anderen Format in einen Chatbot hoch, ohne diese vorher anonymisiert zu haben. Soweit die Anonymisierung sehr schwierig und/oder umfangreich und damit fehleranfällig ist, wird generell davon abgeraten, solche Informationen hochzuladen.


Dieses ist ausnahmsweise aber dann möglich wenn mit einem KI-Anbieter eine glaubwürdige vertragliche Vereinbarung besteht, wonach eine Anonymisierung und Verschlüsselung und damit auch Schwärzung nicht nötig ist, weil der KI-Anbieter entsprechende Risiken vertraglich und tatsächlich in rechtskonformer weise nach DSGVO und BRAO auffängt.


Wir wahren bei der Verarbeitung personenbezogener Daten durch KI-Systeme die Grundsätze der Zweckbindung, Datenminimierung und Vermeidung sensibler Daten.


Es ist zu beachten, dass sowohl der Output von KI-Systemen als auch die verwendeten Prompts Geschäftsgeheimnisse oder andere schützenswerte Informationen enthalten können. Mitarbeiter sind diesbezüglich zur Vertraulichkeit verpflichtet.


Chatbots sind keine Suchmaschinen! Jede von Chatbots ausgegebene Information muss separat Korrektur gelesen und überprüft werden.


Wir überprüfen jeden KI-generierten Text durch einen Menschen insbesondere auf juristische Korrektheit und Kohärenz. Es werden keine von einer KI generierten Texte ungeprüft übernommen oder weiterverwendet. Texte (E-Mails, Memos, Schriftsätze, etc.), die an Dritte herausgehen und von Anwälten verantwortet/unterschrieben werden, sind vorher von diesen Anwälten persönlich auf inhaltliche Korrektheit zu überprüfen samt Verifizierung aller Zitate und Fundstellen aus Rechtsprechung und Literatur.


Wir verlassen uns nicht auf eine KI-generierte Zusammenfassung eines Dokumentes oder eines Sachverhaltes oder einer Rechtslage, sondern überprüfen diese mit unserem juristischen Sachverstand unter Abgleichung mit den zugrunde liegenden Informationen oder Dokumenten.


KI-generierte Inhalte sind grds. immer als solche zu kennzeichnen und vor der Weiterverwendung auf mögliche Urheber- und IP-Rechte Dritter zu überprüfen. Zudem ist - soweit möglich - zu dokumentieren, welche Prompts und Eingaben zu dem jeweiligen Output geführt haben.


#### 7.3 Weitere organisatorische Maßnahmen

Die Kanzlei sollte den Datenschutzbeauftragten eng einbinden, sowohl bei Erstellung der internen Compliance-Regelung als auch bei den datenschutzrechtlichen Schulungen in Bezug auf KI-Systeme.


Ebenso sollte eine Berufsausübungsgemeinschaft den Berufsrechtsbeauftragten (falls vorhanden) nach § 31 BORA im Zusammenhang mit KI-Systemen damit beauftragen, berufsrechtliche Verstöße zu verhindern oder zumindest frühzeitig zu erkennen und entsprechende berufsrechtliche Schulungen mit den Mitarbeiterinnen und Mitarbeitern durchzuführen. Der Berufsrechtsbeauftragte sollte ebenfalls eng eingebunden werden bei der Erstellung der internen Compliance-Regelung.


Die Kanzlei sollte, wenn man KI-Systeme nutzen will und intern für zulässig hält, eigene Accounts bei den gängigen KI-Systemen anlegen (auch bei den API-Zugängen), selbstverständlich nach vorheriger datenschutzrechtlicher und berufs- rechtlicher Prüfung und den gegebenenfalls notwendigen Folgenabschätzungen. So verhindert man, dass eventuelle rechtlich relevante Bedienungsfehler noch verschlimmert werden, weil sie in den privaten Bereich der Mitarbeiterinnen und Mitarbeiter hineinspielen.


So erreicht man auch, dass die Datenverarbeitung im Zusammenhang mit diesen KI-Systemen innerhalb der Organisation stattfindet, weil diese der Inhaber des entsprechenden Accounts ist. Zu überlegen ist, für die Kanzlei nicht nur einen Account anzulegen, den alle Mitarbeiterinnen und Mitarbeiter benutzen, weil hier nicht immer nachvollzogen werden kann, was wann von wem getan wurde. Besser ist es, für die verschiedenen Mitarbeiterinnen und Mitarbeiter eigene Accounts im Namen der Kanzlei oder Rechtsabteilung anzulegen.


Überprüfen Sie arbeitsrechtlich, ob im Zusammenhang mit der Nutzung von KI-Systemen der Betriebsrat oder andere Gremien einzubinden sind.


Machen Sie allen Mitarbeiterinnen und Mitarbeitern klar, dass insbesondere die sensiblen Daten nach Art. 9 Abs. 1 DSGVO (personenbezogene Daten, aus denen die rassische und ethnische Herkunft, politische Meinungen, religiöse oder weltanschauliche Überzeugungen oder die Gewerkschaftszugehörigkeit hervorgehen, sowie genetische Daten, biometrische Daten zur eindeutigen Identifizierung einer natürlichen Person, Gesundheitsdaten oder Daten zum Sexualleben oder der sexuellen Orientierung) nicht mit KI-Systemen verarbeitet werden dürfen, es sei denn, es ist eine Ausnahme nach Art. 9 Abs. 2 DSGVO gegeben (siehe insbesondere Art. 9 Abs. 2 lit. f DSGVO („[es sei denn], die Verarbeitung ist zur Geltendmachung, Ausübung oder Verteidigung von Rechtsansprüchen oder bei Handlungen der Gerichte im Rahmen ihrer justiziellen Tätigkeit erforderlich.“).


Dokumentationspflichten: Es muss geprüft und festgelegt werden, wie die Output-Ergebnisse der KI-Systeme und auch die Eingaben dauerhaft dokumentiert werden, um gegebenenfalls später nachweisen zu können, dass kein Rechts- oder Compliance-Verstoß vorgelegen hat.


Training: Verfügt Ihre Kanzlei oder Rechtsabteilung über proprietäre Informationen und/oder urheberrechtlich geschützte Materialien (eigene juristische Beiträge, Programm-Code etc.) müssen Sie prüfen, ob zu befürchten ist, dass die KI-Systeme davon lernen, wenn die betreffenden Informationen in Chatbots hineinkopiert oder hochgeladen werden.


Das ist nicht unbedingt wahrscheinlich, weil die Anbieter der Chatbots regelmäßig mit dem Input der User nur die Sprachfertigkeit ihrer KI trainieren, ihre KI aber nicht von dem Input der User inhaltlich lernen lassen, weil die Anbieter nicht wissen, ob die User inhaltlich richtige oder fehlerhafte Inhalte in den Chatbot hochladen. Die Anbieter wissen also nicht, von welcher Güte und Qualität die Inhalte sind, die die Nutzer mit ihren Chatbots verarbeiten. Theoretisch wäre dies aber denkbar.


Unter Umständen müssen Sie vor dem Einsatz direkten Kontakt mit dem jeweiligen Anbieter eines Chatbots aufnehmen und klarstellen lassen, dass dessen KI-System von diesen Inhalten nicht lernen darf. Hier sollte darauf geachtet werden, einen expliziten opt-out vom KI-Training vertraglich zu vereinbaren und zu dokumentieren. Soweit die Plattformen bereits jetzt per Klick erlauben, das Training mit den eingegebenen Daten abzuschalten und dem zu widersprechen, sollte diese Option organisationsübergreifend ausgewählt werden. Dies ist z.B. bei Chat GPT unter den „Data Controls“ möglich (wobei nicht leicht zu überprüfen ist, ob sich OpenAI dann auch an den opt-out/Widerspruch hält; dieses Memorandum geht aber davon aus, dass sich auch die Anbieter aus den USA grundsätzlich an ihre Verträge und die für sie geltende Rechtslage halten).


Verletzung des Mandatsgeheimnisses durch KI-Training: Dieses Risiko ist real und international anerkannt. So betonen beispielsweise Leitlinien der American Bar Association (ABA) in den USA, dass Anwälte sicherstellen müssen, dass Mandantendaten nicht zum Training von KI-Modellen verwendet werden, um die anwaltliche Schweigepflicht zu wahren. Die Wahl eines Anbieters, der einen vertraglichen und technischen Opt-out vom Training garantiert, ist daher nicht nur eine technische, sondern eine zentrale berufsrechtliche Anforderung.



Transparenz im Umgang mit Gerichten, anderen Kanzleien, Rechtsabteilungen und Mandanten: Die Kanzlei muss sich überlegen, ob sie gegebenenfalls ihren internen Gebrauch von KI-Systemen gegenüber Dritten offenlegt, um vor der Vereinbarung einer Zusammenarbeit klarzustellen, ob dieser Gebrauch zulässig und auch für die andere Seite akzeptabel ist. Ebenso sollte in Zusammenarbeit mit Dritten von der Kanzlei klargestellt werden, dass man ähnliche Transparenzanforderungen auch an die anderen Partner stellt, diese also auch zu einem verantwortungsvollen Umgang mit KI-Systemen aufgefordert werden.


In den USA zeichnet sich bereits ab, dass manche Gerichte einen diesbezüglichen Hinweis verlangen, wenn größere Bestandteile eines juristischen Schriftsatzes, der bei Gericht eingereicht wird, mit KI generiert worden sind. Ferner wird vereinzelt die Klarstellung verlangt, dass der betreffende Schriftsatz dann noch von einem Menschen überprüft worden ist. Es ist ratsam, sich darauf einzustellen, auch in Deutschland Rückfragen der Gerichte in dieser Hinsicht zufriedenstellend beantworten zu können.


Durch Urheber-, Immaterialgüter- oder Leistungsschutzrechte geschützte Wirtschaftsgüter der Mandanten oder des Unternehmens sollten nicht ohne vorherige schriftliche Zustimmung mit KI-Systemen verwertet oder bearbeitet werden, weil die Mandanten oder das Unternehmen gegebenenfalls eine andere Vorstellung von IT-Sicherheit oder auch KI-Compliance haben als die Kanzlei selber.


Setzt man KI-Systeme zur juristischen Analyse von Dokumenten, Gesetzen, Gerichtsentscheidungen, Verträgen oder sonstigen juristischen Texten ein, um diese entweder besser zu verstehen oder darauf Antworten zu entwerfen, sollte zuvor jedem Mitarbeiter und jeder Mitarbeiterin in einer Schulung klargemacht werden, dass die KI-Systeme, selbst wenn sie sehr leistungsfähig sind, versehentlich „plausiblen Unfug“ in Form von sog. Halluzinationen generieren können, der schwierig zu erkennen sein kann, weil er gegebenenfalls sehr eloquent geschrieben ist. Hier ist höchste Vorsicht geboten.


Vorurteile/Bias/Diskriminierung: Die derzeitigen KI-Systeme beruhen auf großen Mengen von Sprachdaten, die möglicherweise vorurteilsbehaftet sind und zu Diskriminierungen führen können. Die Mitarbeiterinnen und Mitarbeiter müssen darin geschult werden, zu erkennen, ob KI-generierte Texte und sonstige Inhalte gegebenenfalls gegen Anti-Diskriminierungsgesetze, Gleichbehandlungs- oder entsprechende interne Compliance-Vorschriften verstoßen. Gegebenenfalls müssen solche Ergebnisse gelöscht oder zumindest intern gemeldet werden.


Verbot automatisierter Entscheidungen: Auch ohne den AI Act ist es in der EU bereits jetzt verboten, als Mensch einer ausschließlich automatisierten Entscheidung unterworfen zu sein, Art. 22 DSGVO. Beim Einsatz der Chatbots und auch bei der Schulung der Mitarbeiterinnen und Mitarbeiter diesbezüglich muss darauf geachtet werden, dass niemand eine Letztentscheidung an das KI-System delegiert und diese nur noch formell übernimmt.


Obacht bei der juristischen Recherche: es ist durchaus möglich, dass ein Chatbot fiktive Fälle erzeugt, falsche Gesetzeszitate oder Rechtsprechungs-Fundstellen, juristische Kommentare oder Fachbücher erfindet und nicht vorhandene juristische Aufsätze erwähnt und zitiert. Die zugrunde liegenden Sprachmodelle sind mit großen Datenmengen trainiert worden, haben aber nicht den gleichen auf Korrektheit und Kohärenz redaktionell überprüften Datenbestand wie die juristischen Fach-Datenbanken. Deswegen taugen die Chatbots auch nicht zur juristischen Recherche, jedenfalls nicht solange sie nicht wenigstens mit einer Internet-Suchmaschine verknüpft sind oder gegebenenfalls sogar mit einer juristischen Datenbank. Diesbezüglich muss die Performance jedes einzelnen KI-Systems geprüft und bewertet werden.

### 8. Exkurs: Rechtsberatung durch KI-Chatbots/berufsrechtliche Zulässigkeit der KI-Chatbot-Nutzung:

Zur berufsrechtlichen Zulässigkeit der anwaltlichen Nutzung von Chatbots existiert noch keine (höchstrichterliche) Rechtsprechung. Zudem ist die Thematik in der Literatur umstritten. Trotz all dieser Unwägbarkeiten kann man folgendes vorläufig festhalten:

Output eines Chatbots als Rechtsberatung:


Das anwaltliche Berufsrecht legt fest, dass Rechtsanwälte bei der Erbringung rechtlicher Dienstleistungen die Verantwortung für die Qualität und die Richtigkeit der Beratung tragen. Anwälte dürfen in der Regel also nicht davon ausgehen, von einem Chatbot Rechtsberatung zu erhalten.


Vielmehr nutzen sie die KI-Systeme, ähnlich wie eine juristische Datenbank, nur als Werkzeug zur Unterstützung bei der Erstellung juristischer Texte, die sie selbst prüfen und freigeben. Wenn ein Rechtsanwalt also KI-Systeme nutzt und deren Ausgaben in die Beratung einfließen lässt, muss durch ihn sichergestellt sein, dass die finale Rechtsberatung den berufsrechtlichen Anforderungen entspricht.


Für Anwälte ist die bloße Verwendung von KI zur Informationsgewinnung oder zur Vorbereitung von juristischen Texten demnach berufsrechtlich zulässig, solange der Rechtsanwalt die abschließende rechtliche Bewertung vornimmt und sich nicht unkritisch auf die KI verlässt. Solange die KI-Systeme also lediglich als Werkzeug zur Unterstützung der anwaltlichen Tätigkeit eingesetzt werden und keine eigenständigen rechtlichen Bewertungen vornehmen, dürfte eine solche Nutzung berufsrechtlich grundsätzlich zulässig sein.


Wenn andere Personen als Rechtsanwälte die Ergebnisse der Chatbots als juristische Ergebnisse ansehen und auch in diesem Sinne an Dritte weiterleiten, könnte es hingegen sein, dass der Chatbot hier zur Rechtsberatung eingesetzt wird. Zum einen als Rechtsberatung gegenüber dem Mitarbeiter und zum anderen als Rechtsberatung durch den Mitarbeiter gegenüber Dritten, ohne dass dafür eine Erlaubnis vorliegt. Vorsicht ist also geboten beim juristischen Einsatz von Chatbots durch Nicht-Anwälte. Diese Mitarbeiter sollten bei der Verwendung von KI-Outputs besondere Vorsicht walten lassen und vermeiden, diesen ausdrücklich oder konkludent als Rechtsrat zu verwenden.


Berufsrechtliche Zulässigkeit der Nutzung von Chatbots:


Die Nutzung von KI-Systemen durch Kanzleien wirft die Frage auf, inwieweit diese Praxis mit den berufsrechtlichen Pflichten, insbesondere der Gewährleistung der Mandanteninteressen und der anwaltlichen Verschwiegenheit vereinbar ist.


Es stellen sich Fragen im Hinblick auf die DSGVO und die anwaltliche Verschwiegenheit, die strafrechtlich flankiert wird. Naheliegend ist, dass bei einem Input, der vorher bestmöglichst (automatisiert) anonymisiert wurde, keine datenschutzrelevante Verarbeitung und auch keine Verletzung der anwaltlichen Verschwiegenheitspflicht vorliegen kann, weil der Chatbot überhaupt nicht sieht, was er dort verarbeitet: das Ziel wäre, durch technische Maßnahmen zu erreichen, dass keine Verarbeitung von personenbezogenen Daten vorliegt und auch das Anwaltsgeheimnis nicht tangiert wird.


Im Einzelnen:


Grundsätzlich sollte man in der Organisation prüfen, ob bei der juristischen Nutzung (durch Anwälte und Nicht-Anwälte) von Chatbots regelmäßig eine Rechtsdienstleistung vorliegt. Das könnte fernliegen, sofern es sich nicht um eine auf Rechtsberatung gerichtete Tätigkeit handelt, selbst wenn juristisch gepromptet wird, da die Nutzer aufgrund der Selbstpräsentation und regelmäßigen Disclaimer der Chatbots auch nicht die Erwartung haben dürften, rechtlich durch die Chatbots beraten zu werden.


Im Einzelfall kann aber sehr wohl eine anwaltliche, rechtsberatende Tätigkeit (d.h: RDG-relevant) sowie eine Befassung mit konkreten Fällen in einer fremden Rechtssache vorliegen. Ein Disclaimer der Chatbot-Anbieter könnte zudem generell unbeachtlich sein, sofern es auf eine objektive Betrachtung ankommt und weil Verstöße gegen das RDG auch fahrlässig begangen werden könnten. Fraglich ist stets, ob im Sinne von § 2 Abs. 1 RDG Folgendes vorliegt: „Rechtsdienstleistung ist jede Tätigkeit in konkreten fremden Angelegenheiten, sobald sie eine rechtliche Prüfung des Einzelfalls erfordert.“


Während manche meinen, dass bei Chatbots aufgrund deren fehlender Absicht, Rechtsdienstleistungen anzubieten, und der mangelnden Zurechenbarkeit der Antworten auf einen Menschen keine solche Tätigkeit vorliegt, sehen andere eine solche Tätigkeit auch bei KI-Systemen gegeben, da deren Funktion letztlich auf menschliches Tun zurückzuführen sei.


 Es ist derzeit nicht höchstrichterlich geklärt, ob die KI-Systeme überhaupt Rechtsberatung im Sinne des RDG erbringen können. Fraglich ist nicht nur, ob die Nutzer, die nicht Anwälte sind, überhaupt die Erwartung haben, hier eine Rechtsberatungsdienstleistung zu erhalten. Ebenso könnte die Nutzung durch Anwälte noch einmal anders zu behandeln sein, da diese wohl noch weniger davon ausgehen, dass sie von einem Chatbot Rechtsberatung erhalten, sondern eher mit einem modernen Werkzeug juristische Texte in ihrem eigenen Sinne und nach ihrer eigenen Prüfung und Freigabe verfassen wollen. Je nach Nutzer eines KI-Systems kann es also im Hinblick auf § 2 Abs. 1 RDG zu unterschiedlichen Ergebnissen kommen.


### 9. KI-Kompetenz als rechtliche Pflicht (Art. 4 KI-VO)

Die KI-Verordnung erkennt an, dass der Nutzen von KI nur dann voll ausgeschöpft werden kann, wenn Anwender über das nötige Wissen verfügen (Erwägungsgrund 4 KI-VO). Daher wurde mit Art. 4 KI-VO eine rechtliche Pflicht zur KI-Kompetenz eingeführt, die bereits seit dem 02.02.2025 gilt:

Artikel 4 KI-Kompetenz

Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.

Was bedeutet das für die Praxis?

Kontextspezifische Kompetenz: KI-Kompetenz ist nie generell, sie ist jeweils auf das Einsatzgebiet bezogen, also z.B. anders für den Einsatz in der Medizin als etwa in der juristischen Praxis. Die Anforderungen sind immer auf das spezifische System und den Anwendungsfall bezogen.


Keine formale Schulungspflicht: Die Norm verlangt keine zertifizierten Schulungen. Der Kompetenzerwerb kann durch praktische Anwendung, interne Weiterbildung oder das Studium von Materialien wie dieser Richtlinie erfolgen.


Definitionen:


Gemäß Art. 3 Nr. 56 KI-VO:

"KI-Kompetenz" [sind] die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.


Erwägungsgrund 20 (Auszug):

"Um den größtmöglichen Nutzen aus KI-Systemen zu ziehen und gleichzeitig die Grundrechte, Gesundheit und Sicherheit zu wahren [...], sollte die KI-Kompetenz Anbieter, Betreiber und betroffene Personen mit den notwendigen Konzepten ausstatten, um fundierte Entscheidungen über KI-Systeme zu treffen."


Haftung: Arbeitgeber haften theoretisch für mangelnde KI-Kompetenz ihrer Mitarbeiter, wenn dies kausal für einen Schaden wird. Die genauen Konturen dieser Haftung sind aber noch zu klären. Bußgelder sind für Verstöße gegen Art. 4 KI-VO derzeit nicht vorgesehen.

Wie wird KI-Kompetenz erworben?

Technisches Grundwissen: Ein Verständnis grundlegender Konzepte wie regelbasierte Systeme (z.B. juris), maschinelles Lernen und moderner Transformer-Modelle (z.B. GPT, Claude) ist notwendig.


Praktische Anwendung: Der sichere Umgang wird durch die Nutzung in geschützten Übungsumgebungen und die kontinuierliche Anwendung in der Praxis erlernt.


Strukturierte Schulung: Bedarfsgerechte Module, die technische, rechtliche und ethische Aspekte integrieren, sind sinnvoll.

Hinweis: Das Studium dieser Richtlinie und deren bewusste Anwendung im Kanzleialltag verschafft auch die juristische KI-Kompetenz, die der Gesetzgeber fordert.


### 10. Exkurs: A.I. Act (KI-Verordnung)

Der AI Act (KI-VO) der EU verfolgt einen risikobasierten Ansatz und teilt KI-Systeme in Risikoklassen ein. Die Pflichten für Anbieter und Betreiber von KI-Systemen variieren je nach Risikoklasse. Die Verordnung behandelt im Wesentlichen Hochrisiko-KI-Systeme.

#### 10.1 Wichtige Begriffsbestimmungen (Art. 3 KI-VO)

Für das Verständnis der KI-VO sind einige Definitionen zentral. Diese sind jedoch für die tägliche anwaltliche Praxis als Nutzer (Betreiber) weniger relevant als für die Hersteller (Anbieter) von KI-Systemen, da sie primär im Rahmen der Produkthaftung der KI-VO greifen.

„KI-System“ (Nr. 1): Ein maschinengestütztes System mit einem gewissen Grad an Autonomie, das aus Eingaben lernt, um Ergebnisse zu erzeugen.

„Risiko“ (Nr. 2): Die Kombination aus der Wahrscheinlichkeit des Auftretens eines Schadens und der Schwere dieses Schadens.

„Anbieter“ (Nr. 3): Wer ein KI-System entwickelt (oder entwickeln lässt) und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Eine Kanzlei, die ein eigenes KI-Tool unter ihrem Namen anbietet, wäre Anbieter.

„Betreiber“ (Nr. 4): Wer ein KI-System in eigener Verantwortung beruflich verwendet. Dies ist die typische Rolle für eine Kanzlei, die externe KI-Dienste nutzt. Der einzelne angestellte Anwalt ist in der Regel kein Betreiber, wenn die Kanzlei den Account zur Verfügung stellt.

„KI-Modell mit allgemeinem Verwendungszweck“ (GPAI-Modell, Nr. 63): Ein vielseitiges Basismodell (wie die Technologie hinter ChatGPT), das in viele verschiedene Anwendungen integriert werden kann.

„KI-System mit allgemeinem Verwendungszweck“ (GPAI-System, Nr. 66): Ein KI-System, das auf einem GPAI-Modell beruht.

#### 10.2 Der risikobasierte Ansatz der KI-VO

Die KI-VO verfolgt einen risikobasierten Ansatz. Für die Anwaltschaft ist vor allem die Kategorie der Hochrisiko-Systeme relevant.

Hochrisiko-Systeme (Art. 6 KI-VO): KI-Systeme in kritischen Bereichen unterliegen strengen Anforderungen. Gemäß Art. 6 Abs. 2 i.V.m. Anhang III Nr. 8.a) gelten KI-Systeme als hochriskant, die von einer Justizbehörde zur Unterstützung bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften verwendet werden.

Klarstellung: Die Anwaltschaft ist keine staatliche Justizbehörde. Daher fallen die in Kanzleien eingesetzten KI-Systeme in der Regel nicht unter diesen Hochrisiko-Tatbestand.

Rückausnahmen (Art. 6 Abs. 3 KI-VO): Selbst wenn ein System in eine Kategorie des Anhangs III fiele, gilt es nicht als hochriskant, wenn es kein erhebliches Risiko birgt, weil es z.B. nur eine eng gefasste Verfahrensaufgabe durchführt, das Ergebnis einer menschlichen Tätigkeit verbessert oder eine rein vorbereitende Aufgabe für eine menschliche Bewertung durchführt. Ein System wird jedoch immer dann als hochriskant eingestuft, wenn es ein Profiling natürlicher Personen vornimmt.


10.3 Hochrisiko-KI im Personalwesen

Ab dem 2. August 2026 gelten nach der KIVO für KI-Systeme im Personalwesen, die der Bewerberauswahl, Personalentscheidungen (Beförderung, Kündigung), Aufgabenzuweisung oder Leistungsüberwachung dienen, die strengen Anforderungen für Hochrisiko-KI-Systeme gemäß Art. 6 i.V.m. Anhang III Nr. 4 KI-VO, weshalb vor deren Einsatz eine umfassende Risikobeurteilung, Dokumentation der Funktionsweise, Gewährleistung menschlicher Aufsicht sowie Transparenz gegenüber Betroffenen sicherzustellen ist. Dies ist für Kanzleien vor allen in zwei Bereichen relevant, eben im eigenen Personalwesen und sodann soweit sie im Arbeitsrecht auch in Sachen Personalwesen beraten und Ihre Mandanten KI im Personalwesen entsprechend einsetzen.

#### 10.4 Geringe Kennzeichnungspflichten und Durchsetzung

Für Anwältinnen und Anwälte, die als Betreiber einen KI-Dienst nutzen, gelten kaum Kennzeichnungspflichten. Nach Art. 50 Abs. 4 UA 2 S. 1 des AI Acts müssen Betreiber eines KI-Systems, das Text zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse erzeugt, dies zwar offenlegen. Diese Pflicht entfällt jedoch, wenn die KI-erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt

Eine gesetzliche Pflicht zur Kennzeichnung von KI-generierten Texten in gerichtlichen Schriftsätzen von Anwälten besteht nach der KI-Verordnung (KI-VO) nicht. Unter der Prämisse, dass ein Anwalt, der eine von einem Dritten angebotene KI als Schreibassistenz nutzt, nur ein Betreiber im Sinne der KI-VO ist und kein Anbieter, kommt für KI-generierten Text nur die Transparenzvorschrift in Art. 50 Abs. 4 KI-VO in Betracht.

Die Transparenzpflicht des Art. 50 Abs. 4 Unterabs. 2 KI-VO greift aber nur, wenn ein Text veröffentlicht wird, um die „Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“. Ein an das Gericht und die Gegenseite gerichteter Schriftsatz ist jedoch nicht für die breite Öffentlichkeit bestimmt, sondern für einen „zahlenmäßig überschaubaren, dem Betreiber bekannten Empfängerkreis“, der von der Pflicht ausgenommen ist (Martini, in: Martini/Wendehorst, KI-VO, Art. 50 Rn. 113).

Doch selbst wenn man dies anders sähe, käme eine weitere Ausnahme der Norm zum Tragen. Die Kennzeichnungspflicht entfällt ebenfalls, wenn die Inhalte „einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt“. Ein Rechtsanwalt, der einen Schriftsatz unterschreibt und einreicht, übernimmt per se diese redaktionelle Verantwortung und ist zur menschlichen Überprüfung verpflichtet. Damit ist der Schutzzweck der Norm erfüllt, der laut Kommentarliteratur darin besteht, die Gefahr massenhafter, ungeprüfter Falschinformationen einzudämmen, für die kein Mensch verantwortlich zeichnet. (Martini, in: Martini/Wendehorst, KI-VO, Art. 50 Rn. 114; Lauber-Rönsberg, in: BeckOK KI-Recht, Art. 50 Rn. 73). Die Verantwortung des Anwalts für den Inhalt seiner Schriftsätze – unabhängig von den genutzten Werkzeugen – macht eine gesonderte KI-Kennzeichnungspflicht nach der KI-VO daher unnötig.

Regel: Da Anwälte stets die redaktionelle Endverantwortung für ihre Schriftsätze und Veröffentlichungen tragen, greift die Ausnahme von der Kennzeichnungspflicht. Zudem sind gerichtliche Schriftsätze nicht an die „Öffentlichkeit“ im Sinne des AI Acts gerichtet. Anders kann dies bei Blogbeiträgen oder öffentlichen Bekanntmachungen sein, die ohne menschliche Endkontrolle veröffentlicht werden.

#### 10.5 Durchsetzung und Haftung

Die Durchsetzung der KI-VO erfolgt durch spezialisierte nationale Aufsichtsbehörden sowie auf EU-Ebene durch das KI-Büro und den KI-Ausschuss. Bei Verstößen drohen empfindliche Geldbußen von bis zu 35 Millionen Euro oder 7% des weltweiten Vorjahresumsatzes. Nationale zusätzliche Bußgeldvorschriften gibt es noch nicht. Bei KI-Kompetenz gibt es keinen Bußgeld-Tatbestand. Ebenso ist nicht klar, ob eine Missachtung der Pflicht, ausreichend KI-Kompetenz zu haben, zu einer Haftung von jemandem führen könnte. Dies wäre gegebenenfalls denkbar, wenn sich eine Kausalität ergäbe aus einer mangelnden KI-Kompetenz und einem Haftungsfall.


### 11. Ausblick und Fazit

Die Integration von KI in die Anwaltschaft ist unausweichlich und bietet erhebliche Chancen. Der Schlüssel zum Erfolg liegt in der Beachtung der Grundprinzipien: Vollständige Überprüfung aller KI-Ergebnisse, sorgfältige Auswahl der KI-Anbieter unter strikter Beachtung der Verschwiegenheitspflicht und eine transparente Kommunikation. Die Diskussion, ob explizite berufsrechtliche Regelungen notwendig sind, wird weitergehen. Statt einer "selbstfahrenden Kanzlei" ohne Anwälte liegt die Zukunft eher in einer effektiven Symbiose aus menschlicher Expertise und künstlicher Intelligenz. 

Gleichzeitig entwickelt sich die Diskussion weiter: In Zukunft könnte aus der anwaltlichen Sorgfaltspflicht nicht nur die Pflicht zum sicheren, sondern auch zum kompetenten Umgang mit KI erwachsen. Effizienz und Kostenvorteile, die durch KI-Systeme erzielt werden, könnten von Mandanten zunehmend erwartet werden. Die Leitlinien der BRAK und die für andere Berufe wie Wirtschaftsprüfer entsprechenden Überlegungen deuten bereits an, dass technologische Kompetenz ein integraler Bestandteil der modernen Berufsausübung ist.


Man sollte diese Entwicklung jedoch in die richtige Perspektive rücken: Eine tatsächliche, einklagbare Pflicht zur Nutzung von KI ist damit noch lange nicht verbunden. Es ist bezeichnend, dass die deutsche Rechtsprechung bis heute keine generelle Pflicht zur Nutzung von juristischen Fachdatenbanken wie Beck-Online oder Juris postuliert hat, obwohl diese seit Jahrzehnten etabliert sind. Anwälte müssen richtig beraten, das ist ihre vertragliche und berufsrechtliche Pflicht, aber wie sie dies tun, schreiben ihnen Gesetz und Rechtsprechung nicht vor, weder, wie die Stifte auf dem Schreibtisch arrangiert sein müssen, noch, in Datenbanken recherchiert wird. Das Berufsrecht überlässt die Wahl der Arbeitsmittel der professionellen Autonomie des Anwalts, solange das Ergebnis fachlich korrekt ist. Wenn also nicht einmal für etablierte und verlässliche Datenbanken eine Nutzungspflicht besteht, erscheint es äußerst unwahrscheinlich, dass die Gerichte in absehbarer Zeit eine Pflicht zur Nutzung von generativen KI-Systemen annehmen werden, die technologisch neu und fehleranfälliger sind. Die Debatte wird sich daher vorerst auf die Kompetenz im Umgang mit diesen Werkzeugen konzentrieren, nicht auf einen KI- Zwang für Kanzleien und Berater.





### 12. Disclaimer

Diese Richtlinie betrifft lediglich deutsches Recht (und Europarecht, soweit es in Deutschland Anwendung findet) und ersetzt keine Rechtsberatung im Einzelfall. Bei spezifischen Fragen ist stets dringend geboten, rechtzeitig Rechtsrat einzuholen. Dritte können sich nicht rechtlich auf dieses Dokument verlassen oder ihre rechtlichen Einschätzungen darauf stützen.

### 13. Weiterführende Literatur

BRAK, Hinweise zum Einsatz von künstlicher Intelligenz (KI), Stand: Dezember 2024.

DAV, Initiativ-Stellungnahme zum Einsatz von KI in der Anwaltschaft, Stellungnahme Nr. 32/2025, Berlin, Juli 2025.

Braegelmann, KI-VO und Compliance - aktuelle Brennpunkte, KIR 2024, 39-42.

Braegelmann, KI in der Anwaltschaft, Kammerton RAK Berlin, 07/08-2025

FAQ der EU zur KI-Kompetenz

Hinweise der Bundesnetzagentur zur KI-Kompetenz



### ANLAGE: PROMPTING-LEITFADEN

Ein "Prompt" ist eine Instruktion an die Maschine, vergleichbar damit, wie man einen Kollegen oder einen Mitarbeiter um Unterstützung bittet. Effektives Prompten ist eine Form des Problemlösens: Der juristische Anwender nutzt seine Fachkenntnisse, um die KI gezielt als Assistenzsystem und Hilfsmittel einzusetzen und so ein Problem schneller und besser zu lösen.

#### A. Die 4 Elemente eines guten Prompts:

Zielformulierung

Formulieren Sie ein klares, spezifisches Ziel

Achten Sie auf Präzision und Direktheit

Ausgabeformat

Beschreiben Sie genau, wie die Informationen dargestellt werden sollen

Geben Sie alle notwendigen Datenpunkte an

Legen Sie strukturelle Anforderungen fest

Beschränkungen/Ausnahmen

Nennen Sie inhaltliche und formelle Probleme, die vermieden werden sollten

Definieren Sie Genauigkeitsanforderungen

Bestimmen Sie Qualitätsstandards

Kontextinformationen

Liefern Sie umfassende Hintergrundinformationen

Teilen Sie relevante persönliche Erfahrungen mit

Nennen Sie Ihre Präferenzen und Mindestanforderungen

#### B. Tipps und Tricks:

Chatbots sind keine Suchmaschinen: Stellen Sie keine Fragen, die Sie einfach in eine Suchmaschine eingeben könnten.

Chatbots sind keine Orakel oder Zauberer: Sie können weder die Zukunft vorhersagen noch alles wissen noch einfach alles für Sie erledigen. Derzeit ist der Hauptnutzen und Vorzug, beim Schreiben, Verstehen und Auswerten von Texten helfen zu können und das sehr schnell.

Dokumente gezielt nutzen: Laden Sie relevante Texte oder Verträge hoch, um präzise Analysen, Zusammenfassungen oder Erläuterungen zu erhalten. (Wichtig: Das funktioniert bei einem PDF nur dann gut, wenn Texterkennung (OCR) über das PDF gelaufen ist, man also den Text darin markieren und herauskopieren kann). Achten Sie dabei auf Datenschutz, Schutz von Geschäftsgeheimnissen und anwaltliche Verschwiegenheitspflichten.

Fehler korrigieren: Wenn der Chatbot etwas falsch macht, geben Sie nicht auf. Weisen Sie ihn darauf hin, dass er sich irrt, und fordern Sie ihn auf, es besser zu machen. Das hilft meistens.

Kürzere Prompts  ist oft besser: Formulieren Sie Ihre Eingabe kompakt und präzise. Ein klar umrissenes Problem führt zu besseren Antworten als eine umfangreiche oder überladene Anfrage. Ausnahmen bestätigen diese Promptregel.

Präzision zählt: Stellen Sie konkrete Fragen oder Aufgaben. Je detaillierter Ihre Anfrage, desto treffender die Antwort.

Kontext schaffen: Geben Sie klare Anweisungen: Für wen ist die Antwort gedacht? Aus welcher Perspektive soll argumentiert werden?

Experimentieren: Variieren Sie Formulierungen und testen Sie verschiedene Ansätze, um optimal passende Antworten zu erhalten.

Hinterfragen und vertiefen: Verwenden Sie gezielte Folgefragen, um Details herauszuarbeiten oder weitere Aspekte zu beleuchten.

Geduld und Wiederholung: Wiederholen Sie die Anfrage in leicht veränderter Form, wenn die Antwort ungenau ist. Wiederholung ist oft der Schlüssel zu besseren Ergebnissen.

Beispiele verwenden: Arbeiten Sie mit realitätsnahen Szenarien, um Ihre Erwartungen zu verdeutlichen.

Freundlichkeit hilft: Die Chatbots funktionieren besser, wenn man zu ihnen freundlich ist. Es ist auch für einen selber nicht gut, wenn man mit Chatbots arbeitet, wenn man diese für eine längere Zeit unfreundlich anspricht, das könnte auf einen sonst abfärben.



ANLAGE MUSTERKLAUSELN § 43e BRAO


 (Beispielhafte Formulierung, anzupassen auf den jeweiligen Dienstleister):

Musterklauseln für einen Vertrag nach § 43e BRAO

1. Anerkennung der Verschwiegenheitspflicht


Der KI-Dienstleister (Auftragnehmer) ist bekannt, dass die im Rahmen der zu erbringenden Dienste erhaltenen Informationen beruflichen Verschwiegenheitspflichten unterliegen können. Der Auftragnehmer bekennt sich explizit zu allen Rechten und Pflichten aus § 43a und § 43e der Bundesrechtsanwaltsordnung (BRAO) und hält alle im Rahmen der Dienste erlangten Geheimnisse im Sinne von § 203 Strafgesetzbuch und § 43a und § 43e BRAO („Geheime Informationen“) streng geheim und schützt sie vor dem unberechtigten Zugriff durch Dritte.


2. Zweckbindung und Zugriffsbeschränkung

Der Auftragnehmer hat nur insoweit Zugriff auf Geheime Informationen, als dies für die Erbringung der Dienste für den Kunden gemäß den Allgemeinen Geschäftsbedingungen erforderlich ist.


3. Umgang mit Unterauftragnehmern

Ungeachtet dessen darf der Auftragnehmer Geheime Informationen an Unterauftragnehmer weitergeben, soweit dies zur Erbringung von deren Leistungen erforderlich ist, sofern (i) der Unterauftragnehmer schriftlich (wobei Textform genügt) zur Vertraulichkeit verpflichtet wurde, (ii) der Unterauftragnehmer seine Leistungen ausschließlich innerhalb des Europäischen Wirtschaftsraumes (EWR) erbringt und (iii) der Unterauftragnehmer seine Mitarbeiter und Unterauftragnehmer entsprechend zur Vertraulichkeit verpflichtet. Weitergehende Verpflichtungen gegenüber Unterauftragnehmern, insbesondere aufgrund datenschutzrechtlicher Vorgaben, bleiben davon unberührt. Sofern diese Anforderungen nicht gewährleistet werden können, darf der Auftragnehmer Geheime Informationen nur nach der vorherigen Zustimmung des Kunden, die auch in elektronischer Form (z.B. über die Account-Einstellungen) erteilt werden kann, an Unterauftragnehmer weitergeben.


4. Strafrechtliche Belehrung nach § 203 StGB

Der Auftragnehmer verpflichtet sich, alle Mitarbeiter entsprechend zur Vertraulichkeit zu verpflichten, soweit sie Zugang zu Geheimen Informationen haben. Dem Auftragnehmer ist bekannt, dass ein Verstoß gegen die vorgenannte Vertraulichkeitspflicht eine Straftat nach § 203 Strafgesetzbuch darstellen kann.


Der Auftraggeber belehrt den Auftragnehmer hiermit, dass der Bruch der Verschwiegenheit oder die Verwertung fremder Geheimnisse durch den Auftragnehmer für diesen strafbar ist (§§ 203 Abs. 1 Nr. 3, Abs. 4 S. 1 StGB, § 204 StGB) und mit Freiheitsstrafe bis zu einem Jahr, im Fall von § 204 StGB mit Freiheitsstrafe bis zu zwei Jahren, oder mit Geldstrafe bestraft werden kann. Die Strafdrohung erhöht sich gem. § 203 Abs. 6 StGB auf Freiheitsstrafe bis zu zwei Jahren oder Geldstrafe, sofern der Auftragnehmer in Bereicherungsabsicht, auch wenn sie zu Gunsten Dritter bestehen sollte, handelt, oder die Absicht hat, durch die Tat einen anderen zu schädigen.


Der Auftraggeber belehrt den Auftragnehmer vorsorglich, dass sich der Auftragnehmer als sonstige mitwirkende Personen im Sinne des § 203 Abs. 3 S. 2 StGB im Falle einer Einschaltung weiterer Personen bei Strafdrohung von Freiheitsstrafe bis zu einem Jahr oder Geldstrafe strafbar macht, wenn diese weiteren Personen die Verschwiegenheit brechen, und der Auftragnehmer zugleich nicht dafür Sorge getragen hat, dass die weiteren Personen zur Verschwiegenheit verpflichtet wurden (§§ 203 Abs. 1, Abs. 4 S. 2 Nr. 2 StGB).






5. Technische und Organisatorische Maßnahmen (TOMs)

Der Auftragnehmer wird angemessene organisatorische und technische Maßnahmen zum Schutz der Vertraulichkeit der vertraulichen Informationen aufrechterhalten und verpflichtet sich, Berufsgeheimnisse angemessen gemäß akzeptierten Sicherheitsstandards nach dem aktuellen Stand der Technik zu schützen. Das Sicherheitsniveau darf hierbei nicht geringer als bei eigenen vertraulichen Informationen angelegt werden.


6. Strafprozessuale Privilegien (§§ 53a, 97 StPO)

Dem Auftragnehmer ist bekannt, dass Berufsgeheimnisse, die der Auftragnehmer im Auftrag des Auftraggebers speichert/verarbeitet, dem Zeugnisverweigerungsrecht des Auftraggebers unterliegen können (§ 53a StPO). Nach § 53a StPO entscheidet der Berufsgeheimnisträger über die Ausübung des Zeugnisverweigerungsrechts. Im Falle einer behördlichen Vernehmung wird der Auftragnehmer unter Hinweis auf § 53a StPO der Vernehmung widersprechen und den Auftraggeber unverzüglich informieren, der daraufhin über die Ausübung des Zeugnisverweigerungsrechts entscheiden wird. Dem Auftragnehmer ist bekannt, dass etwaige sich im Gewahrsam des Auftragnehmers befindlichen Berufsgeheimnisse des Auftraggebers dem Beschlagnahmeverbot gem. § 97 Abs. 2 StPO unterfallen. Die vertraulichen Informationen dürfen ohne Zustimmung des Auftraggebers nicht herausgegeben werden. Im Falle einer Beschlagnahme wird der Auftragnehmer der Beschlagnahme widersprechen und den Auftraggeber unverzüglich unterrichten.


7. Besonderheiten bei juristischen Personen

Weil es sich bei dem Auftragnehmer um eine juristische Person handelt, bezieht sich die Verschwiegenheitspflicht und die strafrechtlichen Folgen bei Verstoß gegen die Verschwiegenheitspflicht auf die Geschäftsführer und Mitarbeiter des Auftragnehmers, die zur Erfüllung der vertraglichen Verpflichtung gegenüber dem Auftraggeber Kenntnis von Berufsgeheimnissen erhalten.
