Zunächst ist festzustellen, dass unabhängig davon, ob die Verbreitung wissentlich erfolgt oder auf unsorgfältiger Arbeit beruht, die ungeprüfte Verwendung halluzinierter Gerichtsentscheidungen oder Literaturfundstellen eine unrichtige Darstellung von Tatsachen darstellt. Es stellt sich indes die Frage, ob das – wenngleich billigende – In-Kauf-Nehmen einer unwahren Verbreitung einen Eingriff in die Rechtspflege von solchem Gewicht darstellt, dass sowohl die Annahme eines Verstoßes als auch eine mögliche darauffolgende Sanktionierung gerechtfertigt erscheinen und trotz der Bedenken der Satz 1 herangezogen werden sollte. Zu fordern ist daher jedenfalls eine Verwendung in einem Ausmaß, die zugleich das Rechtsgut der funktionierenden Rechtspflege und – wie es das AG Köln ausdrückt – das Ansehen des Rechtsstaats und insb. der Anwaltschaft empfindlich schädigt. Verfassungswidrig wäre es nämlich, wenn durch die Heranziehung des § 43a III 1 BRAO auf Umwegen auch die lediglich bedingt vorsätzliche Verbreitung von Unwahrheiten als Berufsrechtsverstoß gewertet wird.32 32 Daher wird auch überwiegend davon ausgegangen, dass den Anwalt grundsätzlich keine Aufklärungspflicht hinsichtlich unklarer Sachverhalte oder zweifelhafter Mandanteninformationen trifft, BeckOK BRAO/Praß, 28. Ed. 1.8.2022, BRAO § 43a Rn. 161b. Aber auch hier wird schon dann eine Einschränkung vorgenommen, wenn berechtigter Anlass besteht an der Richtigkeit der Tatsachen zu zweifeln, Hartung/Scharmer/Peitscher, 8. Aufl. 2022, BRAO § 43a Rn. 97; Henssler/ Prütting/Henssler, 6. Aufl. 2024, BRAO § 43a Rn. 192. Einzelne falsche Zitate, die nicht zwingend entscheidend für die Urteilsfindung oder die Geltendmachung des Anspruchs sind, werden weder die funktionierende Rechtspflege tangieren noch die Schwelle des ebenfalls vom Schutzzweck erfassten professionellen Arbeitens33 33 BT-Drs. 12/4993, 27. in beachtlicher Weise beeinträchtigen. Dies würde zudem eine Welle gegenseitiger Vorwürfe wegen Verstößen gegen das Sachlichkeitsgebot nach sich ziehen. Dies kann nicht gewollt sein. Der Bezugspunkt ist dabei nicht das bloße Billigen der Verbreitung einzelner unwahrer Tatsachen, sondern ein derartig unsorgfältiger Umgang mit der KI, dass die Verbreitung falscher Urteil/Literatur die Rechtsfindung erheblich erschwert und die Integrität der Anwaltschaft gefährdet. Ebenso wäre daher kein Berufsrechtsverstoß anzunehmen, wenn die KI auf ein Urteil Bezug nimmt, das nicht wirklich auf den Sachverhalt passt, oder wenn ein Urteil oder eine Literaturstelle sinngemäß etwas anderes ausdrückt. Denn auch im Rahmen einer Kontrollüberlegung im Hinblick auf mögliches menschliches Versagen ist festzuhalten, dass auch eine Rechtsanwältin oder ein Rechtsanwalt selbst ein Urteil missverstehen kann. Allein die Nutzung von KI führt daher nicht dazu, dass das Ergebnis von vornherein ein anderes wäre. Die Grenze dürfte also erst dann überschritten sein, wenn KI-Halluzinationen in erheblichem Umfang innerhalb eines Schriftsatzes zu finden sind, die Rechtsanwältin bzw. der Rechtsanwalt sich diese in ihrer/seiner Argumentation als Anspruchsbegründungen zu eigen macht und dadurch die Rechtsfindung wesentlich erschwert wird. Dies könnte etwa der Fall sein, wenn die Rechtsanwältin bzw. der Rechtsanwalt oder die von der KI übernommene Ausführung ein halluziniertes Urteil derart wesentlich hervorhebt, dass unter Hinweis auf die Rechtsprechung und die Vergleichbarkeit der Fälle der zu entscheidende Fall ähnlich zu behandeln ist. Wenn die Gegenseite die angegebenen Fundstellen nicht überprüft, wird sie getäuscht. Kommt dies an zahlreichen Stellen vor, wird die Rechtsfindung wesentlich erschwert. Bei der Vielzahl an Fehlzitaten ist auch ein qualitativer Unterschied in der Vorwerfbarkeit im Vergleich zu den häufig angeführten Blindzitaten zu erkennen. Im Gegensatz zu dem blinden Zitieren von Fußnoten anderer Quellen (z.B. aus Urteilen oder wissenschaftlichen Aufsätzen), wird man aufgrund der in den Medien grassierenden Artikel über die Fehleranfälligkeit KI-generierter Ergebnisse bei diesen eben keine erhöhte „Sicherheit“ über deren Richtigkeit haben.34 34 Ausführlich zu den Ergebnissen von Chat-GPT-4, Chat-GPT-3.5 und Google Bard Conrads/Schweitzer, NJW 2023, 2809. Auch wenn die Ergebnisse durch die Weiterentwicklung des Systems tendenziell besser werden, sollte die Vielzahl an negativen Beispielen eine Sensibilisierung für das Thema erzeugen. Zudem kann man sich zumeist auf wissenschaftliche Standards und eine gewisse Grundsorgfalt der primären Quellen verlassen. Daher ist kaum vorstellbar, dass eine Anwältin bzw. ein Anwalt nur durch Blindzitate ein ähnliches Ausmaß an Fehlzitaten erreicht wie bei der Nutzung einer KI. 3. GEWISSENHAFTE BERUFSAUSÜBUNG Mit einer ähnlichen Argumentation kann man auch über eine mögliche Verletzung der Pflicht zur gewissenhaften Berufsausübung nach § 43 BRAO nachdenken. Unabhängig von den diskutierten Fragen, ob der Generalklausel überhaupt noch Bedeutung zukommt und inwiefern sie neben anderen berufsrechtlichen Regelungen angewendet werden kann, wird ein Verstoß zunächst nicht deshalb indiziert sein, weil ein Teil der Leistung durch KI erbracht wurde. Die Pflicht zur persönlichen Leistungserbringung kann als eine anwaltliche Kardinalpflicht bezeichnet werden. Wird ein Ergebnis von einer fremden Stelle erzeugt, kann dies deswegen einen Verstoß gegen § 43 BRAO darstellen.35 35 BRAK-Leitfaden Hinweise zum Einsatz von künstlicher Intelligenz (KI), S. 2, abrufbar unter: https://www.brak.de/fileadmin/service/publikationen/Handlungshinweise/ BRAK_Leitfaden_mit_Hinweisen_zum_KI-Einsatz_Stand_12_2024.pdf. Inwiefern aber die Anwältin oder der Anwalt die Leistung nicht selbstständig erbracht hat, wird nicht nachweisbar sein, da es derzeit nicht möglich ist, festzustellen, in welchem Umfang Textpassagen von der KI stammen. Die heutzutage schon existenten KI-Detektoren sind zu unzuverlässig und produzieren keine sicheren Ergebnisse, insb. wenn die Texte geringfügig abgeändert oder ergänzt wurden.36 36 GenAI Detection Tools, Adversarial Techniques and Implications for Inclusivity in Higher Education, abrufbar unter https://arxiv.org/abs/2403.19148. Zu Gunsten der Rechtsanwältin bzw. des Rechtsanwalts ist daher anzunehmen, dass sie bzw. er den Text zwar verfasst hat, daDENZ, BERUFS- UND HAFTUNGSRECHTLICHE FOLGEN VON HALLUZINIERTEN KI-ERGEBNISSEN AUFSÄTZE BRAK-MITTEILUNGEN 5/2025 319
RkJQdWJsaXNoZXIy ODUyNDI0