Viele Kanzleien. Ein starkes Netzwerk.
Aktuelles
Neues aus Markt und Netzwerk
 

KI lieferte fehlerhafte Ergebnisse Drohendes Disziplinarverfahren nach der Nutzung des KI-Tools ChatGPT zur juristischen Recherche

Zwei New-Yorker Anwälten – Peter Loduca und Steven Schwartz – der Kanzlei  Levidow, Levidow & Oberman , droht aktuell die Einleitung eines Disziplinarverfahrens wegen der Einsetzung des KI-Tools ChatGPT. Was war passiert?

ChatGPT als KI-Tool

ChatGPT ist ein Modell künstlicher Intelligenz des Unternehmens Open AI, welches auf sog. Prompts (Anfragen) Texte erstellt. Das Unternehmen weißt dabei darauf hin, dass die erstellen Texte „ungenaue Informationen“ beinhalten können. Erfahrungsgemäß kommt es dabei regelmäßig dazu, dass ChatGPT (juristisch) falsche Inhalte und / oder Quellen aufführt und solche schlicht erfindet.

Diese Gefahr wurde durch die Kollegen Loduca und Schwartz offenbar ignoriert, indem das sie bei Gericht einen Schriftsatz einreichten, welcher Verweise und Zitate auf zahlreiche vergangene Gerichtsentscheidungen enthielt. Damit wollte das Anwaltsteam die Erfolgsaussichten des eigenen Mandanten untermauern. Den Anwälten der gegnerischen Fluggesellschaft fiel auf, dass zahlreiche der angeführten vermeintlichen Präzedenzfälle überhaupt nicht auffindbar waren und wies im laufenden Gerichtsverfahren darauf hin.

Laut dem zuständigen Richter ein „noch nie dagewesener Umstand“

Der im Verfahren zuständige Richter Castel stellte daraufhin fest, dass insgesamt 6 zitierte Fälle vollkommen erfunden waren. Dabei hatte das KI-Tool nicht nur die Gerichtsentscheidungen an sich frei erfunden, sondern auch dazugehörige Inhalte, Zitate und interne Verweise.  Richter Castel bezeichnete diesen Vorfall als „noch nie dagewesenen Umstand“, da nach seiner Kenntnis in einem Schriftsatz noch nie auf juristische Beispielfälle verwiesen wurde, die sich als nicht existent herausstellten.

Kollege Loduca wies darauf hin, dass allein sein Kollege Schwartz mit der Recherche beauftragt worden war. Letzterer gab an, ChatGPT tatsächlich zur Recherche ähnlicher Fälle genutzt zu haben und bestätigte, dass Kollege Loduca von seiner Nutzung des KI-Tools im konkreten Fall nichts gewusst habe. Zu seiner Verteidigung gab Kollege Schwartz an nicht gewusst zu haben, das ChatGPT auch fehlerhafte Ergebnisse liefern könne und versicherte, zukünftig keine KI mehr zur juristischen Recherche zu verwenden, ohne vor Einreichung deren Authentizität geprüft zu haben.

Beide Anwälte erhalten Gelegenheit sich bei einer Anhörung am kommenden 8. Juni zu ihrem Vorgehen zu äußern und zu erläutern, warum sie keine disziplinarischen Maßnahmen verdienen.

Wir gehen davon aus, dass dieser Fall in der juristischen Gemeinschaft eine Debatte über den möglichen Einsatz von KI-Tools in der juristischen Recherche und Fallbearbeitung auslösen wird. Dabei wird es auch und die Frage der Notwendigkeit umfassender Richtlinien zur Vermeidung von Präzedenzfällen gehen müssen.

Alle Fachbeiträge zeigen

KI-AI-Urheber-IT-Internet
Erbrecht, Internetrecht
22.07.2025

Digitaler Nachlass: Was passiert mit dem Instagram-Konto nach dem Tod?

Die Frage, was mit einem Social-Media-Account nach dem Tod des Inhabers geschieht, betrifft immer mehr Menschen. Instagram, aber auch andere Plattformen wie Facebook oder X, sind inzwischen fester Bestandteil des Nachlasses geworden. Gerade bei Accounts mit hoher Reichweite oder besonderem ideellen Wert stellen sich viele Erben und Erblasser die Frage: Wer darf nach dem Tod eines Nutzers auf dessen Konto zugreifen und es weiterführen?

Beitrag lesen
Datenschutzrecht, Verbraucherrecht, Wettbewerbsrecht
22.07.2025

BGH-Urteil ermöglicht Klagen bei Datenschutzverstößen durch Verbraucherschutzverbände und Mitbewerber

Mit Urteil des Bundesgerichtshofs vom 27. März 2025 (Az.: I ZR 186/17) wurde entschieden, dass Verbraucherschutzverbände und Mitbewerber bei Verstößen gegen datenschutzrechtliche Informationspflichten wettbewerbsrechtliche Unterlassungsansprüche geltend machen können. Der Entscheidung des BGH liegt ein Sachverhalt zugrunde, bei dem ein Betreiber eines sozialen Netzwerks, in diesem Fall Facebook, seine Nutzer nicht ausreichend über Umfang und Zweck der Erhebung und Verwendung ihrer personenbezogenen Daten informierte.

Beitrag lesen
Internationales Arbeitsrecht
17.07.2025

Die Rügepflicht im Arbeitsrecht (NLD)

Das Gesetz verlangt von einem Gläubiger eine rechtzeitige Rüge, wenn ein Schuldner eine mangelhafte Leistung erbracht hat. Diese so genannte „Rügepflicht“ gilt für alle Schuldverhältnisse. Denken Sie an die Verpflichtung zur Lieferung eines Autos, die Verpflichtung zur Zahlung von Schadensersatz, aber auch an Verpflichtungen aus einem Arbeitsvertrag. Die Anwendbarkeit der Rügepflicht im Arbeitsrecht war lange Zeit unklar. Der Hoge Raad hat 2024 über die Rügepflicht in diesem Rechtsbereich entschieden. In diesem Beitrag wird die Auffassung des Hoge Raad erörtert.

Beitrag lesen