Richterin Verhängt Geldstrafen Gegen Anwälte für die Verwendung von Gefälschter, KI-Erzeugter Rechtsforschung

Ein US-Richter hat zwei Anwaltskanzleien scharf kritisiert, weil sie in einer Gerichtsakte gefälschte, von KI generierte Rechtsinformationen aufgenommen haben und bezeichnete dies als schwerwiegendes Versäumnis in der juristischen Verantwortung.

Richter Michael Wilner, ansässig in Kalifornien, verhängte eine Geldstrafe von 31.000 Dollar gegen die Firmen, nachdem er entdeckte, dass der Schriftsatz voller „falscher, ungenauer und irreführender Rechtszitate und -aussagen“ war, wie zuerst von WIRED berichtet.

„Kein vernünftig kompetenter Anwalt sollte die Recherche und das Schreiben an KI auslagern“, schrieb Wilner in seinem Urteil und warnte, dass er kurz davor stand, die gefälschten Fälle in einen Gerichtsbeschluss aufzunehmen.

„Ich habe ihr Schriftstück gelesen, war überzeugt (oder zumindest neugierig) von den Behörden, die sie zitierten, und habe die Entscheidungen nachgeschlagen, um mehr über sie zu erfahren – nur um festzustellen, dass sie nicht existieren“, sagte er, wie von WIRED berichtet. „Das ist beängstigend“, fügte er hinzu.

Die Situation entstand während eines Zivilprozesses gegen State Farm. Ein Anwalt nutzte KI-Werkzeuge, um einen rechtlichen Entwurf zu erstellen. Dieses Dokument, das gefälschte Recherchen enthielt, wurde der größeren Anwaltskanzlei K&L Gates übergeben, die es zu einer offiziellen Einreichung hinzufügte.

„Anscheinend hat kein Anwalt oder Mitarbeiter in beiden Kanzleien diese Recherche vor der Einreichung des Schriftsatzes überprüft oder zitiert“, bemerkte Wilner, wie WIRED berichtete.

Nachdem entdeckt wurde, dass mindestens zwei der zitierten Fälle völlig erfunden waren, bat Richter Wilner K&L Gates um Klärung. Als sie eine neue Version einreichten, stellte sich heraus, dass sie sogar noch mehr falsche Zitate enthielt. Der Richter verlangte eine Erklärung, die eidesstattliche Aussagen offenbarte, die den Einsatz von KI-Tools zugaben, wie WIRED berichtete..

Wilner folgerte: „Der anfängliche, nicht offengelegte Einsatz von KI-Produkten zur Erstellung des ersten Entwurfs der Stellungnahme war schlichtweg falsch […] Und das Versenden dieses Materials an andere Anwälte ohne Offenlegung seiner fragwürdigen KI-Herkunft setzte diese Fachleute realistisch gesehen in Gefahr“, wie WIRED berichtete.

Dies ist nicht das erste Mal, dass KI in Gerichtssälen Probleme verursacht hat. Tatsächlich haben zwei Anwälte aus Wyoming kürzlich zugegeben, gefälschte von KI generierte Fälle in einer Gerichtsakte für eine Klage gegen Walmart verwendet zu haben. Ein Bundesrichter drohte, sie deshalb zu bestrafen.

In diesem Szenario werden KI-„Halluzinationen“ – von KI-Tools generierte erfundene Informationen – zu einer wachsenden Sorge im Rechtssystem.