ChatGPT: US-Anwalt blamiert sich mit erfundenen Gerichtsurteilen

Dass die Künstliche Intelligenz ChatGPT bei korrekter Verwendung ein nützliches Tool zur Recherche sein kann, dürfte sich mittlerweile herumgesprochen haben. Ein Anwalt in den USA vertraute jedoch so sehr auf den Chatbot, dass dieser ohne eigenes Hinterfragen die von ChatGPT ausgegebenen Präzedenzfälle für eine vorbereitete Klage vollständig übernahm. Wie sich im Anschluss herausstellte, hat das KI-Tool die angeblichen Fälle allerdings komplett frei erfunden.

Konkret ging es um eine Schmerzensgeldklage, bei der ein Mann in den USA während eines Fluges von einem Servierwagen angefahren und vor dem Bezirksgericht in Manhattan, New York verhandelt wurde, wie die New York Times berichtet. Der Anwalt des Klägers schickte der betroffenen Fluggesellschaft ein Schreiben mit mehreren Präzedenzfällen, die die Klage untermauern sollten. Auch die sogenannten "docket numbers" waren in den vermeintlichen Fällen zu finden, was dem deutschen Aktenzeichen entspricht und etwaige Nachforschungen vereinfachen soll; zudem schickte der Anwalt mehrseitige Auszüge aus den angeblichen Akten mit.

Einer Prüfung der Gerichtsanwälte durch die Verteidiger der verklagten Fluggesellschaft hielt das Schreiben allerdings nicht stand, was die Kanzlei vermuten ließ, dass es sich hierbei um KI-generiertes Material handelt. Tatsächlich gab der Anwalt des Klägers direkt zu, dass er sich bei der Recherche für den Fall an ChatGPT gewandt hat, doch leider habe sich "die Quelle als unzuverlässig erwiesen". Dabei habe sich der Anwalt von der Echtheit der vom Chatbot ausgegeben Präzedenzfälle überzeugen lassen - indem ChatGPT befragt wurde, ob die Fälle tatsächlich real seien. Dies reichte dem Anwalt wohl als Beweis, sodass keine weiteren Eigenrecherchen angestellt wurden, was dieser als "großen Fehler" bezeichnet.

Dass ChatGPT und ähnliche Tools solche erfundenen Geschichten als echt betrachten, ist indes nichts Ungewöhnliches. Das als Halluzination bezeichnete Verhalten tritt insbesondere in nischigen Fachgebieten auf, in denen die KI Daten ableitet, die des Trainingsprozesses aufgenommen wurden. Elemente wie im konkreten Fall das US-Aktenzeichen wird hierbei neu zusammengestellt, sieht für die Künstliche Intelligenz (und auch für ungenaue Blicke eines Fachanwalts) allerdings echt aus, sodass diese auch bei Nachfragen auf den Wahrheitsgehalt der erfundenen Dokumente besteht.

Artikel teilen

ChatGPT: US-Anwalt blamiert sich mit erfundenen Gerichtsurteilen Anwälte werden in absehbarer Zeit schon mal nicht von ChatGPT ersetzt: Während einer Klage in den USA setzte ein Rechtsanwalt auf die Künstliche Intelligenz, die ihm mit angeblichen Präzedenzfällen unter die Arme griff - alles frei erfunden, wie sich im Anschluss herausstellt.

Per E-Mail versenden

17