Ein kurioser Fall zeigt die Tücken der künstlichen Intelligenz – und warum sie (noch) keinen Anwalt ersetzt.
Es klingt wie eine Pointe unserer Zeit: Ein niederländisches Gericht erklärte eine Ehe für ungültig, weil das Eheversprechen von ChatGPT formuliert worden war.
Im Zentrum stand der „Ehewillen“, also die höchstpersönliche und ernsthafte Absicht, eine Ehe einzugehen. Kann ein digital vorformulierter Text diesen inneren Willen authentisch tragen? Das Gericht hatte Zweifel. Und weil eine Eheschließung zwingend einen ernsthaften, persönlichen Ehewillen voraussetzt, erklärte es die Ehe für unwirksam.
Der Fall wirkt kurios, verweist aber auf ein ernstes Problem. Auch in manchen Kanzleien wird KI längst genutzt. Sie strukturiert Urteile, entwirft Standardschreiben, beschleunigt Recherche. Richtig eingesetzt, ist sie ein hilfreiches Werkzeug. Gefährlich wird es dort, wo aus Assistenz Autorität wird.
In einem eigenen Praxistest bat ich eine KI um Rat zu einer erbrechtlichen Spezialfrage. Die Antwort war sprachlich brillant und mit Rechtsprechungsfundstellen und Aktenzeichen versehen. Bei der Überprüfung zeigte sich: Ein zitiertes Urteil existierte nicht, ein anderes war inhaltlich verfälscht. Weitere Nachfragen von mir an die KI produzierten neue, subtilere Fehler. Am Ende blieb nur die klassische Recherche. Im Recht ist ein „teilweise richtig“ eben falsch.
Viel Text, kein Kern
Ein junger Anwaltskollege berichtete mir von einem Verfahren vor dem Amtsgericht: 125 Seiten Klagebegründung, offensichtlich KI-generiert – sauber gegliedert, umfangreich, beeindruckend im Ton. Doch ausgerechnet im entscheidenden Punkt fehlte substantiierter Sachvortrag. Viel Text, kein Kern. Das Gericht konnte damit nichts anfangen. Quantität ersetzt keine juristische Präzision.
Besonders heikel
Besonders heikel sind Fehler im Erbrecht und bei Vorsorgeregelungen. Die Qualität eines Testaments oder einer Vorsorgevollmacht zeigt sich nicht beim Verfassen, sondern im Ernstfall – häufig nach dem Todesfall. Wenn Formulierungen unklar sind oder Regelungslücken bestehen, ist es für Korrekturen zu spät. Dann streiten die Erben, und der mutmaßliche Wille des Erblassers wird zur Auslegungsfrage. Was als kostenfreier KI-Entwurf begann, endet nicht selten im teuren Gerichtsverfahren. Warum liegt die KI im juristischen Kontext oft falsch? Öffentliche KI-Systeme greifen nicht auf spezialisierte juristische Datenbanken zurück, sondern auf frei verfügbare Inhalte, ohne deren Qualität zu hinterfragen. Sie formulieren mit großer Selbstsicherheit – auch wenn die Grundlage unsicher ist. Ein Anwalt dagegen haftet für seinen Rat und unterliegt der Schweigepflicht.
Künstliche Intelligenz ist ein beeindruckendes Werkzeug. Aber sie trägt keine Verantwortung. Die wesentlichen Entscheidungen des Lebens – Ehe, Erbe, Vermögen – sollten nicht auf statistisch berechneten Textbausteinen beruhen. Sondern auf persönlicher Beratung und sorgfältiger juristischer Prüfung.
Der Autor ist Rechtsanwalt, Fachanwalt für Erbrecht und für Familienrecht in der Anwaltskanzlei Seidler & Kollegen.