KI-Halluzinationen vor Gericht
Londoner High Court zeigt Weg für verantwortungsvolle KI-Nutzung.
Kernaussage: Das Londoner Urteil vom Juni 2025 ist ein klares Signal: KI ist ein mächtiges Werkzeug für Effizienz im Recht, entbindet Juristen jedoch nicht von ihrer fundamentalen Sorgfaltspflicht. Vertrauen ist gut, Kontrolle ist besser – besonders bei maschinengenerierten Inhalten.
Der Fall, der die Branche aufrüttelt: Wenn die KI halluziniert
Was war geschehen? In zwei separaten Verfahren beriefen sich Anwälte auf insgesamt 23 (18+3) nicht existierende Gerichtsentscheidungen. Ein klassischer Fall von KI-„Halluzinationen“, die entstehen, wenn generische Sprachmodelle ohne spezifische juristische Validierung eingesetzt werden. Dies führte zu einer peinlichen Situation und letztlich zu einem Urteil, das uns alle zum Nachdenken anregen sollte.
Präsidentin Dame Victoria Sharp und Mr Justice Johnson nahmen diese Vorfälle zum Anlass, einen Grundsatzbeschluss zu fassen ([2025] EWHC 1383 (Admin)), der unmissverständlich klarstellt: Die unreflektierte Übernahme von KI-generierten Informationen, insbesondere von Rechtsquellen, ist berufswidrig. Die betroffenen Juristen wurden folgerichtig den zuständigen Aufsichtsbehörden gemeldet.
KI als mächtiges Werkzeug – mit menschlicher Kontrolle
Das Gericht betonte jedoch ausdrücklich das immense Potenzial von KI:
„Artificial intelligence is a powerful technology. It can be a useful tool in litigation, both civil and criminal.“
Diese Aussage ist entscheidend: Es geht nicht darum, KI aus der juristischen Arbeit zu verbannen. Im Gegenteil, die Richter erkennen an, dass KI ein wertvolles Hilfsmittel sein kann, wenn sie richtig eingesetzt wird. Doch eben hier liegt der Knackpunkt:
„Its use must take place therefore with an appropriate degree of oversight, and within a regulatory framework that ensures compliance with well-established professional and ethical standards“
Die Kernbotschaft ist klar: Wer KI zur Rechtsrecherche nutzt, hat die berufsrechtliche Pflicht, die Genauigkeit der Ergebnisse anhand von maßgeblichen Quellen zu überprüfen. Das bedeutet: Die menschliche Prüfung bleibt das unverzichtbare Rückgrat jeder KI-gestützten Recherche.
- Reaktionen und Implikationen: Die Branche lernt und adaptiert
Die Reaktionen auf das Urteil zeigen, dass die Rechtsbranche die Botschaft verstanden hat und proaktiv handelt. Statt Verbote auszusprechen, fokussieren sich Kammern und Verbände auf:
- Schulungen zum professionellen Umgang mit KI-Tools.
- Best-Practice-Leitfäden für die Integration von KI in Arbeitsabläufe.
- Qualitätsstandards und sogar Zertifizierungen für spezialisierte Legal-Tech-Lösungen.
Der Bar Council hat bereits eine Task-Force zur KI-Schulung ins Leben gerufen – ein klares Signal, dass die Nachfrage nach fundiertem Wissen und Audit-Funktionen steigen wird.
Der Unterschied macht’s: Warum professionelle Legal-KI anders ist
Der Fall aus London zeigt deutlich, dass es einen himmelweiten Unterschied zwischen generischen Consumer-KI-Tools und spezialisierten Legal-Tech-Lösungen gibt.
|
Merkmal |
Generische KI-Tools (❌) |
Spezialisierte Legal-KI (✅) |
|
Trainingsdaten |
Auf allgemeine Konversation trainiert; kann juristische Konzepte missverstehen. |
Arbeitet mit verifizierten Rechtsdatenbanken; kennzeichnet unsichere Quellen. |
|
Output-Verlässlichkeit |
Ungeprüfte Ausgaben können Halluzinationen enthalten. |
Professionelle Systeme bieten Quellenverweise und Verifikationsmechanismen. |
|
Aktualität |
Fehlende Aktualität bei sich schnell ändernder Rechtslage. |
Kontinuierliche Aktualisierung mit aktuellen Urteilen. |
Fazit: KI – Partner der Rechtspraxis, nicht ihr Ersatz
Das Londoner Urteil ist kein Rückschlag für Legal Tech, sondern ein wichtiger Meilenstein. Es markiert die Leitplanken für den verantwortungsvollen Einsatz von Künstlicher Intelligenz in der juristischen Praxis. Wer auf professionelle, transparente und verifizierbare KI-Lösungen setzt und die menschliche Prüfung als unverzichtbaren Bestandteil des Workflows etabliert, wird nicht nur effizienter, sondern auch rechtssicherer arbeiten.
Die Zukunft gehört intelligenten Systemen, die Juristen bei Routineaufgaben entlasten, die Qualität rechtlicher Arbeit erhöhen und mehr Zeit für strategische Beratung schaffen. Das alles gelingt jedoch nur, wenn wir KI als das verstehen, was sie ist: ein mächtiges Werkzeug, das unter menschlicher Kontrolle und im Einklang mit etablierten beruflichen und ethischen Standards genutzt werden muss.
