Ist es denkbar, dass eine Maschine, ausgestattet mit Künstlicher Intelligenz (KI), entscheidet, ob eine mutmaßlich geprellte Autokäuferin als Klägerin in einem Diesel-Verfahren Schadenersatz bekommt? Oder wie oft ein Elternteil im Falle einer Scheidung die Kinder noch sehen darf? Wäre es gar akzeptabel, dass eine KI einen wegen Mordes Angeklagten schuldig spricht und zu einer lebenslangen Haftstrafe verurteilt?

Lesen Sie auch

Gemünden

VW-Prozess: 93-Jähriger aus Gemünden siegte kurz vor seinem Tod

5 Kommentare

Was nach Science-Fiction klingt, sind Fragen, mit denen sich Expertinnen und Experten der Universität Würzburg und des Oberlandesgerichts (OLG) Bamberg seit Ende 2020 beschäftigen. Zumindest sind sie Teil eines Projekts mit dem Titel "Mensch und Justiz im Digitalzeitalter", an dem neben Juristinnen und Juristen auch Vertreter anderer Fachrichtungen beteiligt sind – etwa aus der Informatik oder der Psychologie.

Ist es besser, wenn ein Mensch die Urteile fällt?

"Wir haben uns im Ausgangspunkt mit der Frage befasst, wie Justiz in 20 Jahren aussehen wird", erklärt OLG-Präsident Lothar Schmitt. Die Justiz sei noch "beim Einstieg in die Digitalisierung", doch schon jetzt müsse man sich fragen, "ob wir auf dem richtigen Weg sind". Das beginne mit der Überlegung, wo "die Digitalisierung Nutzen für die Justiz" haben könnte. Und ende eben bei solch futuristisch anmutenden Szenarien, bei denen "ein Computer einschätzen kann, ob ein Zeuge lügt oder nicht" und man in Teilbereichen sogar "auf den Richter verzichten" könnte, "weil künftig Computer entscheiden". Und natürlich stelle sich die Frage, ob es nicht doch besser sei, wenn ein Mensch die Entscheidung trifft und Verantwortung übernimmt, betont Schmitt.

Dass solche Überlegungen nicht nur in der Gesellschaft, sondern auch in den unterschiedlichen Fachwelten für Kontroversen sorgen, zeigte sich im vergangenen Herbst. Bei einem Symposium von Uni und OLG in der Würzburger Neubaukirche diskutierten Richterinnen und Richter, Verfassungsrechtler, Anwältinnen und Anwälte sowie Informatiker und Vertreterinnen und Vertreter weiterer Fachrichtungen über ethische und rechtliche Herausforderungen, die die Digitalisierung der KI mit sich bringt. Eine Erkenntnis dabei: Während technische Laien den Einsatz von KI in weiten Teilen noch für Zukunftsmusik halten, sind KI-Experten optimistischer. Die Technik sei weiter als oftmals angenommen, der Fortschritt beschleunige sich.

Informatiker glaubt an "sichtbare Veränderungen" in den Gerichten

Prof. Andreas Hotho, Sprecher des Zentrums für Künstliche Intelligenz und Datenwissenschaft an der Universität, rechnet zwar aufgrund der Digitalisierung mit "sichtbaren Veränderungen in den Gerichtssälen". Es werde aber, sagt er, "noch nicht soweit gehen, dass die KI Entscheidungen fällt".

Ähnlich sehen das die Würzburger Juristinnen Marie-Theres Hess und Jacqueline Sittig. Sie sind am Projekt von OLG und Uni beteiligt und beschäftigen sich an der Forschungsstelle Robotrecht am Lehrstuhl des bekannten Würzburger Straftrechtlers Prof. Eric Hilgendorf mit dem Einsatz von Künstlicher Intelligenz in Gerichtsprozessen. "Reine KI-Entscheidungen liegen noch weit in der Zukunft", sagt Hess, die in ihrer Dissertation gerade untersucht, welchen Einfluss technischer Fortschritt auf die Beweiswürdigung im Strafprozess hat. Aber die KI als richterliche Unterstützung – "dazu laufen bereits Forschungen".

Wenn die KI dem Richter eine Strafe empfiehlt

"Nehmen wir als Beispiel ein Strafverfahren wegen einer Sachbeschädigung", erklärt Hess die Idee dahinter: "Bei der dortigen Strafzumessung spielen im Prozess unter anderem Delikte, die eine Beschuldigte oder ein Beschuldigter früher begangen hat, oder der entstandene Schaden eine Rolle." Wenn nun eine KI mit diesen Informationen und zudem mit Urteilen aus vergleichbaren Fällen gespeist wird, könnte ein Computer einem menschlichen Richter eine Empfehlung geben, welche Strafe angemessen sei. Aber, betont Hess: "Am Ende müsste der Richter den individuellen Einzelfall anschauen." In Strafprozessen sei so etwas schwer umzusetzen. In einem Zivilprozess dagegen sei alles viel strukturierter: "Und man hat keinen Menschen auf der Anklagebank, der im Zweifelsfall zehn Jahre in Haft muss."

"Beim Zivilrecht geht es viel häufiger mehr um reine Fakten und in der Regel weniger emotional zu als im Strafrecht", sagt auch Sittig. Mit anderen Wissenschaftlerinnen und Wissenschaftlern hat sich die Doktorandin im Projekt "Targetjura" der Forschungsstelle Robotrecht ein Szenario ausgedacht, das derzeit noch nicht real umsetzbar ist, aber in der Theorie durchgespielt wird: Dabei ist die KI Richterin und führt eine Hauptverhandlung durch.

Was, wenn die KI "bessere Urteile" sprechen kann?

In dem Szenario findet die Verhandlung "wie jetzt auch statt", erklärt Sittig, allerdings führen Psychologen die Zeugenbefragungen durch, die die KI verarbeiten kann. Denn: "Wir gehen davon aus, dass eine KI Zwischenmenschliches und Emotionen nicht so schnell erfassen kann, wie ein Mensch." Am Ende fällt die KI ein Urteil.

Ziel der Forschenden ist es hier, einen Chatbot zu entwickeln – also einen virtuellen Kommunikationsroboter –, mit dem Menschen in Dialog über ethische Fragen treten können. Hierbei soll ein Chatbot auf die Einhaltung von Diskussionsregeln achten und dafür sorgen, dass die wichtigsten Argumente thematisiert werden, ohne das vom Chatbot eine Meinung vertreten wird, die er für richtig hält. Zum Einsatz könnte ein solcher Chatbot laut Sittig zum Beispiel auf Gerichts-Homepages kommen: Dort könnten sich dann Bürgerinnen und Bürger mit dem Programm etwa darüber austauschen, ob es sich lohnt, mit einem Anliegen vor Gericht zu gehen.

In einem anderen Szenario der Forschungsgruppe geht es um die Frage, ob "im Zivilrecht ein juristisch intelligentes Programm Streitfälle in erster Instanz entscheiden" soll, erklärt Sittig, wenn dessen "Urteile besser sind". Gemeint ist, dass diese Urteile "seltener in der Berufung korrigiert werden" als bei menschlichen Richterinnen und Richtern. Das würde natürlich voraussetzen, dass die KI als Richterin "grundsätzlich erlaubt ist, ein vom Staat bereitgestelltes, regelbasiertes Programm ist und die Aufgabe der beteiligten Richterinnen und Richter sich auf die Feststellung der Fakten beschränkt".

Richter wollen keine "Entscheidungs-Automaten"

Ein Urteil, das eine KI fällt und nur noch von einem menschlichen Richter geprüft wird – "unvorstellbar" für den Präsidenten des Oberlandesgerichts. "Ich möchte nicht, dass ich etwas eingebe, der Computer mir auf der Grundlage gespeicherter Entscheidungen ein fertiges Urteil auswirft, das ich nur noch einmal lese und dann einen Haken dranmache", sagt Schmitt. Er warnt vor einem "Übernahmeautomatismus", der "verheerend für Parteien, Rechtskultur und Rechtsstaat" wäre. "Ich finde, wir müssen auch noch etwas Denksport betreiben und die sozialen, menschlich individuellen Aspekte bei der Entscheidung beachten: Entscheidung von Menschen für Menschen."

Auch der Nürnberger OLG-Präsident Thomas Dickert erklärte kürzlich: "Selbst wenn das eines Tages technisch möglich sein sollte", wolle man keine "Richter-Roboter" oder "Entscheidungs-Automaten". Die richterliche Verantwortung bestehe darin, sich jedem einzelnen Fall zuzuwenden. "Urteile werden eben im Namen des Volkes gesprochen und nicht im Namen eines Algorithmus."

Eine Absage an den Einsatz von KI im Justizbetrieb ist das jedoch nicht. "Als Unterstützungsinstrument für die Entscheider – Richter, Staatsanwälte, Ermittler – ist es nicht nur richtig, KI einzusetzen: Es wird künftig gar nicht mehr ohne sie gehen", ist Schmitt überzeugt und erinnert an "die Terrabyte von Daten in Fällen von Wirtschaftskriminalität oder Kinderpornografie, die ausgewertet werden müssen".

Tatsächlich ist die KI etwa bei Ermittlungsverfahren in Fällen von Kinderpornografie schon angekommen. Ein Forschungsprojekt des Landes Nordrhein-Westfalen mit dem Software-Riesen Microsoft ergab, dass KI mit einer Genauigkeit von über 90 Prozent Kinder- und Jugendpornografie und nicht strafbare Erwachsenenpornografie erkennen und unterscheiden kann. Das ersetze zwar nicht die Auswertung der Beweise durch einen Menschen. Es könne aber zu einem sehr frühen Zeitpunkt des Ermittlungsverfahrens den Strafverfolgern schnell und wirksam aus der Menge der Daten diejenigen Beweismittel herausfiltern, die sie zur Prüfung des dringenden Tatverdachts benötigten, hieß es aus dem Justizministerium in Düsseldorf.

Die KI könnte zum Beispiel Verteidigern mit guten Argumenten helfen

Die KI nicht als Entscheiderin, sondern als Hilfsmittel – das scheint für alle Beteiligten denkbar. "Die große Chance liegt in der Unterstützung für Richter, Staatsanwälte und Anwälte", sagt Informatiker Hotho: "Stellen wir uns einen digitalen Assistenten wie Siri oder Alexa vor, nur etwas cleverer, der der gesprochenen Verhandlung folgt." Ein solcher Sprachassistent "könnte automatisiert zu dem was gesprochen wird" in digitalisierten Gerichtsakten "Kontextsuchen durchführen und die Ergebnisse dem Richter oder den Anwälten einblenden". Das würde laut Hotho "Möglichkeiten schaffen, ganz anders argumentieren zu können. Gerichtsprozesse könnten so positiv beeinflusst werden, wenn man clever auf Fakten und Argumente zugreifen kann, die dann zuverlässig vorliegen – bislang hängt es davon ab, ob Richter oder Anwalt auf die Idee kommen". Der Gedanke sei "gar nicht so wahnsinnig innovativ", so Hotho. "Im Grunde ist das die Sprachkoppelung an eine Suchmaschine." Zwei Komponenten, die bereits existieren.

Juristin Hess nennt ein Beispiel, das bereits Realität ist: So fand Anfang 2021 bei einem Mordprozess in der Schweiz erstmals eine virtuelle Tatortbegehung vor Gericht statt, bei der Fachleute den Tathergang rekonstruierten. Verfahrensteilnehmer können laut Hess dabei über eine Virtual-Reality-Brille am Computer modellierte Tatorte, Personen oder Spuren sehen und interpretieren.

Mit der E-Akte in den Gerichten wird die Basis geschaffen

Egal, wo und wie stark KI in der Justiz zum Einsatz kommt: Wichtig sei, dass die Daten, mit denen der Computer gespeist wurde, nicht nur vollständig, sondern auch vorurteilsfrei sind, betont Juristin Sittig. Nur dann könne eine KI auch objektiv sein. Sittig spielt hier auf das sogenannte Compas-Programm in den USA an: Dabei werden Daten von Straftätern erfasst, ein Algorithmus berechnet dann die Wahrscheinlichkeit, dass ein Täter wieder rückfällig wird. Doch die Methode stand früh in der Kritik. "Weil die Daten nicht sorgsam ausgewählt wurden, wurde das Ergebnis verzerrt und schwarzen Straftätern grundsätzlich eine höhere Rückfallwahrscheinlichkeit zugesprochen", erklärt Sittig.

Allen ethischen, rechtlichen und technischen Hürden zum Trotz – zumindest theoretisch wird derzeit in Bayern die Grundlage für eine neue Realität in der Justiz geschaffen: durch die schrittweise Einführung der sogenannten E-Akte, die die Papierstapel in den Gerichten ersetzen soll. Zuletzt wurde in Unterfranken die elektronische Akte am Landgericht Schweinfurt eingeführt. Bis Dezember 2025 soll sie in allen deutschen Gerichten Einzug halten. Für Informatiker Hotho ist dieser Schritt nicht nur der Abschied vom Papier: "Die Digitalisierung von Akten", sagt er, "ist für den Einsatz von KI die zentrale Voraussetzung schlechthin."