Die Diskussion über die verschiedenen Anwendungen künstlicher Intelligenz im Recht wird meist technisch geführt: Man spricht unter anderem über Statistik und Wahrscheinlichkeiten, jeweils zugeschnittene Datenmengen, Mustererkennung (use cases) und Effizienz (billable hours). Doch der Kern des Rechts ist nicht Technik, auch wenn bereits Legal Tech zu solch einer Denkbewegung geführt hat, sondern immer noch Menschlichkeit.
Das Recht lebt davon, dass Menschen andere Menschen beurteilen – mit ihren Stärken, Schwächen, Irrtümern und Hoffnungen. Genau hier liegt zumindest bislang die Grenze der derzeit der Allgemeinheit zur Verfügung gestellten KI im Gegensatz zum tatsächlichen Stand der militärischen Geheimwissenschaften.
Diese aktuell zur Verfügung gestellte (released) KI kann zwar berechnen, aber nicht vergeben. Sie kann präzise subsumieren, aber nicht mit Augenmaß und schon gar nicht Barmherzigkeit. Sie kann Muster erkennen und Zeit-Trassen anwenden, aber sie kann nicht verstehen, was es bedeutet, ein Mensch und physisch im Raum unter anderen Menschen und räumlichen Zwängen unterworfen zu sein. Diese Grenze zeigt sich besonders deutlich in Situationen, in denen die starre Anwendung einer Regel zu einem Ergebnis führen würde, das zwar formal korrekt, aber materiell ungerecht oder auch nur für den Anwender nicht gerade günstig wäre.
Fallbeispiele
Ein Beispiel dafür ist die Deutsche Meisterschaft am 17. Mai 2026 in der Astoriahalle in Walldorf. Meine Tanzpartnerin und ich waren in der Hobby League im Standard und Latein gestartet und haben im Latein dann in der nächsthöheren Kategorie der Rising Stars noch einen vierten Platz ertanzt. Im Standard hat man uns ebenfalls in die Rising Stars erhoben, wonach wir - womit wir nicht rechneten und es auch nicht für möglich hielten - dann in die Supa League aufgestiegen sind. Während des Turniers war unser Augenmerk auf ein Tanzkleid einer langjährigen Tanzfreundin aus dem Team Unity gefallen, das zum Verkauf stand. Wir gingen nach den Auftritten bei den Rising Stars und einem bereits sehr langen Tanz-Tag durchaus naiv davon aus, dass für uns das Turnier beendet sei und wir allenfalls noch beim Ausmarsch aller Tanzpaare erscheinen müssten, so dass wir die Zwischenzeit für eine Anprobe nutzen wollten. Gerade als ich meine Tanzpartnerin in das sehr schöne und auch historisch wertvolle, aber etwas enge Kleid geholfen hatte, wurden wir von allen Seiten aufgerufen. Wir müssten nochmals tanzen, schnell auf die Bühne, alle warteten. Das Reglement verbietet allerdings Paaren, die in der Hobby League starten, das Tragen von Ball-Kleidern.
Nach dem strikten Wortlaut der Regeln wären wir somit disqualifiziert worden. Doch die Menschen, die vor Ort entschieden, sahen die besonderen Umstände und werteten entsprechend. Wir hatten keinerlei Vorteil beabsichtigt; uns war die Regel bekannt, aber die erneute Umkleidezeit in das ursprüngliche Jump-Suit wäre weder den bereit stehenden Paaren der Supa League noch den Zuschauerinnen und Zuschauern des Turnier insgesamt zumutbar gewesen, weshalb wir trotz falscher Kleidung dennoch tanzten. Die Turnierleitung erkannte nach unserer Anhörung, dass eine Disqualifikation unverhältnismäßig gewesen wäre und entschied nach hitziger Debatte nicht nur nach Wortlaut, sondern nach Billigkeit, unter Inkaufnahme freilich einer gewissen Rechtsunsicherheit und einem gewissen Störgefühl für die im weiteren Wettbewerb sogar noch übertroffenen anderen Paare.
Künstliche Intelligenz entscheidet automatisiert nach Schema F. Wir erfahren in der Nutzung der aktuell zur Verfügung gestellten Versionen verschiedene Denkfehler, die ich nach und nach - inspiriert von den Büchern von Rolf Dobelli - beschreiben möchte. Was das Denken und Nachdenken eigentlich ist, können wir schon beim Menschen nicht mit Sicherheit sagen, so dass die Kategorie der Denkfehler durchaus auch auf die algorithmisch nutzbar gemachten gewaltigen Netzwerke und Datenmengen anwendbar ist.
Ein weiteres Beispiel von meiner heutigen Bahnfahrt von Horgen nach Pfäffikon. Ich hatte die S2 und die S8 zur Auswahl, um einen knappen Anschluss zu erreichen. Die S2 fährt auf einer schnellen Trasse und hält bis Pfäffikon nur zweimal (Wädenswil und Richterswil), während die S8 fünf Zwischenhalte hat, also zusätzlich auch noch in Au, Bäch und Freienbach. Die S8 fuhr laut Plan fünf Minuten vor der S2, hatte aber vier Minuten Verspätung. Die S2 hat eine kürzere Fahrtzeit aufgrund weniger Zwischenhalte, kann die S8 aber nicht überholen, weil auf der Strecke physisch dieselben Schienen befahren werden. Wie von der SBB App empfohlen riet mir die KI in diesem Fall dennoch, die knappere S2 zu nehmen und nicht die vorher eintreffende S8.
Denkfehler der KI
Der erste der Denkfehler der KI ist somit der Abstraktionsfehler.
Die Realität der KI ist ein Modell, das zwar logisch konsistent ist, aber die menschliche Dimension ausblendet. Weil in den Rechenmodellen von schnelleren Trassen die Rede ist, kommt es zur weniger günstigen Empfehlung des späteren und zwangsläufig hinterherfahrenden Zugs auch nach mehreren Hinweisen auf eine fehlende Möglichkeit zum Überholen.
Damit hängt der zweite Denkfehler zusammen, und zwar der Modellübertragungsfehler. Eine KI überträgt Regeln und Muster, die in vielen Fällen zutreffen, auf alle Fälle. Wenn in der Mehrheit der Turniere ein falsches Kleid zur Disqualifikation führt, dann wird sie dieses Muster auch auf unseren Sonderfall anwenden. Sie kennt keine Ausnahme, weil sie sich keine Ausnahme vostellen kann. Sie kennt nur Muster. Unser Fall wäre allenfalls zum Training einer KI geeignet gewesen.
Der dritte Denkfehler ist eine Bevozugung scheinbarer Plausibilität. Logische Erklärungen werden bevorzugt, auch wenn sie nicht der Wahrheit entsprechen. So ist das Tragen eines nicht erlaubten Kleides typischerweise ein Versuch, über tänzerische Defizite hinwegzutäuschen. Für uns sprach aber nicht zuletzt, dass ich selbst keinen Frack trug, sondern profane Trainingsbekleidung wiue für die Hobby League geboten. Menschen kann man mit solchen Argumenten überzeigen, die KI hätte blitzschnell und voreilig falsch entschieden.
Der vierte Denkfehler ist der Kontextverlust. Eine KI verliert die Besonderheiten des Einzelfalls, sobald sie in ein abstraktes Schema überführt werden. Sie hätte nicht verstanden, dass der Aufstieg überraschend kam, dass das Reglement selbst unklar war, dass ihr keinen Vorsatz hattet und dass die soziale Realität des Tanzsports eine gewisse Flexibilität verlangt. Sie hätte die Situation nicht als menschliche Situation erkannt, sondern als Datenpunkt.
Der fünfte Denkfehler ist der Selbstkorrekturfehler. Eine KI korrigiert sich erst, wenn sie explizit darauf gestoßen wird. Sie kann nicht spontan erkennen, dass eine strikte Regelanwendung zu einem falschen Ergebnis führt. Sie kann nicht intuitiv spüren, dass eine Ausnahme geboten ist. Sie kann nicht aus sich heraus barmherzig sein und kein Ermessen anwenden. Ermessen ist zwingend menschlicher Natur.
Recht und Billigkeit sowie Ermessen
Die Denkfehler der KI können beliebig weiter gesponnen werden und sind nicht technische Schwächen, die man durch bessere Daten oder bessere Modelle beheben könnte. Sie sind strukturell. Sie ergeben sich aus der Natur der KI selbst. Eine KI kann nur das, was in ihren Daten und Modellen vorgesehen ist. Menschlichkeit ist dort nicht vorgesehen. Im Recht führt das zu einer gefährlichen Illusion. Wenn Anwalt A eine KI nutzt, Anwalt B ebenfalls, der Staatsanwalt eine weitere und der Richter schließlich auch, entsteht ein System, in dem KIs miteinander interagieren, sich gegenseitig erkennen, antizipieren und neutralisieren.
Doch all diese KIs teilen dieselben Denkfehler. Sie alle abstrahieren, sie alle verlieren Kontext, sie alle bevorzugen plausible Erklärungen, sie alle übertragen Muster unzulässig und sie alle korrigieren sich zu spät. Wenn der Richter dann ebenfalls KI‑gestützte Entscheidungsentwürfe erhält, entsteht ein geschlossener KI‑Kreislauf, in dem menschliches Ermessen keinen Platz mehr hat.
Das Recht aber braucht dieses Ermessen und Billigkeit. Aristoteles nannte sie Epikie, mehr oder weniger eine Fähigkeit, starre Regeln anzupassen, wenn sie im Einzelfall zu einem ungerechten Ergebnis führen. Rawls geht nach meinem Verständnis von als fair empfundener Rechtsanwendung aus und betont das strikte Verfahren, in unserem Fall die Gewähr des rechtlichen Gehörs, die Anhörung. Und das Schweizer Recht verlangt in Art. 4 ZGB ausdrücklich, dass der Richter nach Recht und Billigkeit entscheidet. Der Mensch kann Irrtümer würdigen, Fairness fühlen, Verhältnismäßigkeit abwägen und Gnade walten lassen. Der Mensch kann erkennen, dass ein Regelverstoß unter Umständen ohne Sanktion bleiben muss. Der Mensch kann verstehen, dass ein Tanzkleid nicht über den Wert eines Paares entscheidet. Und in Anwendung des natürlichen Denkgefühls kommen auch in der Wahl des richtigen Zugs mitunter bessere Entscheidungen zustande als im blinden Vertrauen auf die Empfehlungen einer KI.