Öffentliche Konsultation – Haftung für KI-Schäden im Privatrecht von England und Wales
Die Konsultation: Was passiert gerade?
Der Master of the Rolls, Sir Geoffrey Vos – der zweithöchste Richter in England und Wales – leitet eine große Initiative, um zu klären, wer haftet, wenn KI Schaden verursacht.
Die Frage ist einfach: Wenn du ein KI-Tool, einen Chatbot oder ein LLM verwendest, um einen Vertrag zu entwerfen, und etwas schiefgeht, wer ist verantwortlich? Du, das KI-Unternehmen oder jemand anderes?
Die UK Jurisdiction Taskforce (UKJT) hat einen Entwurf einer rechtlichen Stellungnahme veröffentlicht, der die Gerichte bei diesen Fällen noch jahrelang leiten wird. Sie baten um öffentliches Feedback, und wir wollten gern beitragen.
Warum diese Konsultation wichtig ist
Die rechtliche Stellungnahme der UKJT soll Richter, Anwälte und politische Entscheidungsträger dabei unterstützen, sich in neuem Terrain zurechtzufinden. Sie ist vergleichbar mit einer medizinischen Konsenserklärung: nicht das Recht selbst, aber ein vertrauenswürdiger Bezugspunkt für alle, die Entscheidungen über KI und Haftung treffen.
Wenn ein Fall, an dem ein KI-Chatbot oder ein LLM beteiligt ist, vor Gericht kommt, wird der Richter mit sehr hoher Wahrscheinlichkeit diese Stellungnahme heranziehen. Auch wenn sie kein Parlamentsgesetz sein wird, wird sie die Ergebnisse über Jahre – vielleicht Jahrzehnte – prägen. Genau deshalb war es für uns so wichtig, einen Beitrag zu leisten.
Unsere Position: Nutzer sind die Entscheidungsträger
Bei Unwildered sehen wir KI als Werkzeug, das menschliches Urteilsvermögen unterstützt – nicht ersetzt. So wie ein Taschenrechner dich nicht schlecht in Mathe macht, entbindet dich ein KI-Schreibassistent nicht von der Verantwortung.
Unser Kernargument: Wenn du Caira nutzt, um ein Dokument zu entwerfen, bist du der Autor. Du prüfst es, du bearbeitest es, du unterschreibst es. Die KI unterstützt; du entscheidest.
Das spiegelt wider, wie das Steuerrecht bereits funktioniert. Nach Schedule 24 des Finance Act 2007 haften Steuerzahler für „fahrlässige“ Fehler in ihren Steuererklärungen – selbst wenn sie sich auf falschen Rat eines Steuerberaters verlassen haben. Die Kontroverse um die Stamp-Duty von Angela Rayner im Jahr 2025 zeigte das in der Praxis: Sich allein auf den Rat zu verlassen, reichte nicht aus. Es wurde festgestellt, dass sie die höchsten Standards nicht erfüllt hatte, weil sie den erhaltenen Rat nicht überprüft hatte.
Dieselbe Logik sollte für KI gelten. Wenn du einen Vertrag unterschreibst, ohne ihn zu lesen, kannst du nicht der KI die Schuld geben. Die KI ist dein Entwurfsassistent, nicht dein Anwalt.
„Mensch in der Schleife“ verstehen
Vielleicht hast du den Ausdruck „Mensch in der Schleife“ in Diskussionen über KI-Sicherheit gehört. Er bedeutet, dass bei der Nutzung von KI immer eine Person für die endgültige Entscheidung verantwortlich ist.
Es geht nicht darum, die KI unkontrolliert laufen zu lassen – es geht darum, Nutzer zu befähigen, fundierte Entscheidungen zu treffen, so wie sie es auch bei jedem anderen Werkzeug tun würden. Wenn du Caira verwendest:
Du lieferst die Fakten und den Kontext
Du überprüfst die Ausgabe der KI
Du entscheidest, ob du darauf handelst
Du übernimmst Verantwortung für deine Entscheidung
Genau so funktioniert es auch bei Rechtsanwälten. Dein Anwalt entwirft ein Dokument; du unterschreibst es. Du bist nicht von der Verantwortung befreit, nur weil dir ein Profi geholfen hat.
Bei KI-Tools für Verbraucher wie Caira ist der Nutzer der Mensch in der Schleife. Zu verlangen, dass ein Anwalt jede KI-Ausgabe prüft, ist nicht praktikabel – es gibt 150.000 Rechtsanwälte in England & Wales und 67 Millionen Menschen.
Warum das für Verbraucher wichtig ist
Die Realität ist, dass 31 % der Erwachsenen im Vereinigten Königreich ungedeckte rechtliche Bedürfnisse haben. Viele können sich keine Rechtsanwälte leisten, bekommen kaum Termine und müssen allein herausfinden, was zu tun ist.
KI-Tools wie Caira verändern das. Für 15 £ im Monat bekommst du rund um die Uhr, 365 Tage im Jahr, rechtliche Antworten und Unterstützung beim Entwerfen von Dokumenten – auch abends und am Wochenende, wenn deine Gedanken am lautesten sind und Rechtsanwälte nicht verfügbar sind.
Wenn das Recht für ein KI-Tool für 15 £ im Monat dieselben Haftungsmaßstäbe anlegt wie für einen Anwalt, der 500 £ pro Stunde kostet, werden diese erschwinglichen Optionen verschwinden. Die Wahl für Verbraucher liegt nicht zwischen „KI“ und „einem Anwalt“. Sie liegt zwischen „KI“ und „gar nichts“.
Wir haben die Taskforce aufgefordert, diese Realität anzuerkennen.
Der Unterschied zwischen KI-Tools und regulierten Fachleuten
Manche fragen vielleicht: Sollte KI nicht an denselben Standards gemessen werden wie Rechtsanwälte?
Rechtsanwälte sind reguliert, versichert und unterliegen strengen Berufsstandards. Sie bilden sich jahrelang aus, führen eine verpflichtende Berufshaftpflichtversicherung und können bei Fehlverhalten aus dem Beruf ausgeschlossen werden.
KI-Tools hingegen sind Softwareprodukte – sofort verfügbar, zu einem Bruchteil der Kosten und ohne denselben regulatorischen Rahmen. Sie unterliegen dem Verbraucherschutzrecht (wie dem Consumer Rights Act 2015), nicht den Berufsregeln.
Wenn das Gesetz beide gleich behandelt, riskiert es, erschwingliche KI-Tools unwirtschaftlich zu machen und vielen überhaupt keine Hilfe zu lassen.
Das bedeutet nicht, dass KI ein rechtsfreier Raum sein sollte. Bei Unwildered setzen wir uns für verantwortungsvolle Innovation ein:
Wir verwenden klare Hinweise, dass unsere Ausgabe informativ ist und keine Rechtsberatung darstellt
Wir verlangen eine Bestätigung des Nutzers vor wichtigen Handlungen
Wir befolgen bewährte Verfahren für Datensicherheit
Wir sind der Ansicht, dass KI befähigen und nicht menschliches Urteilsvermögen ersetzen sollte
Aber der Haftungsrahmen muss anerkennen, dass ein Tool für 15 £ im Monat, das Millionen von Menschen dient, grundlegend anders ist als eine maßgeschneiderte Anwalt-Beziehung für 500 £ pro Stunde.
Eine Botschaft an Anwälte und Stakeholder
Für Anwälte, die dies lesen: Es geht nicht darum, eure Fachkompetenz zu ersetzen. Es geht darum, rechtliche Unterstützung breiter verfügbar zu machen.
KI kann routinemäßige Entwürfe und Recherchen übernehmen und Rechtsanwälte entlasten, damit sie sich auf komplexe, hochwertige Arbeit konzentrieren können, die wirklich professionelle Beurteilung erfordert. Die 31 % mit ungedecktem Rechtsbedarf sind nicht eure derzeitigen Mandanten – sie können es sich nicht leisten, es zu sein. KI bedient einen Markt, den traditionelle Rechtsdienstleistungen schlicht nicht erreichen können.
Für Regulierungsbehörden geht es darum, die richtige Balance zu finden: Verbraucher zu schützen, ohne Innovation zu hemmen. Der Consumer Rights Act 2015 bietet bereits robuste Schutzmechanismen für digitale Inhalte. Wir müssen das Rad nicht neu erfinden – wir müssen bestehende Grundsätze vernünftig anwenden.
Das Risiko einer Überregulierung
Wenn es im Vereinigten Königreich zu riskant wird, KI-Rechtswerkzeuge anzubieten, werden Verbraucher nicht plötzlich in der Lage sein, sich Rechtsanwälte zu leisten. Sie werden zu ChatGPT greifen – einem amerikanischen Produkt, das nicht für England und Wales konzipiert ist, nicht speziell auf britisches Recht trainiert wurde und keiner britischen Aufsicht unterliegt.
Wenn die Regulierung zu streng ist, könnten britische Verbraucher am Ende auf KI-Tools aus dem Ausland zurückgreifen, die unser Rechtssystem nicht verstehen, keinen lokalen Schutz bieten und sich nicht an britische Standards halten müssen. Das ist ein Risiko für alle – Verbraucher, Anwälte und das Justizsystem.
Überregulierung schützt Verbraucher nicht. Sie treibt sie zu weniger sicheren Alternativen.
Wie Sir Geoffrey Vos selbst in dem Konsultationspapier anmerkte:
„Jede Ungewissheit, ob tatsächlich vorhanden oder nur wahrgenommen, birgt das Risiko, die Einführung nützlicher KI-Tools zu hemmen, insbesondere in risikoaversen Berufssektoren...“
Und weiter:
„Das englische Recht als ein gut entwickeltes, flexibles Common-Law-System besitzt die Fähigkeit, im Kontext technologischer Innovation Rechtssicherheit und Vorhersehbarkeit zu schaffen. In Bereichen echter Neuartigkeit entstehen Rechtssicherheit und Vorhersehbarkeit mit der Zeit, wenn die Gerichte aus ersten Prinzipien heraus argumentieren und bestehende Regeln weiterentwickeln, um der jeweiligen Neuartigkeit zu begegnen.“
Dem stimmen wir zu. Das Recht muss verantwortungsvolle Innovation ermöglichen, nicht hemmen.
Jenseits des Rechts: Das größere Bild
Dieselben Herausforderungen gibt es im Gesundheitswesen, in der psychischen Gesundheit und bei Finanzberatungen. Es wird nie genug Ärzte, Therapeuten oder Finanzberater geben, um die tägliche Nachfrage zu decken. Wartelisten wachsen. Kosten steigen. Ungleichheit vertieft sich.
KI ist der einzig realistische Weg, um sicherzustellen, dass jeder rechtzeitig und bezahlbar Unterstützung erhält – den Lebensstandard hebt und Ungleichheit reduziert. Was wir für Rechtsdienstleistungen fordern, gilt gleichermaßen für diese Bereiche: kontextbezogene Haftung, Nutzerverantwortung und verhältnismäßige Regulierung.
Wenn wir das im Recht richtig machen, setzt das einen Präzedenzfall dafür, wie das Vereinigte Königreich KI über alle Verbraucherdienstleistungen hinweg reguliert.
Was wir empfohlen haben
Unsere Stellungnahme machte vier zentrale Punkte:
1. Haftung sollte mit der Funktion skalieren
Eine KI, die ein Dokument entwirft (bei der du es prüfst und unterschreibst), ist etwas anderes als eine KI, die ohne Rückfrage eine Klage beim Gericht einreicht. Für die erste sollte die Verantwortung beim Nutzer liegen; für die zweite beim Anbieter.
2. Der Sorgfaltsmaßstab muss kontextabhängig sein
Ein Tool für 15 £ im Monat ist kein Anwalt für 500 £ pro Stunde. Die Sorgfaltspflicht – wie sie in Fällen wie Bolam und Montgomery festgelegt wurde – war schon immer kontextabhängig. Das sollte sich für KI nicht ändern.
3. Nutzer sind der „Mensch in der Schleife“
Der Nutzer prüft, entscheidet und handelt. So sollte die Verantwortung bei informativen KI-Tools verteilt werden.
4. Anbieter sind für die Produktqualität verantwortlich
Wenn Caira ein Datenleck hat, Malware enthält oder eine Ausgabe erzeugt, die seiner Beschreibung widerspricht, liegt das bei uns. Der Consumer Rights Act 2015 deckt das bereits ab. Aber wir können nicht garantieren, dass du mit dem, was wir bereitstellen, weise Entscheidungen triffst. Dafür bist du verantwortlich.
Wie geht es weiter?
Die UKJT wird alle Einreichungen prüfen und später in diesem Jahr eine endgültige rechtliche Stellungnahme veröffentlichen (wahrscheinlich Mitte 2026). Das wird kein Parlamentsgesetz sein – es wird nicht im formalen Sinn „das Gesetz“ sein – aber es wird äußerst einflussreich sein.
Wenn ein Fall zur KI-Haftung vor Gericht kommt, werden Richter mit sehr hoher Wahrscheinlichkeit auf die Stellungnahme der UKJT als Orientierung zurückgreifen. Stellen Sie es sich wie eine Konsenserklärung eines Chefarztes vor: nicht rechtsverbindlich, aber in der Praxis entscheidend.
Wir sind stolz, zu dieser Diskussion beigetragen zu haben. KI ist da, sie hilft Millionen von Menschen, und das Recht muss aufholen – durchdacht, fair und ohne die Innovation zu untergraben, die Rechtsberatung zum ersten Mal in der Geschichte zugänglich macht.
Wir würden gern von Ihnen hören
Sollte KI Ihrer Meinung nach an denselben Standards gemessen werden wie Rechtsanwälte? Was bereitet Ihnen bei der Nutzung von KI für rechtliche Hilfe die größten Sorgen? Welche Chancen begeistern Sie?
Melden Sie sich – wir würden gern Ihre Gedanken hören. Schreiben Sie uns an hello@unwildered.co.uk oder vernetzen Sie sich mit uns auf LinkedIn.
Was ist die UKJT?
Die UK Jurisdiction Taskforce (UKJT) ist ein führendes Rechtsgremium, das geschaffen wurde, um Klarheit und Vertrauen in das Recht zu schaffen, soweit es auf neue Technologien anwendbar ist. Unter dem Vorsitz des Master of the Rolls, Sir Geoffrey Vos, bringt die UKJT Rechtsexperten, Richter und Branchenvertreter zusammen, um rechtliche Unsicherheiten in schnelllebigen Bereichen wie digitalen Vermögenswerten, Smart Contracts und künstlicher Intelligenz zu behandeln.
Seit ihrer Gründung im Jahr 2019 hat die UKJT einflussreiche rechtliche Stellungnahmen zum Status von Kryptoassets, Smart Contracts und digitalen Wertpapieren nach englischem Recht veröffentlicht. Diese Stellungnahmen haben Gerichten, Unternehmen und Verbrauchern geholfen zu verstehen, wie das englische Recht auf neue Technologien angewendet wird, und wurden international als maßgebliche Orientierung zitiert.
Die Arbeit der UKJT beschränkt sich nicht auf digitale Vermögenswerte. Sie hat auch die Digital Dispute Resolution Rules entwickelt, um eine schnelle, von Experten geleitete Beilegung von Streitigkeiten in der digitalen Wirtschaft zu unterstützen, und zur Entwicklung von Gesetzen wie dem Electronic Trade Documents Act 2023 beigetragen, der es ermöglicht, digitale Dokumente rechtlich genauso zu behandeln wie Papierdokumente.
Zuletzt hat sich die UKJT der Frage der Haftung für durch KI verursachte Schäden gewidmet. Mit der raschen Verbreitung von KI in Rechts-, Finanz- und Verbraucherdienstleistungen wächst die Unsicherheit darüber, wer verantwortlich ist, wenn etwas schiefgeht. Die rechtliche Stellungnahme der UKJT zur KI-Haftung soll Gerichten, Regulierungsbehörden und der Öffentlichkeit Klarheit verschaffen und sicherstellen, dass das englische Recht weiterhin zweckmäßig bleibt und verantwortungsvolle Innovation unterstützt.
Die Arbeit der UKJT wird von anderen Rechtsordnungen aufmerksam verfolgt und gibt oft den Ton für internationale Rechtsentwicklungen an. Durch die Klärung rechtlicher Unsicherheit stärkt die UKJT das Marktvertrauen und unterstützt die sichere, breite Einführung neuer Technologien im Vereinigten Königreich und darüber hinaus.
