Öffentliche Konsultation – Haftung für KI-Schäden im englischen und walisischen Privatrecht
Die Konsultation: Was passiert gerade?
Sir Geoffrey Vos, Master of the Rolls und zweithöchster Richter in England und Wales, leitet eine wichtige Initiative, um zu klären, wer haftet, wenn KI Schäden verursacht.
Die Frage ist einfach: Wenn Sie ein KI-Tool, einen Chatbot oder ein LLM nutzen, um einen Vertrag zu erstellen, und etwas schiefgeht, wer trägt dann die Verantwortung? Sie, die KI-Firma oder jemand anderes?
Die UK Jurisdiction Taskforce (UKJT) hat den Entwurf einer rechtlichen Erklärung veröffentlicht, die die künftige richterliche Praxis prägen wird. Es wurde um Feedback gebeten, und wir wollten unseren Beitrag leisten.
Warum diese Konsultation wichtig ist
Die Erklärung der UKJT soll Richtern, Anwälten und der Politik als Leitfaden in diesem neuen Bereich dienen. Sie ist wie eine medizinische Konsensempfehlung: kein Gesetz, aber eine verlässliche Referenz bei Fragen rund um KI und Haftung.
Kommt ein Fall mit KI-Chatbots oder LLMs vor Gericht, wird der Richter fast sicher diese Erklärung hinzuziehen. Sie wird Entscheidungen über Jahre prallen – vielleicht über Jahrzehnte. Deshalb war unser Beitrag so wichtig.
Unsere Position: Der Nutzer entscheidet
Bei Unwildered sehen wir KI als Werkzeug zur Unterstützung, nicht als Ersatz menschlicher Urteilskraft. Ein Taschenrechner macht uns nicht unfähig im Rechnen. Genauso enthebt eine KI-Schreibhilfe Sie nicht der Verantwortung.
Unser Argument: Nutzen Sie Caira für einen Entwurf, bleiben Sie der Verfasser. Sie prüfen, Sie bearbeiten, Sie unterschreiben. Das heißt: KI hilft, Sie entscheiden.
So läuft es auch im Steuerrecht. Nach Schedule 24 des Finance Act 2007 haften Steuerzahler für fahrlässige Fehler – selbst bei falscher Beratung durch Steuerberater. Die Stempelsteuer-Debatte um Angela Rayner im Jahr 2025 zeigte dies deutlich: Bloßes Vertrauen auf Beratung genügte nicht. Sie verletzte Sorgfaltspflichten, weil sie die Ratschläge nicht prüfte.
Diese Logik muss auch für KI gelten. Unterschreiben Sie einen Vertrag blind, können Sie nicht der KI die Schuld geben. Die KI ist Ihr Assistent, nicht Ihr Anwalt.
Was bedeutet „Human in the Loop“?
Sicher haben Sie bei Debatten über KI-Sicherheit schon mal die Formulierung „Human in the Loop“ gehört. Sie bedeutet: Auch beim KI-Einsatz trägt immer ein Mensch die Verantwortung für die finale Entscheidung.
Dabei geht es nicht darum, die KI unkontrolliert laufen zu lassen. Es geht darum, Nutzer zu fundierten Entscheidungen zu befähigen – wie bei jedem anderen Werkzeug auch. Wenn Sie Caira nutzen:
geben Sie Fakten und Kontext vor
prüfen Sie die Ergebnisse der KI
entscheiden Sie über die Umsetzung
tragen Sie die Verantwortung für Ihre Entscheidungen
Exakt so läuft es bei Anwälten. Ihr Anwalt entwirft ein Dokument, Sie unterschreiben. Die Hilfe von Experten enthebt Sie nicht von Ihrer Verantwortung.
Bei Verbraucher-KI wie Caira ist der Nutzer der Mensch im Prozess. Jedes KI-Ergebnis von Anwälten prüfen zu lassen, ist unmöglich. England und Wales haben 150.000 Anwälte, aber 67 Millionen Einwohner.
Bedeutung für Verbraucher
Tatsache ist: 31 % der Erwachsenen in Großbritannien haben ungelöste Rechtsprobleme. Viele können sich keinen Anwalt leisten, bekommen keinen Termin und müssen sich allein durchschlagen.
KI-Tools wie Caira ändern das. Für 15 £ im Monat erhalten Sie rund um die Uhr rechtliche Antworten und Entwürfe – auch abends und am Wochenende, wenn Kanzleien geschlossen haben.
Forderte das Gesetz von einer 15-Pfund-KI dieselbe Haftung wie von einem Anwalt für 500 £ die Stunde, würden diese günstigen Optionen verschwinden. Die Wahl für Verbraucher lautet dann nicht „KI oder Anwalt“, sondern „KI oder gar nichts“.
Wir haben die Taskforce gedrängt, diese Realität anzuerkennen.
KI-Tools vs. regulierte Berufe
Manche fragen: Sollte KI nicht dieselben Standards erfüllen wie Anwälte?
Anwälte sind reguliert, versichert und an strenge Richtlinien gebunden. Sie durchlaufen eine lange Ausbildung, brauchen eine Haftpflichtversicherung und können bei Fehlverhalten ihre Zulassung verlieren.
KI-Tools hingegen sind Softwareprodukte – sofort verfügbar, extrem günstig und ohne diesen Regulierungsrahmen. Sie unterliegen dem Verbraucherschutzrecht (wie dem Consumer Rights Act 2015), nicht dem Berufsrecht.
Gleiche Regeln für beide würden günstige KI unrentabel machen. Viele Menschen blieben dann komplett ohne Hilfe zurück.
Das bedeutet nicht, dass KI ein rechtsfreier Raum sein soll. Wir bei Unwildered setzen auf verantwortungsvolle Innovationen:
Wir weisen klar darauf hin, dass unsere Texte nur zur Information dienen und keine Rechtsberatung sind
Vor wichtigen Schritten fordern wir Bestätigungen an
Wir nutzen exzellente Standards für Datensicherheit
Für uns soll KI menschliche Entscheidungen unterstützen, nicht ersetzen
Doch das Haftungsrecht muss anerkennen: Ein 15-Pfund-Tool für Millionen Menschen unterscheidet sich grundlegend von individueller Beratung für 500 £ die Stunde.
Eine Botschaft an Anwälte und Akteure
An alle Juristen: Es geht hier nicht darum, Ihre Expertise zu ersetzen. Es geht darum, Hilfe im Recht breiter zugänglich zu machen.
KI kann Routineaufgaben wie Entwürfe und Recherchen übernehmen. Das entlastet Anwälte für komplexe Fälle, die echte juristische Expertise erfordern. Die 31 % mit ungelösten Rechtsproblemen sind nicht Ihre Mandanten – sie können es sich schlicht nicht leisten. KI bedient einen Markt, den Kanzleien gar nicht erreichen können.
Für Regulierer gilt es, die Balance zu halten: Verbraucher schützen, ohne Innovationen abzuwürgen. Der Consumer Rights Act 2015 schützt digitale Inhalte bereits sehr gut. Wir müssen das Rad nicht neu erfinden, sondern bestehende Regeln klug anwenden.
Das Risiko von Überregulierung
Wird das Angebot von KI-Tools in UK zu riskant, können sich Verbraucher dennoch keine Anwälte leisten. Sie weichen dann auf ChatGPT aus – ein US-Produkt, das nicht für britisches Recht optimiert ist und britischer Aufsicht entgeht.
Zu strenge Regeln treiben Verbraucher zu ausländischen Tools. Diese kennen unser System nicht und bieten keinen Schutz vor Ort. Das schadet allen: Verbrauchern, der Anwaltschaft und der Justiz.
Überregulierung schützt niemanden. Sie drängt Menschen nur zu unsichereren Alternativen.
Sir Geoffrey Vos hob in der Konsultation hervor:
„Jede Unsicherheit birgt das Risiko, die Nutzung nützlicher KI-Tools zu hemmen – besonders in risikoaversen Branchen...“
Und weiter:
„Das englische Recht ist flexibel genug, um Sicherheit bei technologischen Fortschritten zu bieten. Bei echten Innovationen entsteht Klarheit durch richterliche Praxis, indem bestehende Regeln klug weiterentwickelt werden.“
Dem stimmen wir zu. Das Recht muss Fortschritt ermöglichen, statt ihn zu blockieren.
Über das Recht hinaus: Das große Ganze
Ähnliche Herausforderungen gibt es in Medizin, Therapie und Finanzberatung. Es wird nie genug Experten geben, um den täglichen Bedarf zu decken. Wartezeiten und Kosten steigen. Die Ungleichheit wächst.
KI ist der einzige Weg für schnelle und bezahlbare Hilfe für alle. Das hebt den Lebensstandard und baut Hürden ab. Was wir für das Recht fordern, gilt auch für diese Branchen: kontextbezogene Haftung, Nutzerverantwortung und Augenmaß bei Regeln.
Machen wir es hier richtig, setzen wir Standards für KI in fast allen Konsumbereichen.
Unsere Empfehlungen
Unsere Antwort umfasste vier Kernpunkte:
1. Haftung muss zur Funktion passen
Schreibt eine KI nur Entwürfe (die Sie prüfen und signieren), ist das etwas anderes, als wenn sie selbstständig Klagen einreicht. Im ersten Fall liegt die Haftung beim Nutzer. Im zweiten Fall muss der Anbieter haften.
2. Der Sorgfaltsmaßstab muss kontextabhängig sein
Ein Werkzeug für 15 £ im Monat ist kein Anwalt für 500 £ die Stunde. Die Sorgfaltspflicht war schon immer kontextabhängig (wie in Urteilen wie Bolam oder Montgomery). Das muss auch für KI gelten.
3. Der Nutzer ist das entscheidende Glied
Der Nutzer prüft, entscheidet und handelt. So muss die Verantwortung bei informativen KI-Tools verteilt sein.
4. Anbieter haften für Produktqualität
Verursacht Caira Datenlecks, enthält Schadcode oder entspricht nicht der Beschreibung, haften wir. Dies regelt bereits der Consumer Rights Act 2015. Doch für falsches Handeln mit unseren Inhalten haften Sie selbst.
Wie geht es weiter?
Die UKJT sichtet nun alle Beiträge. Die finale Erklärung erscheint voraussichtlich Mitte 2026. Sie wird kein formelles Gesetz sein, aber dennoch extremen Einfluss haben.
Richter werden sich bei Klagen zu KI-Haftung fast sicher an dieser Erklärung orientieren. Sie wirkt wie das Gutachten einer Ärztekommission: nicht rechtlich bindend, aber praktisch entscheidend.
Wir sind stolz auf unseren Beitrag zu dieser Debatte. KI ist da, sie hilft Millionen Menschen, und das Recht muss aufholen – klug, fair und ohne den Fortschritt zu bremsen, der Rechtsbeistand erstmals bezahlbar macht.
Ihre Meinung ist gefragt
Sollte KI denselben Standards wie ein Anwalt unterliegen? Was besorgt Sie am meisten? Welche Chancen sehen Sie?
Melden Sie sich bei uns – wir freuen uns auf den Austausch. Schreiben Sie an hello@unwildered.co.uk oder vernetzen Sie sich auf LinkedIn.
Was ist die UKJT?
Die UK Jurisdiction Taskforce (UKJT) ist ein führendes Rechtsgremium. Sie soll Rechtssicherheit im Umgang mit neuen Technologien schaffen. Unter dem Vorsitz von Sir Geoffrey Vos bringt sie Experten und Richter zusammen, um Rechtsunsicherheiten in Themen wie Smart Contracts und KI zu klären.
Seit der Gründung 2019 veröffentlichte die UKJT wichtige Stellungnahmen zum Status von Kryptoanlagen, Smart Contracts und digitalen Wertpapieren im englischen Recht. Diese Leitfäden helfen Gerichten wie Unternehmen und sind auch international hoch anerkannt.
Die Arbeit der UKJT geht über digitale Vermögenswerte hinaus. Sie entwickelte Regeln zur Streitbeilegung in der Digitalwirtschaft und prägte Gesetze wie den Electronic Trade Documents Act 2023, der digitale Dokumente Papierdokumenten rechtlich gleichstellt.
Aktuell befasst sich die UKJT mit der Haftung für KI-Schäden. Angesichts der rasanten Verbreitung von KI wächst die Unsicherheit darüber, wer bei Fehlern haftet. Die neue Erklärung der UKJT soll Klarheit für Gerichte, Aufsichtsbehörden und Verbraucher bringen, damit das Recht Innovationen weiter stützt.
Die Arbeit der UKJT wird international genau verfolgt. Indem sie Rechtsunsicherheiten abbaut, stärkt sie das Marktvertrauen und ebnet den Weg für die sichere Nutzung neuer Technologien in Großbritannien und weltweit.
