Wer haftet, wenn die KI einen Fehler macht?

Dein Serviceassistent sagt einem Kunden, es gebe zwei Jahre Garantie, dabei ist es eines. Oder deine KI setzt eine Null zu wenig in ein Angebot, das automatisch rausgeht. Wer haftet, wenn die KI einen Fehler macht: du, dein Kunde oder die Firma, die das System gebaut hat? Die ehrliche Antwort: Du bist als Erster dran. Und am 9. Dezember 2026 verschiebt sich das nur in eine Richtung. Hier liest du, was heute gilt, was dazukommt und welche sechs Dinge du regelst, bevor deine KI etwas nach außen schickt.

Die kurze Antwort: du bist als Erster dran

Es gibt kein eigenes Gesetz, das sagt: Das war die KI, also zahlt der Lieferant. Wer einen Schaden hat, klopft bei dem Unternehmen an, mit dem er Geschäfte gemacht hat. Das bist du. Ob dich dein Kunde an einer gebrochenen Zusage packt oder an mangelnder Sorgfalt, macht für deinen Geldbeutel wenig Unterschied.

Die Begründung ist einfach und schwer zu entkräften: Du hast entschieden, das System einzusetzen, du hast festgelegt, wie viel Spielraum es bekommt, und du hast den Vorteil, wenn es läuft. Deine KI ist juristisch keine Partei. Sie ist Werkzeug. Ein Gerüst, das einstürzt, haftet auch nicht selbst.

Das heißt nicht, dass du gegenüber deinem Lieferanten leer ausgehst. Aber das ist ein zweites Gespräch, und es beginnt erst, nachdem du deinen Kunden schon entschädigt hast. Regress dauert Monate. Dein Kunde ruft morgen an.

Der Fall, der es am deutlichsten zeigt

Die bekannteste Entscheidung kommt aus Kanada. Jake Moffatt fragte im November 2022 den Chatbot auf der Seite von Air Canada nach Trauertarifen. Der Chatbot sagte ihm, er könne den Rabatt nachträglich beantragen. Das stimmte nicht: Nach den echten Regeln musste das vorher passieren. Air Canada weigerte sich zu zahlen.

Das Schlichtungsgericht in British Columbia sah das am 14. Februar 2024 anders (Moffatt gegen Air Canada, 2024 BCCRT 149). Air Canada argumentierte unter anderem, der Chatbot sei für seine eigenen Aussagen verantwortlich. Damit kam die Airline nicht durch. Sie hätte vernünftigerweise dafür sorgen müssen, dass die Angaben auf der eigenen Website stimmen, und musste rund 650 kanadische Dollar zahlen.

Die Summe ist klein. Das Prinzip nicht. Alles, was dein System einem Kunden sagt, sagt dein Unternehmen. Zwischen einem Mitarbeiter, der sich irrt, und einem Assistenten, der sich irrt, gibt es keinen Unterschied, außer dass der Assistent es hundertmal am Tag tun kann, bevor es jemand merkt.

Was sich am 9. Dezember 2026 ändert

Es gibt eine neue europäische Produkthaftungsrichtlinie: Richtlinie (EU) 2024/2853. Sie ist am 8. Dezember 2024 in Kraft getreten und muss bis spätestens 9. Dezember 2026 in nationales Recht umgesetzt sein. Die wichtigste Änderung für dich: Software, Apps, Updates und KI-Systeme gelten ab dann als Produkt. Bisher ging es in der Produkthaftung um Dinge, die man anfassen konnte.

Die Niederlande sind noch nicht so weit. Der Gesetzentwurf zur Umsetzung (Nummer 36906) wurde am 2. März 2026 im Parlament eingebracht und liegt Anfang August 2026 noch im Justizausschuss. An der Frist ändert das nichts: Die ist europäisch festgelegt.

Zwei Dinge solltest du wissen. Erstens gelten die neuen Regeln nur für Produkte, die ab dem 9. Dezember 2026 auf den Markt kommen oder in Betrieb genommen werden. Was schon läuft, bleibt beim alten Regime. Zweitens, und das lassen die meisten Artikel weg: Die Regelung schützt natürliche Personen. Es geht um Körperschäden, um Schäden an privat genutzten Sachen und neuerdings auch um die Zerstörung privater Dateien wie deines Fotoarchivs. Die frühere Schwelle von 500 Euro ist gestrichen, kleine Schäden zählen also mit.

Nicht erfasst ist der wirtschaftliche Schaden deines Geschäftskunden. Verliert ein Kunde Umsatz, weil dein System eine falsche Lieferzeit genannt hat, hilft ihm die Produkthaftung nicht. Dann geht es schlicht um euren Vertrag und darum, worauf er vernünftigerweise vertrauen durfte. Für die meisten Mittelständler ist genau das der häufigste Fall.

Und das eigene KI-Haftungsgesetz? Das kommt nicht

Brüssel hat jahrelang an einer eigenen Richtlinie zur KI-Haftung gearbeitet. Sie hätte es leichter gemacht, einen KI-Lieferanten in Anspruch zu nehmen. Der Vorschlag ist zurückgezogen: Die Europäische Kommission kündigte das im Februar 2025 an, die Rücknahme wurde am 6. Oktober 2025 im Amtsblatt veröffentlicht. Es kam keine Einigung zustande.

Für dich heißt das: keine Sonderregeln, kein Sonderschutz, kein Sonderausweg. Ganz normales Recht, wie bei einem Mitarbeiter, der etwas Falsches sagt, oder einer Maschine, die kaputtgeht. Das ist weniger aufregend, als die Schlagzeilen vermuten lassen, und es macht die Frage praktisch statt juristisch: Wie viel Spielraum gibst du einem System, das sich gelegentlich etwas ausdenkt?

Drei Situationen aus der Praxis

1. Dein Assistent verspricht etwas Falsches

Ein Kunde fragt, ob er das Produkt noch umtauschen kann. Der Assistent sagt ja, die Regel sagt nein. Faustregel: Durfte der Kunde vernünftigerweise darauf vertrauen, bist du gebunden. Bei Verbrauchern erst recht. Je selbstbewusster dein System auftritt, desto stärker dieses Vertrauen. Ein System, das im Zweifel an einen Menschen übergibt, kostet dich ein paar Minuten. Ein System, das im Zweifel rät, kostet dich die Zusage.

2. Ein Angebot geht mit falschem Betrag raus

Hier kommt es darauf an, ob der andere den Fehler hätte sehen müssen. Stehen 450 Euro, wo 4.500 hingehören, kommst du wahrscheinlich raus, denn das ist ein offensichtlicher Irrtum. Stehen 4.150 Euro, wo 4.500 hingehören, darf der Kunde darauf vertrauen. Genau deshalb setzt du hier einen Menschen dazwischen: nicht weil KI schlecht rechnet, sondern weil der Fehler nicht mehr zurückzuholen ist, sobald die Mail weg ist.

3. Das System deines Lieferanten macht etwas Seltsames

Du kannst versuchen, deinen Schaden zurückzuholen. In der Praxis scheitert das an Standardbedingungen: Viele Verträge begrenzen die Haftung auf das, was du in einem Jahr gezahlt hast. Bei 40 Euro im Monat sind das 480 Euro. Das ist keine Deckung, das ist eine Geste. Wenn dir das etwas bringen soll, regelst du es vorher. Hinterher verhandelst du mit leeren Händen.

Die sechs Dinge, die du vor dem Start regelst

Haftung begrenzt man nicht, indem man KI meidet. Man begrenzt sie, indem man vorher festlegt, worüber das System entscheidet und worüber nicht. Das ist die Liste, die wir in jedem Projekt durchgehen und die du auch selbst abarbeiten kannst.

• Schreib auf, was das System allein darf. Nicht allgemein, sondern pro Handlung: eine Frage zu Öffnungszeiten beantworten, ja. Zusagen zu Garantie, Preis oder Lieferzeit, nein.
• Wende die Umkehrbarkeitsregel an. Alles, was du in fünf Minuten rückgängig machen kannst, darf das System selbst tun. Alles, was nach außen geht oder Geld berührt, geht über einen Menschen.
• Protokolliere, was passiert. Welche Frage kam rein, welche Antwort ging raus, wann. Ohne das kannst du bei einer Beschwerde nicht rekonstruieren, was gesagt wurde, und nicht belegen, dass du sorgfältig warst.
• Weise darauf hin, dass es KI ist. Seit dem 2. August 2026 ist das Pflicht, wenn jemand mit einem KI-System kommuniziert. Eine Zeile in der ersten Nachricht reicht, aber sie muss da sein.
• Halte im Vertrag mit deinem Entwickler fest, wer wofür einsteht: Wer behebt einen Fehler, in welcher Frist, und wo liegt die Obergrenze. Vor der Unterschrift, nicht nach dem ersten Vorfall.
• Frag deinen Versicherer schriftlich, ob die Betriebshaftpflicht Schäden durch eine automatisierte Antwort deckt. Nicht mündlich beim Makler. Schriftlich und so konkret wie möglich gefragt.

Drei Fragen an jeden, der so etwas für dich baut

Egal ob du mit uns sprichst oder mit jemand anderem: Mit diesen Fragen weißt du in zehn Minuten, ob jemand darüber nachgedacht hat.

• Welche Handlungen kann dieses System ausführen, die ich nicht mehr rückgängig machen kann? Ist die Antwort vage, ist es der Entwurf auch.
• Wo steht geschrieben, was das System nicht sagen darf? Ein guter Entwickler hat dafür eine Liste, kein Gefühl.
• Was passiert, wenn das System es nicht weiß? Die richtige Antwort ist: Dann antwortet es nicht und ein Mensch übernimmt. Nicht: Dann gibt es sein Bestes.

Beim letzten Punkt entsteht der meiste Ärger. Ein System, das sein Bestes bei einer Frage gibt, die es nicht versteht, klingt genauso überzeugend wie eines, das es weiß. Dieser Unterschied gehört eingebaut, nicht erhofft.

Was kostet es, das sauber zu regeln?

Ich beginne mit einem kostenlosen Kennenlerngespräch. Wir besprechen, was Zeit kostet, welche Systeme du nutzt und wo Automatisierung helfen kann. Danach erhältst du ein Angebot mit Automatisierungsmöglichkeiten, Anbindungen, Zeitplan und Kosten.

Bauen wir danach, liegt ein kleines Projekt von ein bis zwei Wochen zwischen 300 und 5.000 Euro, ein mittleres von drei bis sechs Wochen zwischen 5.000 und 12.000 Euro. Wartung läuft monatlich ab 100 Euro und ist monatlich kündbar. Abgrenzung und Protokollierung sind bei uns kein Zusatz. Sie stecken im Entwurf, denn ohne sie können wir nicht erklären, was das System tut.

Und wenn die Antwort lautet, dass du diesen Prozess besser manuell lässt, sagen wir das auch. Bei Haftungsfragen kommt das häufiger vor, als man denkt: Manche Entscheidungen sind schlicht zu teuer, um sie falsch zu treffen.

Was du heute tun kannst

Nimm eine KI-Anwendung, die schon in deinem Betrieb läuft, und stell dir drei Fragen. Kann sie etwas nach außen schicken, ohne dass jemand mitliest? Kann ich nachsehen, was sie gestern zu einem Kunden gesagt hat? Weiß ich, was mein Lieferant ersetzt, wenn es schiefgeht? Dreimal Nein ist keine Katastrophe, aber einen Nachmittag Arbeit wert.