Die Frage kommt in jedem zweiten Erstgespräch, und sie kommt zu Recht: Wer steht gerade, wenn eine Auskunft aus dem neuen System falsch war? Die Antwort ist unbequem kurz.
Die Maschine haftet nicht
Ein Sprachmodell ist kein Rechtssubjekt. Es kann nicht verantwortlich sein, es kann nicht belangt werden, und es kann sich nicht entschuldigen. Verantwortlich ist, wer die Auskunft erteilt, also Ihr Haus. Daran ändert der Hinweis nichts, dass die Antwort von einer KI stammt, und daran ändert auch die Nutzungsbedingung des Modellanbieters nichts, die für Sie ohnehin meist wenig hergibt.
Eine Auskunft bleibt die Auskunft des Hauses, das sie erteilt hat. Das Werkzeug dahinter interessiert die betroffene Person zu Recht nicht.
Was das praktisch bedeutet
Aus dieser einen Feststellung folgen drei Bauentscheidungen, und sie kosten alle etwas:
- Eine Person gibt frei, bevor etwas hinausgeht. Nicht bei jedem Zwischenschritt, aber bei allem, was eine betroffene Person erreicht.
- Jede Auskunft nennt ihre Quelle. Damit die freigebende Person in Sekunden prüfen kann statt in Minuten zu suchen.
- Der Weg wird protokolliert. Wer gefragt hat, welche Unterlagen verwendet wurden, welches Modell geantwortet hat, wer freigegeben hat.
Der Unterschied zwischen falsch und unbelegt
Nicht jede falsche Auskunft ist gleich. Eine Auskunft, die sauber aus einem Reglement stammt und trotzdem falsch ist, weil das Reglement veraltet war, ist ein Ordnungsproblem. Eine Auskunft, die frei erfunden ist, weil das Modell eine Lücke gefüllt hat, ist ein Bauproblem. Das erste löst man in der Ablage, das zweite in der Anwendung, indem man Antworten ohne Belegstelle gar nicht erst zulässt.
Was in die Nutzungsbedingungen Ihres Hauses gehört
Wer einen Assistenten für Kundschaft, Eltern oder Lernende betreibt, sollte drei Dinge sichtbar sagen: dass hier eine Maschine antwortet, woher sie ihre Auskünfte nimmt, und an wen man sich wendet, wenn etwas falsch aussieht. Das ist weniger eine rechtliche Vorsichtsmassnahme als eine praktische: Die meisten Fehler werden von Nutzerinnen gefunden, nicht von Prüfungen.
Fazit: Haftung verschiebt sich nicht, sie wird nur sichtbarer
Ein KI-System schafft keine neue Haftungslage, es macht die bestehende sichtbarer und schneller. Wer Freigabe, Quellenangabe und Protokoll von Anfang an einbaut, hat im Streitfall eine Akte. Wer es später einbaut, hat eine Erinnerung.
