Die unangenehmste Frage in einem KI-Projekt kommt nie am Anfang. Sie kommt ein Jahr später, von einer Aufsichtsstelle, einer Rechtsvertretung oder einem Elternteil, und sie lautet: Wie ist diese Auskunft zustande gekommen, und wer hat sie verantwortet?
Sechs Angaben je Vorgang
Viele Systeme protokollieren, dass eine Anfrage stattgefunden hat. Das beantwortet die Frage nicht. Beantwortet wird sie erst durch sechs Angaben pro Vorgang:
- wer gefragt hat und in welcher Rolle
- welche Dokumente und welche Stellen daraus verwendet wurden
- welches Modell geantwortet hat, in welcher Version, und was das gekostet hat
- welche Prüfungen gelaufen sind und was sie gemeldet haben
- wer freigegeben, geändert oder verworfen hat, mit Zeitpunkt
- was am Ende tatsächlich hinausgegangen ist
Fehlt die zweite Angabe, kann man später nicht belegen, auf welcher Grundlage geantwortet wurde. Fehlt die fünfte, hat formal die Maschine entschieden.
Der häufigste Fehler: das Protokoll hängt nicht am Ergebnis
Technische Protokolle liegen oft getrennt vom Geschäftsvorgang. Ein Eintrag in einer Protokolldatei und ein Schreiben im Aktensystem sind dann zwei Dinge, die niemand zusammenführen kann, weil die Verbindung fehlt. Wir hängen die Kette deshalb an den Vorgang und nicht an die Technik: Wer den Fall öffnet, sieht den Weg, den dieser Fall genommen hat.
Die Grenze nach oben: keine Zweitakte
Ein Protokoll ist keine Zweitakte. Es hält fest, welche Dokumente verwendet wurden, nicht deren vollständigen Inhalt. Es hält fest, wer gefragt hat, nicht was diese Person sonst noch getan hat. Wer ohne Grund den gesamten Wortlaut jeder Anfrage aufbewahrt, baut einen Datenbestand auf, der selbst zum Risiko wird und der bei einer Auskunftsanfrage vollständig herausgegeben werden muss.
Dazu gehören zwei Festlegungen, die vor dem Start getroffen werden: eine Aufbewahrungsfrist je Art von Eintrag und eine Regel, wer das Protokoll lesen darf. Ein Nachweis, den nur die Lieferantin einsehen kann, ist kein Nachweis.
Auch ohne Aufsicht lohnt es sich
Protokolle sind nicht nur Verteidigungsmaterial. Sie sind die einzige Quelle, aus der hervorgeht, welche Aufgaben wirklich genutzt werden, welche Prüfungen tatsächlich Fehler finden und an welcher Stelle Freigaben liegen bleiben. In den meisten Häusern ist die erste Auswertung der Protokolle die ehrlichste Projektbilanz, die je geschrieben wurde.
Fazit: Nachweisbarkeit entsteht beim Bau
Ein Protokoll lässt sich nicht rückwirkend führen. Entweder die Angaben sind vom ersten Tag an dabei, oder die Frage nach einem Jahr bleibt unbeantwortet. Das ist der Grund, warum wir sie nie als spätere Ausbaustufe einplanen.
