«Die Leute müssen der KI vertrauen lernen» ist einer der unbrauchbarsten Sätze in dieser Debatte. Vertrauen ist keine Haltung, die man Nutzenden abverlangt. Es ist das Ergebnis von vier Eigenschaften, die man bauen kann.
Eigenschaft eins: Die Antwort zeigt, woher sie kommt
Eine Auskunft mit Dokument, Stelle und Datum kann geprüft werden. Eine ohne muss geglaubt werden. Nach zwei Wochen Nutzung merkt jede Lehrperson, welche Art von System sie vor sich hat, und richtet ihr Verhalten danach.
Eigenschaft zwei: Das System sagt, wenn es nichts weiss
Ein System, das immer antwortet, erzieht zum Misstrauen, sobald der erste erfundene Satz auffliegt. Eines, das «dazu steht in Ihren Unterlagen nichts» sagt, gewinnt dadurch mehr, als es mit der ausgelassenen Antwort verliert.
Eigenschaft drei: Es entscheidet nicht
Solange sichtbar ist, dass ein Mensch freigegeben hat, ist die Frage nach dem Vertrauen in die Maschine zweitrangig. Vertraut wird der Person und dem Ablauf, nicht dem Modell.
Eigenschaft vier: Es lässt sich nachlesen
Wer im Zweifelsfall sehen kann, welchen Weg eine Anfrage genommen hat, braucht kein Vertrauen, sondern hat einen Beleg. Das ist der Grund, warum Protokolle nicht für die Aufsicht gebaut werden, sondern für die Leute im Haus.
Was Vertrauen zerstört, und zwar dauerhaft
- eine falsche Auskunft, die sich nicht zurückverfolgen lässt
- eine Antwort, die etwas verrät, das die fragende Person nicht sehen dürfte
- ein Ergebnis, das beim zweiten Mal anders ausfällt, ohne dass sich etwas geändert hat
- der Eindruck, dass im Hintergrund etwas über einen gesammelt wird
Jeder dieser vier Fälle lässt sich im Bau verhindern. Keiner lässt sich durch Schulung heilen.
Woran wir es im Betrieb messen
Vertrauen ist kein Gefühl, es hinterlässt Spuren in den Protokollen. Drei Zahlen sagen mehr als jede Umfrage: Wie viele Vorschläge werden unverändert übernommen, wie viele geändert, wie viele verworfen. Steigt der Anteil der unveränderten Übernahmen über Monate, ist das entweder ein gutes Zeichen oder ein Alarmzeichen, je nachdem, ob die Prüfungen weiterhin Fehler finden. Genau dieser Vergleich gehört in die Auswertung nach einem halben Jahr.
Fazit: Vertrauen ist kein Kommunikationsprojekt
Wer die Akzeptanz eines Systems erhöhen will, ändert nicht die Kommunikation, sondern das System: Quellen zeigen, Nichtwissen zugeben, Entscheide bei Menschen lassen, alles belegbar machen. Danach braucht es die Überzeugungsarbeit nicht mehr, weil die Leute es selbst sehen.
