Der gefährlichste Satz einer KI ist nicht der offensichtlich falsche, sondern der plausible. Er liest sich wie das Ergebnis einer Recherche und ist doch nur die wahrscheinlichste Wortfolge. Deshalb läuft bei uns jeder erzeugte Text durch sechs Prüfungen, bevor ihn eine Person sieht.
Prüfungen entscheiden nichts
Die wichtigste Eigenschaft dieser sechs Schritte ist, was sie nicht tun: Sie korrigieren nicht, sie geben nicht frei, sie blockieren nicht. Sie melden, was auffällt, und legen die Meldung neben den Text. Übernehmen, ändern oder verwerfen tut die zuständige Person. Alles andere wäre eine Maschine, die über einen Inhalt entscheidet, für den ein Mensch geradestehen muss.
Die sechs im Einzelnen
- Angaben. Jede überprüfbare Aussage wird gegen die Quelle gehalten, aus der sie stammen soll. Zahlen, Fristen und Zuständigkeiten sind die häufigsten Treffer.
- Sprache. Rechtschreibung, Anrede und Tonfall über den ganzen Text hinweg. Der typische Fund ist nicht der Tippfehler, sondern der Wechsel von «Sie» zu «du» in der zweiten Hälfte.
- Plagiat. Abgleich gegen fremde Quellen und gegen Ihre eigenen Dokumente. Der zweite Teil ist der nützlichere: Er zeigt, dass eine Passage längst in einem Reglement steht und gar nicht neu geschrieben werden musste.
- Verständlichkeit. Satzlänge, Fachbegriffe und Aufbau, gemessen an der Leserschaft, für die der Text gedacht ist.
- Zugriff. Wer den Text sehen darf. Eine Zusammenfassung aus drei Dokumenten darf nicht mehr verraten als die drei Dokumente einzeln.
- Protokoll. Anfrage, Modell, Kosten und Freigabe werden festgehalten, damit später belegbar ist, wer wann was entschieden hat.
Die Grenze aller sechs
Keine von ihnen prüft Wahrheit. Sie prüfen Übereinstimmung mit einer Quelle. Steht im Reglement etwas Veraltetes, findet die Prüfung «Angaben» keinen Fehler, sondern bestätigt den alten Stand. Das ist keine Schwäche der Prüfung, sondern eine Aussage über die Wissensbasis. Wer gute Antworten will, muss zuerst die Unterlagen in Ordnung bringen, nicht das Modell wechseln.
Sechs Durchgänge statt einem
Man könnte alles in einen einzigen Prüfauftrag packen. In der Praxis sinkt damit die Trefferquote, weil ein einzelner Durchgang die Aufmerksamkeit verteilt und Meldungen verschluckt. Getrennte Prüfungen haben ausserdem den Vorteil, dass man sie einzeln abschalten, einzeln verschärfen und einzeln auswerten kann. Nach ein paar Wochen sieht man, welche Prüfung tatsächlich Fehler findet und welche nur Rauschen produziert.
Fazit: Prüfen ist billiger als richtigstellen
Sechs Prüfungen kosten Rechenzeit und ein paar Sekunden Wartezeit. Ein falscher Betrag in einem Elternbrief oder eine erfundene Frist in einer Auskunft kostet deutlich mehr. Die Reihenfolge ist deshalb immer dieselbe: erzeugen, prüfen, lesen, freigeben. Nie drei von vier.
