Seit Anfang Februar des vergangenen Jahres gelten in der EU die Verbote bestimmter KI-Praktiken. Ein Jahr später lohnt der nüchterne Blick: Welche davon berühren eine Schweizer Schule, Verwaltung oder Firma überhaupt?
Was verboten ist, kurz und in Alltagssprache
- Systeme, die Menschen ohne ihr Wissen manipulieren, sodass sie sich selbst oder anderen schaden
- Das Ausnutzen von Schutzbedürftigkeit, etwa wegen Alter oder Behinderung
- Soziale Bewertung von Menschen durch Behörden, mit Nachteilen in unbeteiligten Lebensbereichen
- Das Ableiten von Gefühlen am Arbeitsplatz und in Bildungseinrichtungen, abgesehen von medizinischen und sicherheitsbezogenen Ausnahmen
- Das ungezielte Sammeln von Gesichtsbildern aus dem Netz für Erkennungsdatenbanken
Der Punkt, der Bildungsinstitutionen wirklich betrifft
Die Gefühlserkennung. Sie taucht nicht in Strategiepapieren auf, sondern in Produktbroschüren: Aufmerksamkeitsanalyse im Fernunterricht, Stimmungsauswertung in Prüfungssituationen, Kameraanalyse zur Konzentration. Solche Funktionen werden als Fürsorge verkauft und sind in der EU im Bildungsbereich ausdrücklich untersagt.
Für ein Schweizer Haus ist der Umkehrschluss «bei uns ist es nicht verboten» die schlechteste aller Begründungen. Es ist auch hier nicht verhältnismässig, es zerstört Vertrauen, und es steht in keinem Verhältnis zum Nutzen.
Die Grauzone, über die zu wenig geredet wird
Zwischen verbotener Gefühlserkennung und harmloser Statistik liegt ein breites Feld: Auswertungen der Bearbeitungszeit, der Klickwege, der Tippgeschwindigkeit, der Anzahl Versuche. Nichts davon misst Gefühle, alles davon erzeugt ein Bild einer Person. Die nützliche Prüffrage lautet nicht, ob es unter ein Verbot fällt, sondern ob man einer Klasse oder einem Team erklären könnte, warum man es misst.
Was in der Schweiz gilt
Ein eigenes KI-Gesetz gibt es nicht. Das Datenschutzgesetz verlangt aber Verhältnismässigkeit und Zweckbindung, und für besonders schützenswerte Daten, zu denen Angaben über die Psyche gehören, gelten strengere Anforderungen. Eine Stimmungsanalyse im Klassenzimmer dürfte kaum je verhältnismässig sein, ganz ohne Verbotskatalog.
Was das für eine Beschaffung heisst
Fragen Sie bei jedem Angebot, das sich an Lernende oder Mitarbeitende richtet, ausdrücklich nach: Wertet das System Gesichter, Stimmen oder Verhalten aus, und wenn ja, wozu? Lassen Sie sich die Antwort schriftlich geben. Diese eine Frage sortiert einen erstaunlich grossen Teil des Marktes aus.
Fazit: Die Verbotsliste ist ein Mindestmass, kein Massstab
Wer seine Entscheidungen an einer Verbotsliste ausrichtet, fragt, was er gerade noch darf. Die nützlichere Frage lautet, was eine Institution ihren Leuten zumuten will. Sie ist unbequemer und führt schneller zu einer Antwort.
