Wer ein Sprachmodell sicher machen will, richtet dessen Training darauf aus, schädliche Antworten zu vermeiden. Nur wird dieses Training laut einer Arbeit auf dem Preprint-Server arXiv überwiegend auf Englisch gemacht. Versagt der Filter in einer anderen Sprache, merkt es niemand im Labor, sondern der Mensch vor dem Gerät: Sprachassistenten und Dialogsysteme können dann Antworten geben, die Vorurteile bestärken.
Die Autoren haben dafür einen Prüfstand gebaut, der auf indische Sprachen und Lebenswelten zugeschnitten ist: 2604 Aufgaben in sechs Sprachen – Englisch, Hindi, Bengalisch, Marathi, Tamil und der Mischform Hinglish. Zehn offene und geschlossene Modelle wurden damit geprüft, ausgewertet wurden 14’988 Einzelbewertungen.
Zwei Befunde nennt die Arbeit. Bei den offenen Modellen fielen die Werte im Mittel für Bengalisch am schlechtesten aus. Und Englisch, die Sprache der Sicherheitsprüfung, kehrt die Rangfolge um: bei den offenen Modellen die unauffälligste Sprache, bei den geschlossenen die auffälligste. Über Deutsch sagt die Untersuchung nichts; geprüft wurden sechs andere Sprachen.
Für die Region
Wer in einer Schule, einem Verein oder einem Betrieb einen Assistenten auf Deutsch oder in Mundart einsetzt, darf aus einer englischen Sicherheitsprüfung nicht schliessen, dass die Filter auch hier greifen.