Ein Sprachmodell kann eine Prüfung auf Verzerrung bestehen, ohne dass die Zuordnung dahinter verschwunden wäre – möglich ist auch, dass es bloss gelernt hat, sie nicht auszusprechen. Eine neue Untersuchung geht dieser Unterscheidung nach und kommt zum Ergebnis: Verzerrungen in der internen Darstellung sind oft nachweisbar, während sie im Verhalten nicht sichtbar sind.
Dazu trennen die Autoren zwei Messpunkte. Der eine ist die Ausgabe, die man lesen kann. Der andere liegt davor: die Vorstellung, die sich das Modell über die Fachkenntnis seines Gegenübers bildet. Für diese Vorstellung leiten sie Steuervektoren ab und weisen nach, dass sie das Verhalten des Modells tatsächlich vermitteln – geprüft an einer Frage-Antwort-Aufgabe und an einer Aufgabe, in der über eine Einstellung zu entscheiden ist.
Angewendet auf mehrere Modelle mit offen verfügbaren Gewichten zeigt sich: Merkmale wie Geschlecht, ethnische Zugehörigkeit und soziale Lage beeinflussen, welche Fachkenntnis das Modell seinem Gegenüber unterstellt – auch dann, wenn die üblichen Verhaltensmasse keinen Unterschied zwischen den Gruppen finden. Greift man in diese Darstellungen ein, kann sich das nachgelagert auf das Verhalten auswirken. Die Untersuchung schliesst daraus auf Fehlerarten, die eine Prüfung des Verhaltens allein möglicherweise nicht aufdeckt.
Für die Region
Wer in einer Schule oder einem Betrieb hier Bewerbungen von einem Modell vorsortieren lässt, hat mit einem bestandenen Verzerrungstest weniger in der Hand, als der Test verspricht.