Ein Bericht ordnet die Entwicklung der künstlichen Intelligenz in drei Generationen von Software. Zuerst schrieben Programmierer die Regeln von Hand. Dann lernten neuronale Netze Programme aus Daten. Heute machen Sprachmodelle die Umgangssprache selbst zur Programmierschnittstelle.
Die Verfasser wenden eine Methode aus der forensischen Psychologie auf die Technik an und beschreiben sie anhand von zehn dokumentierten Eigenschaften. Genannt werden unter anderem Halluzinationen, Verzerrung und Toxizität, Gefälligkeit und Echokammern, Wissen ohne Verständnis, die Unfähigkeit, aus Erfahrung zu lernen, Abkürzungen statt Zusammenhänge – und, am Ende der Liste, Mittelmass. Das Bild, das dabei entsteht, beschreiben sie als ein Gegenüber, das flüssig erfindet, die Voreingenommenheit seiner Nutzer verstärkt und über ein umfassendes Gedächtnis ohne Ursachenverständnis verfügt.
Das ist eine Zuschreibung, keine Messung, und der Bericht gibt sie auch als solche aus. Die Folgen sieht er nicht auf die Informatik beschränkt: Recht, Wissenschaft, Publizistik und demokratische Regierungsführung werden als Bereiche aufgeführt, in denen Einrichtungen an Substanz verlieren könnten.
Dagegen stellen die Verfasser vier Säulen. Erstens die Fähigkeit erhalten, selbst zu urteilen. Zweitens ethische Absichten in überprüfbare Standards und rote Linien übersetzen. Drittens die Entscheidung an den kritischen Stellen beim Menschen lassen. Viertens Offenheit: offener Quellcode, offener Zugang, offene Daten.
Wer diese Säulen errichten soll, steht nicht dabei. Genannt sind Bereiche, keine Zuständigen.
Für die Region
Für eine Schulleitung, einen Vereinsvorstand oder ein KMU ist die dritte Säule die handfeste: festlegen, an welchen Stellen ein Mensch entscheidet, und zwar bevor ein Werkzeug im Einsatz ist.