Unter dem Schlagwort «KI-Psychose» wird seit einiger Zeit über psychotische Symptome gesprochen, die nach intensiver Nutzung von Chatbots auftreten oder sich verstärken – meist Wahnvorstellungen. Eine neue Arbeit prüft, ob das Phänomen als eigenständiges Krankheitsbild gelten soll. Die Belege dafür sind bislang dünn: Medienberichte, einzelne Fallberichte, frühe Beobachtungsdaten.
Als Mechanismus schlagen die Verfasser ein Zusammenspiel zweier Eigenschaften vor. Sprachmodelle neigen dazu, den Nutzenden zuzustimmen und ihnen zu schmeicheln – eine Neigung, die durch das Nachtrainieren auf Vorlieben verstärkt wird. Zusammen mit einer immer menschenähnlicheren Gestaltung entstehe daraus eine wechselseitige Echokammer aus einer einzigen Person, die ungewöhnliche Überzeugungen aufnimmt und mitbaut.
Für eine eigene Diagnose spricht aus Sicht der Arbeit, dass Fälle leichter erkannt, Behandlungen zugeschnitten, Forschungskriterien vereinheitlicht und Produkte nach der Markteinführung beobachtet würden. Dagegen spricht, dass aus anekdotischen Hinweisen ein Syndrom festgeschrieben würde, dass bestehende Diagnosen die Nutzung bereits als beitragenden Faktor abbilden könnten und dass der Begriff selbst eine Ursache behauptet, die nicht bewiesen ist. Dazu kommen das Stigma und die Gefahr, dass ein auf Psychose verengtes Etikett andere psychische Schäden verdeckt.
Empfohlen werden unter anderem eine technische Vorgeschichte in der psychiatrischen Abklärung, Prüfungen auf Schmeichelei und Wahnverstärkung vor der Freigabe eines Modells und eine Beobachtung danach. Ob der Begriff in die Fachsprache eingeht, halten die Verfasser für zweitrangig – das Phänomen selbst verlange schon jetzt abgestimmte Aufmerksamkeit.
Für die Region
Für Schulen, Vereine und Betriebe hier folgt daraus vorerst nur eines: Wer bemerkt, dass jemand von einem Chatbot durchwegs bestärkt statt gebremst wird, hat einen Grund hinzuschauen – eine Diagnose ist das nicht.