Auf den Plattformen von Meta liefen kürzlich Anzeigen für ein Werkzeug, das mit KI pornografische Videos erzeugt. Die Werbung legte nahe, damit Videos herzustellen, die bekannten US-Politikerinnen gleichen. Die eigenen Richtlinien des Konzerns untersagen Anzeigen mit sexuellem Material.
Das Werkzeug tritt unter dem Namen Kromix auf und bezeichnet sich selbst als Stilwerkzeug für Bilder. In einer Videoanzeige, die dem Magazin WIRED vorlag, wird es als Angebot ohne Einschränkungen angepriesen, verbunden mit dem Hinweis, die dargestellten Personen seien echt.
Zahlende Nutzer können in der App eigene Fotos hochladen. Bis zu einer Presseanfrage war sie im App Store von Apple erhältlich. Eine in der App hinterlegte Kontaktadresse liess Anfragen unbeantwortet.
Ars Technica ordnet den Fall als jüngsten in einer Reihe von Versäumnissen ein: Es gelang dem Konzern wiederholt nicht, Werbung für Werkzeuge dieser Art von seinen Plattformen zu halten. Offen bleibt, wie eine Anzeige die Prüfung passiert, die nach den eigenen Regeln gar nie laufen dürfte.
Für die Region
Wer hier für eine Schule oder einen Verein Fotos von Mitgliedern ins Netz stellt, muss damit rechnen, dass sie in Werkzeugen landen, die niemanden um Erlaubnis fragen.