Meta schaltete Anzeigen mit KI-generiertem Kindesmissbrauch

Meta hat in den letzten neun Monaten Dutzende bezahlte Anzeigen mit KI-generiertem Material sexuellen Kindesmissbrauchs und Bildern von Minderjährigen mit sexuell anzüglichen Texten geschaltet, wie das Tech Transparency Project WIRED mitteilte. Die Anzeigen erschienen auf Facebook, Instagram, Messenger und Threads und richteten sich an Nutzer in den USA, Großbritannien und mehr als einem Dutzend europäischer Länder.

Forscher des Tech Transparency Project, einer unabhängigen Watchdog-Organisation, entdeckten mehr als 50 Bild- und Videoanzeigen in Metas Werbebibliothek. Einige dieser Anzeigen führten die Betrachter zu sogenannten Nudify- oder Entkleidungs-Apps. Die Anzeigen wurden zwischen November 2025 und Anfang August 2026 veröffentlicht, liefen oft mehrere Tage und zielten in einigen Fällen ausschließlich auf Männer ab.

Die Entdeckung zeigt erhebliche Lücken in Metas Anzeigenprüfungsprozess, da das Unternehmen Einnahmen aus Anzeigen erzielt, die gegen seine eigenen Richtlinien zur Bekämpfung sexueller Ausbeutung von Kindern und sexueller Belästigung Erwachsener verstoßen. Katie Paul, Direktorin des Tech Transparency Project, erklärte, die Anzeigen hätten keinen Versuch unternommen, ihren Inhalt zu verbergen, und seien von Meta ohne Eingreifen genehmigt worden.

Eine Videoanzeige verwendete ein Vorschaubild eines Kindes mit dem Text: "Erkenne tiefe Fantasien mit Generation AI. Es gibt so viel mehr, als gezeigt wird, nutze deine Fantasie." Beim Anklicken wurden sexuelle Handlungen Erwachsener gezeigt, und anschließend wurde das Gesicht des Kindes auf einen sexuellen Akt projiziert. Eine andere wiederholt geschaltete Anzeige zeigte ein junges Mädchen in einer sexuellen Position mit der Bildunterschrift: "Ich kann dir mehr zeigen."

Während die meisten Anzeigen nur wenige Konten erreichten, erreichte mindestens eine 2.563 Konten in acht europäischen Ländern, darunter Frankreich, Deutschland und Großbritannien. Metas Werbebibliothek liefert keine vollständigen Leistungsdaten für die USA, sodass die tatsächliche Reichweite höher sein könnte. Das Tech Transparency Project meldete die Anzeigen an die CyberTipline des National Center for Missing and Exploited Children.

Nachdem WIRED Meta kontaktiert hatte, entfernte das Unternehmen die Anzeigen. Ein Meta-Sprecher sagte, die meisten hätten nur eine minimale Reichweite gehabt und viele seien bereits deaktiviert worden, bevor sie WIRED mitgeteilt wurden. Zudem habe man neue KI-Technologie eingeführt, um solche Anzeigen besser zu erkennen. Das Tech Transparency Project fand jedoch nach WIREDs erster Anfrage rund 30 weitere Anzeigen, von denen einige zu diesem Zeitpunkt noch aktiv waren. Meta erklärte, es habe im letzten Jahr über 36 Millionen Inhalte sexueller Ausbeutung von Kindern entfernt und rechtliche Schritte gegen Entwickler von Nudify-Apps eingeleitet.