Meta schaltete in den letzten zehn Monaten hunderte bezahlte Werbebanner mit künstlich erzeugtem kinderpornografischem Material (CSAM), darunter 84 in Indien, wie ein Bericht des Tech Transparency Project (TTP), einer US-basierten Interessenvertretung, enthüllte. Der Bericht erschien zwei Monate nachdem die indische Regierung Meta aufgefordert hatte, alle Werbebanner und Inhalte zu entfernen, die CSAM auf Instagram bewerben.

Indische Regierung verlangt Beseitigung

Diese Anordnung folgte einer Recherche der BBC Eye im Juli, die enthüllte, dass Instagram in Indien bezahlte Werbebanner mit CSAM schaltete — Daraufhin verlangte die indische Regierung, dass Meta solche Inhalte entfernt, und führte Gespräche mit hohen Meta-Vertretern. Trotzdem fand das TTP heraus, dass 78 von 84 Werbebanner in Indien nach der Anordnung der Regierung geschaltet wurden.

Meta reagiert – rechtliche Verpflichtungen

Als die BBC Meta über den Bericht informierte, erklärte das Unternehmen, dass es Nudify-Apps und jede Form von Kindesmißbrauch nicht duldet, sei es real oder künstlich. Meta betonte, dass es Erkennungs- und Durchsetzungsmechanismen verstärke, um sich an verändernde Taktiken von Kriminellen anzupassen, und berichte mutmaßlichen Kindesmißbrauch an das US-amerikanische National Center for Missing and Exploited Children (NCMEC), um rechtliche Verpflichtungen einzuhalten.

Dennoch kritisierte Bhuwan Ribhu, Gründer von Just Rights for Children, eine Netzwerkorganisation von über 250 indischen Organisationen, die Kindesmißbrauch verhindern, Meta dafür, dass es CSAM nicht wie vorgeschrieben der indischen Polizei melden würde. Ribhu erklärte: „Soziale Medien verletzen eindeutig indische Gesetze, indem sie kinderpornografische Inhalte nicht an die indischen Strafverfolgungsbehörden melden, wie es die Gesetze zur Kinderrechtsverteidigung vorschreiben.“ Just Rights for Children hat eine Petition beim Obersten Gericht Indiens eingereicht, um eine verpflichtende Meldung von CSAM durch soziale Medien zu erzwingen.

Inhalte der Werbebanner und Meldungsprobleme

Das TTP stellte fest, dass fast alle 332 identifizierten Werbebanner auf Facebook und Instagram mit einem Foto eines Kindes begannen, das dann mit künstlicher Intelligenz manipuliert wurde, um das Kind in grausamen sexuellen Handlungen zu zeigen. Laut Bericht enthielt ein Werbebanner in Indien ein Bild einer Vierzehnjährigen, die animiert wurde, eine sexuelle Handlung auszuführen, begleitet von der Ansage: „Es gibt keine Einschränkungen. Alle Charaktere sind echte Menschen und es gibt viele Optionen; das ist die Technologie, die Männer tatsächlich verwenden.“ Die BBC hat diese Annonce nicht unabhängig überprüft.

Das TTP meldete 55 von 84 indischen Werbebanner an Meta – von diesen wurden 43 als nicht gegen die Vorschriften von Meta verstoßend eingestuft, 11 waren bereits gelöscht. Für einen Werbebanner erhielt das TTP noch keine Antwort; Meta erklärte, dass viele der gemeldeten Banner bereits gelöscht worden seien, wobei die meisten weniger als 200 Aufrufe und eine Gesamtwerbeausgabe unter 5000 US-Dollar aufwiesen.

Der Bericht enthüllte zudem, dass die meisten der 332 Werbebanner Nutzer zu Apps leiteten, die künstliche Bilder oder Videos generieren, vor allem von chinesischen Entwicklern, and Meta verbietet die Bewerbung von Nudify-Apps, die künstliche, nicht einvernehmliche Nacktbilder oder sexuell explizite Inhalte erzeugen. Das interne Meldesystem von Meta erlaubt es Nutzern, Werbebanner zu melden, die sie für gegen die Vorschriften verstoßend halten, but Das TTP stellte jedoch fest, dass der Prozess auf aktive Werbebanner beschränkt ist.

Shikha Goel, Direktorin des Cyber Security Bureau in Telangana, hob die Herausforderung hervor, dass Nutzer zwischen Plattformen wechseln, um der Aufsicht zu entgehen — Zudem fügte sie hinzu, dass die Regierung in ihren laufenden Gesprächen mit sozialen Medien diese Problematik angehen werde. Eine frühere Recherche der BBC ergab, dass einige der Werbebanner Nutzer zu Telegram leiteten, wo sie CSAM bereits für 99 Rupien erwerben konnten. Telegram teilte mit, dass es automatisierte und menschliche Moderation einsetze, um CSAM zu bekämpfen, und dass der öffentliche Verbreitung von CSAM auf seiner Plattform „praktisch eliminiert“ worden sei.

Das TTP stellte zudem fest, dass einige der Werbebanner von Chinas Ad-Resellern, also Partneragenturen von Meta, geschaltet wurden; Diese Partner leiten Milliarden US-Dollar an chinesischen Werbebudgets auf Facebook und Instagram um. Sie reagierten nicht auf Anfragen des TTP; Laut TTP erschienen neue Werbebanner, darunter elf in Indien, weiterhin, nachdem das TTP seine Erkenntnisse am 1. und 2. September an Meta weitergegeben hatte.