Meta publicó cientos de anuncios pagados con material de abuso sexual infantil (CSAM, por sus siglas en inglés), incluyendo 84 en India, en los últimos 10 meses, según un informe del Proyecto de Transparencia Tecnológica (TTP), un grupo de defensa con sede en Estados Unidos. El informe se publicó dos meses después de que el gobierno de India ordenara a Meta eliminar todos los anuncios y contenido que promovieran CSAM en Instagram.

Órdenes y cumplimiento gubernamental

Esta directiva siguió a una investigación de BBC Eye en julio que reveló que Instagram publicaba anuncios pagados con CSAM en India. En respuesta, el gobierno indio ordenó a Meta eliminar dicho contenido y celebró reuniones con altos ejecutivos de la empresa. A pesar de esto, el TTP encontró que 78 de los 84 anuncios en India se publicaron después de la orden gubernamental.

Respuesta de Meta y obligaciones legales

Cuando la BBC contactó a Meta sobre el informe, la empresa afirmó que no tolera aplicaciones que desnuden imágenes ni ningún tipo de explotación infantil, ya sea real o generada artificialmente. Meta destacó que refuerza los mecanismos de detección y cumplimiento para combatir tácticas cambiantes de criminales, y la empresa informó casos aparentes de explotación infantil al Centro Nacional de Niños Desaparecidos y Explotados (NCMEC, por sus siglas en inglés), ubicado en Estados Unidos, cumpliendo con sus obligaciones legales.

No obstante, Bhuwan Ribhu, fundador de Just Rights for Children, una red de más de 250 organizaciones indias que trabajan para prevenir la violencia contra los niños, criticó a Meta por no informar CSAM a las autoridades de policía de India, como lo exige la ley. Ribhu señaló: “Las empresas de redes sociales claramente están incumpliendo las leyes indias al no informar contenido de abuso sexual infantil a las agencias de policía indias, tal como lo exigen nuestras leyes de protección infantil”. Just Rights for Children presentó una petición ante la Corte Suprema de India pidiendo un informe obligatorio por parte de las plataformas de redes sociales.

Contenido de los anuncios y dificultades de reporte

El TTP encontró que casi todos los 332 anuncios que identificó en Facebook e Instagram comenzaban con una foto de un niño, que luego era manipulada con inteligencia artificial para mostrar al niño realizando actos sexuales gráficos. Según el informe, un anuncio en India mostraba a una niña prepuber animada realizando un acto sexual, con un narrador que decía: “No hay restricciones. Todos los personajes son personas reales y hay muchas opciones; este es el tipo de IA que usan realmente los hombres”. La BBC no verificó este anuncio de forma independiente.

El TTP informó 55 de los 84 anuncios en India a Meta. De estos, 43 no se consideraron como violaciones a las políticas de Meta, mientras que 11 ya habían sido eliminados. El TTP aún no recibió respuesta para un anuncio. Meta afirmó que muchos de los anuncios denunciados ya habían sido eliminados, con la mayoría teniendo menos de 200 impresiones y un gasto total por anuncio inferior a 5,000 dólares.

Meta prohíbe la promoción de aplicaciones que desnuden imágenes, que utilizan IA para crear imágenes o contenido sexual explícito no consensuado. El sistema interno de reporte de Meta permite a los usuarios informar anuncios que crean que violan sus políticas, pero el TTP encontró que el proceso está limitado a anuncios activos; el informe también reveló que la mayoría de los 332 anuncios dirigían a aplicaciones de generación de imágenes o videos con IA, principalmente desarrolladas en China.

Shikha Goel, directora de la Oficina de Seguridad Cibernética en Telangana, destacó el desafío de que los usuarios pasen de una plataforma a otra para evitar la detección, mientras añadió que el gobierno esperaba abordar este problema en sus discusiones en curso con los intermediarios de redes sociales. Una investigación previa de la BBC reveló que algunos anuncios dirigían a Telegram, donde los usuarios podían comprar CSAM por tan solo 99 rupias; Telegram afirmó que utiliza moderación automatizada y humana para combatir el CSAM y ha “eliminado virtualmente la difusión pública de CSAM” en su plataforma.

El TTP también señaló que algunos anuncios fueron colocados por socios de agencias de publicidad de Meta en China, conocidos como “revendedores”, que canalizan miles de millones de dólares en publicidad china hacia Facebook e Instagram. Estos socios no respondieron a las preguntas del TTP. El TTP informó que nuevos anuncios, incluyendo 11 en India, continuaron apareciendo incluso después de que compartiera sus hallazgos con Meta el 1 y 2 de septiembre.