기술 투명성 프로젝트(TTP) 보고서에 따르면, 메타는 지난 10개월간 인공지능(AI) 생성 아동 성착취 콘텐츠(CSAM)를 포함한 수백 건의 유료 광고를 운영했다. 그중 인도에서 84건이 발견됐다. 이 보고서는 인도 정부가 인스타그램에서 CSAM 홍보 콘텐츠 삭제를 지시한 두 달 뒤 발표됐다.

인도 정부 지시와 집행

이 지시는 7월 BBC 조사에서 인스타그램이 인도에서 CSAM 홍보 광고를 운영하고 있음을 밝혀낸 뒤 내려졌다. 인도 정부는 메타에 해당 콘텐츠 삭제를 명령하고 고위 관계자들과 회의를 진행했다. 하지만 TTP는 인도에서 발견된 84건 중 78건이 정부 지시 이후에 게재된 것으로 확인했다.

메타의 대응과 법적 의무

BBC가 보고서 내용을 메타에 질의하자, 회사는 노디파이 앱이나 아동 착취 콘텐츠는 결코 용인하지 않는다고 밝혔다. 메타는 범죄자들의 전략 변화를 막기 위해 탐지 및 집행 체계를 강화하고 있다고 강조했다. 또한 법적 의무에 따라 미국 기반 실종 및 착취 아동 지원센터(NCMEC)에 아동 착취 신고를 했다고 덧붙였다.

하지만 인도 내 250개 이상의 아동 보호 단체로 구성된 ‘Just Rights for Children’의 설립자 브후완 리브후는 메타가 법에 따라 CSAM 내용을 인도 경찰에 보고하지 않았다고 비판했다. 리브후는 “소셜 미디어 기업들이 명확히 인도 법을 무시하고 있다. 아동 보호법에 따라 CSAM 콘텐츠를 인도 경찰에 보고해야 하지만 이를 지키지 않고 있다”고 말했다. Just Rights for Children은 인도 최고재판소에 소셜 미디어 플랫폼의 의무 신고를 요구하는 소송을 제기했다.

광고 콘텐츠와 신고 문제

TTP는 페이스북과 인스타그램에서 확인한 332건의 광고 대부분이 아동 사진을 AI로 변형해 성적 행위를 묘사하는 것으로 나타났다. 보고서에 따르면, 인도의 한 광고는 미성년 소녀를 성적 행위를 하도록 애니메이션으로 만들고, 음성으로 “제한이 없다. 모든 캐릭터는 실제 인물이며 다양한 옵션이 있다. 이는 남성들이 실제로 사용하는 AI”라고 말했다. BBC는 이 광고를 독립적으로 확인하지 않았다.

TTP는 84건 중 55건을 메타에 신고했지만, 이중 43건은 메타 정책 위반으로 간주되지 않았고, 11건은 이미 삭제된 것으로 나타났다. 한 건에 대해서는 아직 답변을 받지 못했다. 메타는 신고된 광고 대부분이 이미 삭제되었으며, 대부분의 광고 노출 수가 200회 미만이며, 총 광고비가 5,000달러 미만이라고 밝혔다.

메타 내부 시스템은 사용자가 정책 위반 광고를 신고할 수 있도록 했지만, TTP는 이 시스템이 실시간 광고에만 적용된다고 지적했다. 보고서는 332건의 광고 대부분이 중국 개발사가 만든 AI 이미지나 동영상 생성 앱으로 유저를 유도했다고 밝혔다. 메타는 노디파이 앱 홍보를 금지하고 있다. 이 앱은 AI를 사용해 비합의적 노출이나 성적 콘텐츠를 생성한다.

텔랑가나 주 사이버 보안국의 디렉터 시카 가오엘은 사용자들이 플랫폼 간 이동하며 감시를 피하는 것이 큰 문제라고 지적했다. 그녀는 정부가 소셜 미디어 중개자들과의 논의를 통해 이 문제를 해결할 것이라고 덧붙였다. BBC 이전 조사에 따르면 일부 광고는 텔레그램으로 사용자를 유도해 CSAM을 최저 99루피에 구입할 수 있다고 밝혔다. 텔레그램은 CSAM 탐지에 자동화 및 인력 검열을 사용하고 있으며, 플랫폼 내 CSAM의 공개적 확산은 “거의 제거”했다고 밝혔다.

TTP는 일부 광고가 중국의 메타 광고 대행사인 ‘리셀러’를 통해 운영된 것으로 나타났다. 이 리셀러는 수십억 달러 규모의 중국 광고를 페이스북과 인스타그램에 투입한다. 이 리셀러들은 TTP의 문의에 응답하지 않았다. TTP는 9월 1일과 2일에 메타에 조사 결과를 공유했음에도 불구하고, 인도 포함 11건의 새로운 광고가 계속 등장하고 있다고 밝혔다.