O relatório é posterior a uma reportagem da BBC que revelou que o Instagram veiculava anúncios pagos promovendo este tipo de material na Índia.

Importante: esta reportagem contém descrições de abuso infantil que poderão ser perturbadoras para alguns leitores.

A empresa Meta publicou centenas de anúncios pagos com imagens de abusos sexuais infantis geradas por inteligência artificial, vários deles na Índia, ao longo dos últimos 10 meses, segundo um novo relatório divulgado por ativistas americanos.

O relatório surge dois meses depois que o governo indiano ordenou que a Meta retirasse do Instagram todos os anúncios e conteúdo promovendo material relativo a abusos sexuais infantis.

A medida foi tomada após uma investigação da BBC que descobriu que a plataforma vinha veiculando anúncios pagos, promovendo este tipo de material na Índia.

O Projeto de Transparência em Tecnologia (TTP, na sigla em inglês), com sede na capital americana, Washington, afirma ter encontrado 332 anúncios com material contendo abusos sexuais infantis no Facebook e no Instagram — a maioria deles (274) em agosto deste ano.

A BBC entrou em contato com a Meta sobre as descobertas. Em resposta, a empresa enviou uma declaração:

"Não toleramos aplicativos de nudez, nem qualquer tipo de exploração infantil, seja real ou gerada por IA. Estes criminosos mudam constantemente suas táticas para evitar serem detectados e, por isso, continuamos reforçando nossa detecção e execução."

O relatório do TTP, publicado na terça-feira (8/9), afirma ter identificado diversas fotos de crianças reais utilizadas nos anúncios e manipuladas com o uso de IA. Elas incluem um membro de uma família real europeia.

O grupo destaca que mais de uma dezena de anúncios foram publicados nas plataformas da Meta, mesmo depois de o TTP ter informado suas descobertas para a empresa.

Cerca de 25% dos anúncios (84) foram publicados na Índia. Dentre eles, 78 foram veiculados depois da ordem de retirada deste tipo de material emitida pelo governo indiano e sua reunião com altos funcionários da Meta.

Após a investigação da BBC, diversas agências indianas declararam que estão examinando o assunto, como a Comissão Nacional de Proteção dos Direitos das Crianças e a Comissão Nacional de Direitos Humanos do país.

A distribuição de material contendo abusos sexuais infantis é considerada crime na Índia e a política da Meta afirma que os anúncios não devem incluir conteúdo que explore sexualmente as crianças ou as coloque em risco.

Quando a BBC entrou em contato com a Meta sobre a nossa investigação, a empresa informou que, quando toma conhecimento de uma aparente exploração infantil, ela reporta o caso ao Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC, na sigla em inglês), em cumprimento à legislação em vigor.

O NCMEC é o sistema global centralizado de comunicação sobre a exploração sexual de crianças na internet.

Mas o fundador da rede Just Rights for Children, Bhuwan Ribhu, afirma que esta medida não é suficiente. A rede reúne mais de 250 organizações que trabalham para prevenir a violência contra crianças na Índia.

A Just Rights for Children apresentou uma petição à Suprema Corte indiana, mencionando as descobertas da BBC e pedindo orientações para que as redes sociais sejam obrigadas a relatar e identificar os promotores de material contendo abusos sexuais infantis nas suas plataformas.

"As empresas responsáveis pelas redes sociais estão claramente ignorando a legislação indiana, ao não denunciarem conteúdo contendo abuso sexual infantil às autoridades policiais da Índia, como determinam as nossas leis de proteção às crianças", afirma Ribhu.

O TTP é uma iniciativa de pesquisa mantida pela organização sem fins lucrativos Campaign for Accountability. Seu objetivo é promover a responsabilização das grandes empresas de tecnologia.

O projeto afirma ter encontrado 332 anúncios apresentando conteúdo de abuso sexual infantil no Instagram e no Facebook, veiculados nos EUA, Reino Unido, União Europeia, Austrália e Índia. Todos os anúncios foram denunciados para o NCMEC, segundo o TTP.

Quase todos os anúncios encontrados pelo projeto começam com a foto de uma criança, explica o TTP. E, conforme o vídeo avança, a foto é manipulada por IA para mostrá-la em um ato sexual explícito.