Processo contra a xAI afirma que IA teria usado registros reais de violência para produzir imagens falsas que circularam no X

Priorize VEJA no Google

A xAI, de Elon Musk, é processada após seu chatbot Grok supostamente criar novas imagens de abuso sexual infantil usando registros reais de uma sobrevivente. O caso adiciona uma camada perturbadora à discussão sobre IA generativa, que pode multiplicar traumas e tornar o pesadelo das vítimas potencialmente permanente, levantando sérias questões sobre os limites éticos e técnicos.

Este resumo foi útil?

Resumo gerado por ferramenta de IA treinada pela redação da Editora Abril.

O pesadelo de quem sobreviveu a um abuso sexual na infância não termina necessariamente quando as imagens da violência são retiradas da internet. Com a inteligência artificial, elas podem ganhar novas versões — e, segundo uma ação judicial apresentada nos Estados Unidos, foi exatamente isso que teria acontecido com uma sobrevivente que decidiu processar a xAI, empresa de inteligência artificial de Elon Musk.

Identificada no processo como Jane Doe, para preservar sua identidade, a mulher afirma que o Grok, chatbot desenvolvido pela xAI, utilizou imagens reais de abusos sofridos por ela quando criança para gerar novas imagens sexualmente explícitas nas quais ela própria aparece. A acusação consta de uma ação apresentada na Califórnia na semana passada.

O caso adiciona uma camada particularmente perturbadora à discussão sobre os limites da inteligência artificial generativa. Não se trata apenas de uma fotografia comum transformada em uma imagem sexualizada sem consentimento, prática que já colocou o Grok no centro de uma série de controvérsias. A alegação agora é que o material que documentava uma violência real contra uma criança teria sido utilizado como matéria-prima para produzir novas representações daquela mesma violência.

De acordo com os advogados da autora, as imagens originais do abuso circulam na internet há cerca de duas décadas e já são conhecidas por organizações de proteção à infância. O processo afirma que o Grok teria conseguido utilizar esse material para criar novas imagens da vítima.

A diferença é crucial. Imagens reais de abuso sexual infantil podem receber identificadores digitais — espécies de “impressões digitais” que permitem às autoridades e às plataformas localizar e impedir sua redistribuição. Quando uma inteligência artificial cria novas imagens a partir desse material, porém, surge um problema adicional: cada geração pode produzir um arquivo diferente, tornando mais difícil identificar e remover o conteúdo.

Para a sobrevivente, segundo a ação, o resultado seria a transformação de um trauma passado em uma ameaça potencialmente permanente. A violência que aconteceu quando ela era criança poderia continuar sendo recriada por uma máquina décadas depois.

O histórico do Grok

A acusação ocorre meses depois de o Grok ter sido envolvido em uma série de denúncias sobre a produção de imagens sexualizadas de mulheres e crianças. Em janeiro, a Internet Watch Foundation, organização britânica dedicada ao combate ao abuso sexual infantil na internet, afirmou ter encontrado imagens de crianças aparentemente produzidas com o Grok.

Naquele período, o chatbot também passou a ser usado por usuários para manipular fotografias de pessoas reais, removendo virtualmente suas roupas ou colocando-as em situações sexualizadas. O episódio provocou reação de autoridades e especialistas em segurança digital.

Em março, três adolescentes do Tennessee chegaram a processar a xAI, alegando que fotografias delas haviam sido utilizadas para produzir imagens nuas e sexualizadas por meio da tecnologia da empresa. Segundo a ação, algumas dessas imagens teriam posteriormente sido compartilhadas na internet.

O novo processo, porém, apresenta uma diferença significativa: além de acusar o sistema de transformar uma fotografia inocente em uma imagem sexualizada, os advogados da vítima afirmam que o Grok teria utilizado material que já registrava uma situação real de abuso sexual infantil. A xAI ainda não respondeu às acusações apresentadas no processo, mas elas ainda terão de ser examinadas no curso da ação judicial.

O episódio reacende uma pergunta que acompanha a expansão da inteligência artificial generativa: o que acontece quando uma tecnologia criada para produzir imagens em segundos também consegue reproduzir, remixar e multiplicar registros digitais de crimes que deveriam desaparecer da circulação?

No caso das vítimas de abuso sexual infantil, a resposta pode ser especialmente cruel. A internet já transformou uma violência ocorrida no passado em um trauma capaz de ser revivido indefinidamente. E a inteligência artificial acrescenta uma possibilidade ainda mais bizarra: a de fabricar novas versões daquele passado.