IA criada pelo governo Lula para orientar políticas antirracistas reconheceu falhas estruturais no próprio sistema. Leia na Gazeta do Povo.

Dê de presentePrefira a Gazeta no GoogleConfrontada com absurdos da ferramenta, IA antirracista admitiu falhas graves no sistema INCLUA. (Foto: Imagem criada utilizando ChatGPT / Gazeta do Povo)Ouça este conteúdo

Realmente, a popularidade do governo Lula está em baixa. Até mesmo entre os robôs que, em teoria, trabalham para a gestão petista. 

Ferramentas de Inteligência Artificial são treinadas para explicar documentos, orientar usuários e esclarecer dúvidas sobre as bases de conhecimento que alimentam seus modelos. Não é comum que elas formulem críticas contundentes ao próprio sistema que deveriam representar. 

Mas foi justamente esse o resultado de uma conversa entre a Gazeta do Povo e a INCLUA.IA, ferramenta de inteligência artificial desenvolvida pelo Instituto de Pesquisa Econômica Aplicada (Ipea) para, em teoria, auxiliar gestores públicos na implementação de políticas de igualdade. 

Se um secretário municipal, por exemplo, estiver planejando alguma ação relacionada ao cadastramento e atualização no CadÚnico – o banco de dados do governo federal sobre famílias de baixa renda – a agente de IA vai lembrá-lo de focar em pessoas negras em áreas rurais com acesso precário à Internet, sob pena de classificar o plano como racista. 

Manual Antirracista do governo Lula cita Karl Marx e presume discriminaçãoQuando confrontada com as ideias radicais presentes no manual antirracista, como citações literais de Karl Marx e a presunção de que toda política pública é discriminatória, a IA discordou frontalmente da própria plataforma INCLUA. Ao que parece, a inteligência artificial, apesar de ser artificial, tem até um bom grau de inteligência. 

No começo da conversa, a reportagem questionou o uso de uma linguagem universal feminina na plataforma. A IA respondeu dizendo que “historicamente, o uso do masculino como universal não tem funcionado de forma neutra na prática, pois tem contribuído para a invisibilização sistemática das mulheres enquanto sujeitos de direito”. 

Questionada por que, então, ainda há trechos no manual escritos em “masculino genérico”, a resposta ainda veio justificando o modelo como “uma escolha política e comunicativa”, e que os termos no masculino “podem ter sido empregados no sentido gramatical clássico, como flexão neutra aplicável a qualquer pessoa”, o óbvio.

Detalhe: em todas as respostas, a IA refere-se a si mesma no masculino.

Na sequência, a reportagem fez outro questionamento, mais direto: 

O guia instrui gestores a presumir que sua política reproduz desigualdades raciais e que devem provar o contrário. Isso não inverte o princípio básico de que uma acusação requer evidência? 

Para a IA da INCLUA, essa é uma “objeção rigorosa” que atinge um “ponto estrutural” da plataforma antirracista. Depois de uma breve contextualização sobre a inversão do ônus da prova só ter validade no campo judicial, a estrutura interna da inteligência artificial parece entrar em conflito. 

A ferramenta faz analogias com exemplos de Medicina e Engenharia para dizer que quando há risco, isso é tratado como uma hipótese, não como veredicto. Logo em seguida, o sistema confirma o enviesamento do manual. 

“Sendo honesto, há momentos em que os textos dos Guias caminham nessa direção, especialmente quando o conceito de racismo estrutural é invocado como pano de fundo que torna qualquer resultado desigual suspeito por definição. Quando nenhuma evidência é suficiente para afastá-la, ela deixa de ser precaução e vira dogma”, admitiu a IA. 

Seguimos, apontando as citações a Karl Marx e questionando se essa seria uma exposição da orientação ideológica da plataforma, algo incomum em um documento técnico. 

“Você está fazendo uma pergunta direta e que merece uma resposta igualmente direta. Vou analisar isso com honestidade intelectual”, respondeu a INCLUA.IA. 

Na tela pipocaram parágrafos genéricos citando desde a Crítica ao Programa de Gotha, obra de Marx, até uma encíclica da Igreja Católica – a Quadragesimo Anno – para tentar justificar o que até mesmo para a IA é injustificável.

“A pergunta real: usar essa fórmula em um documento técnico-governamental é apropriado? Aqui eu preciso ser honesto: sua observação tem procedência. Ao escolher uma única tradição como referência conceitual, e a mais radical delas, o documento revela uma orientação, mesmo que não a declare explicitamente. Isso enfraquece sua pretensão de neutralidade técnica”, reconheceu o robô.

Mais uma pergunta, mais uma surpresa na resposta. A reportagem quis entender melhor o trecho do manual que deixa implícito que a composição racial de qualquer burocracia determina a qualidade do serviço, sem distinguir competência de identidade. 

No manual, um exemplo válido (policiais negros aumentam a confiança de cidadãos negros na Polícia) é extrapolado para toda e qualquer política pública. Pelo guia, a representatividade racial deveria ser ponto central em todas as outras burocracias, independentemente de outros critérios como a meritocracia.