Quando três líderes das empresas mais avançadas do mundo em moldar a Inteligência Artificial (IA) vêm a público para admitir que o que estão criando pode ser também uma grave ameaça à humanidade, a advertência é para ser levada a sério. O alerta veio no fim d…

Quando três líderes das empresas mais avançadas do mundo em moldar a Inteligência Artificial (IA) vêm a público para admitir que o que estão criando pode ser também uma grave ameaça à humanidade, a advertência é para ser levada a sério. O alerta veio no fim de semana com um artigo de Dario Amodei, CEO da Anthropic, a criadora do bem-sucedido Claude, em que pede uma desaceleração no desenvolvimento da tecnologia sob riscos de perda de segurança. Sam Altman, da OpenAI, e Elon Musk, da Tesla e xAI, concordaram com o apelo, em uma trégua rara entre executivos que disputam posições na fronteira tecnológica e negócios trilionários.

Amodei não sugeriu o que poderia ser feito, apenas deu voz a preocupações generalizadas, provocadas em um alerta de Jacob Coxon, pesquisador da Anthropic que se desligou da companhia com uma mensagem funesta: “As pessoas que estão construindo a IA acreditam seriamente que ela poderia matar a todos nós até o fim da década”. Vários casos de “desobediência” a comandos por experimentos com IA ocorreram ao longo do tempo, mas o que parece ter sido o divisor de águas foi a invasão, por 1,2 mil “agentes”, ao site de desenvolvedores de IA da Hugging Face, responsável pelo ChatGPT, que resultou em comando dos servidores, em ações coordenada entre si - sem que qualquer instrução humana fosse dada para isso. “Um enxame que tivesse capacidades maiores, mas um nível semelhante de desalinhamento, poderia ter causado danos catastróficos”, escreveu Amodei.

Há relatos de tentativas de hackers se apropriarem da IA para auxílio em possível confecção de armas biológicas e usos destrutivos, e o crime organizado já se preparou para atuar com a tecnologia de ponta. A Interpol avalia que fraudes com IA são até cinco vezes mais rentáveis. “Sistemas de IA agênticas podem autonomamente planejar e executar campanhas de fraudes completas, do reconhecimento a exigência de resgates”, disse ao Financial Times Giles Thomson, chefe da Financial Action Task Force (ou Grupo de Ação Financeira Internacional, Gafi). Além disso, os grupos criminosos não precisam mais de locais espaçosos e centenas de membros juntos para realizar seus golpes cibernéticos. Células menores e mais difíceis de serem localizadas estão se disseminando. Segundo Thomson, é possível fazer grandes estragos com duas pessoas apenas e um grande servidor. (FT, ontem).

Mas os pesquisadores das empresas que estão investindo bilhões de dólares para atravessar o limiar do conhecimento tecnológico estão também exercendo o papel de aprendizes de feiticeiros: ninguém sabe ao certo até onde chegarão as potencialidades da IA. Agora surgiram sinais de sérios problemas, partindo da cadeia de comando. Ele pode não ser seguido e ser desviado para outros fins, escapando ao controle humano e tornando-se risco à vida e à sociedade.

A “rebelião” assumiu repercussão tão poderosa a ponto de unir os receios de dois expoentes, um da esquerda americana, o senador Bernie Sanders, e outro da extrema direita, Steve Bannon, ex-conselheiro de Trump. Eles afirmaram que é necessário ter um controle externo e regras de segurança estrita para manejar algo que pode ser uma formidável arma. Altman e Amodei sugerem participação de avaliadores ou conselhos independentes nas empresas de fronteira na pesquisa da IA. Diante da gravidade do problema, seria necessária ainda uma regulação clara sobre o que se pode ou não fazer, e os meios para fiscalizá-la.

O problema, no entanto, é muito complexo. Ao admitir o tipo de perigo que as sociedades correm com a IA, além de seus benefícios superlativos, os comandantes desta indústria deixaram claro também que um grupo muito exclusivo de empresários terá com seus inventos um poder jamais detido pelo setor privado. Para controlar dentro de limites a IA, será necessário um controle igualmente forte sobre seus criadores.

As advertências de Amodei e a aquiescência de Altman e Musk tiveram amplos efeitos econômicos, ao derrubarem ontem ações das empresas de chips de memória e outras companhias ligadas à infraestrutura da IA nos quatro cantos do planeta. Em primeiro lugar, o próprio IPO da Anthropic, cuja avaliação é estimada em US$ 2 trilhões, ficou no ar. Mais que isso, as premissas que levaram as empresas de IA a manterem por meses a fio as bolsas americanas com recordes de valorização estão em xeque. A desaceleração dos avanços, que terão de ser muito cautelosos, significa também mais tempo de maturação de investimentos e de resultados. E foram nos expressivos lucros esperados que companhias como a Nvidia, por exemplo, são avaliadas em US$ 5,12 trilhões, ou o dobro do PIB brasileiro.

Os pregões foram pegos de surpresa pelos CEOs das empresas de IA, mas há um risco de desestabilização mais séria se a primeira reação for a preponderante. O setor investiu US$ 750 bilhões nos dois últimos anos, parte com endividamento, e uma reavaliação abrupta dos preços dos ativos poderá trazer amplas perdas no mercado internacional. O fato é que foi lançado um desafio formidável tanto para as empresas que desenvolvem a tecnologia como para os governos, que terão de agir com mais rigor, sabedoria e presteza agora.