Um ex-investigador da Anthropic alerta para riscos extremos da IA. Adolfo Mesquita Nunes explica até onde pode ir a ameaça e o que ainda podemos fazer para a controlar.

Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.

Esta é a história do dia da Rádio Observador: como evitar que a inteligência artificial nos mate a todos.

"I assume you are saying literally that you believe that AI could kill us all by the end of the decade."

Há umas semanas falámos aqui na história do dia da ameaça da inteligência artificial, quando agentes de IA decidiram sozinhos hackear uma empresa. Na altura, despedimo-nos do episódio com uma piada um bocado básica.

A voz de Arnold Schwarzenegger no "Exterminador Implacável" a garantir que regressaria. E de facto, aqui estamos nós agora, dois meses depois, para falar da denúncia feita por um ex-investigador da Anthropic, a empresa que é dona do Claude. Esse investigador escreveu um tweet onde dizia que estas empresas estão a brincar com as nossas vidas e que a inteligência artificial pode matar-nos a todos até ao fim desta década.

"So the precise scenario sounds a little bit like science fiction. It sounds like something that's not real, but I think it is frightening real, and it's easy to-"

E a própria Anthropic assumiu ao final da tarde de ontem que já este ano deitou abaixo vários projetos de cientistas da empresa cujas pesquisas podiam ajudar a criar armas biológicas com efeitos imprevisíveis. É um cenário assustador e é sobre ele que eu vou falar hoje com o Adolfo Mesquita Nunes. Ele é advogado, tem-se especializado em inteligência artificial, já foi político e no ano passado publicou o livro "Algoritmocracia", sobre o papel da IA na transformação das nossas sociedades. Eu sou o Pedro Benevides e esta é a história do dia de sexta-feira, 11 de setembro. Olá, Adolfo, bem-vindo.

Adolfo, eu vou começar aqui por falar de uma frase que eu li, que foste tu que disseste em março deste ano. Dizias que a inteligência artificial é a primeira revolução tecnológica em que as pessoas envolvidas têm medo, porque não sabem o que aí vem. Isto foi dito em março de 2026. Chegamos a setembro de 2026 e parece evidente para toda a gente que o medo está de facto instalado entre quem produz, cria, desenvolve e faz crescer a inteligência artificial.

Está. Isso devia nos fazer pensar, não tanto antecipando um cenário "Terminator" de ficção científica, em que uma máquina um dia acorda, ganha vontade própria e decide dominar-nos, mas enquanto tecnologia através da qual podemos perder controle das nossas vidas, das nossas decisões individuais, empresariais e enquanto sociedade, de uma forma muito gradual e até muito humana, porque vamos delegando cada vez mais decisões em máquinas que funcionam muito bem. E, portanto, o desafio não é tanto controlar os sistemas que funcionam mal. Eu acho que a sociedade está sempre preparada para regular sistemas que funcionam mal e precaver-se contra sistemas que funcionam mal, mas sabermos estabelecer limites a sistemas que funcionam muito bem. Porque acho que há, talvez, uma distinção fundamental: é que uma máquina pode saber melhor do que nós o que provavelmente vai acontecer, sem saber muito bem, ou sem saber melhor do que nós, o que é que deve acontecer. Ou seja, por exemplo, pode calcular com grande precisão o risco de alguém reincidir num crime, de não pagar um empréstimo ou até de desenvolver determinada doença. Mas decidir o que é que a sociedade deve fazer perante esse risco, isso envolve valores, e os valores não são apenas um problema de cálculo ou de eficiência, e por isso é esse controle que nós não deveríamos estar a perder.

E o problema é que, olhando aqui para estas últimas notícias, este ex-investigador da Anthropic, que é uma das grandes da inteligência artificial, o que ele dizia é que quem lá está e os responsáveis por aquelas empresas têm noção do risco, têm noção das consequências negativas, mas o medo que existe é que a competição é tão grande, que se deem rapidamente, e quando estamos a falar rapidamente, essa janela pode ser de seis meses a dois anos, passos que são irreversíveis e que podem ter consequências desastrosas para a humanidade. Tu parece-te que isto é um discurso catastrofista? Achas que este aviso e a reação que teve, porque milhões de pessoas de repente depararam-se com este cenário, achas que é o suficiente para fazer aquilo que a sociedade vai fazendo, que é perante um desastre de automóvel, percebe a necessidade de criar um sinal de trânsito?

Estas afirmações não são as primeiras nem as únicas. Nós já ouvimos Elon Musk fazer projeções neste sentido.

Mas com ar blasé, com ar "pronto, é a vida é assim".

Mas se elas se começam a multiplicar por parte de pessoas que estão efetivamente dentro do desenvolvimento destes sistemas e destas tecnologias, elas devem ser levadas a sério. Não tanto a previsão dos 10%, dos 20%, e de quando é que vai acontecer, e se é agora, se não é, mas no sentido de que há um conjunto de riscos que são significativos e sobre os quais nós precisamos de pensar e, portanto, regular. Eu tenho sido um defensor da regulação da inteligência artificial e muitas vezes mal compreendido pelo efeito, como se eu estivesse a querer limitar ou regular a tecnologia naquilo que ela tem de positivo. Não é absolutamente nada disso. Perante sistemas cuja atuação pode correr mal, mas também perante sistemas nos quais estamos a delegar cada vez mais as nossas decisões, é importante que existam regras que permitam que as coisas funcionem como devem funcionar. Eu penso que muitos de nós, ou que a sociedade, de alguma forma, olha para esta matéria e diz: "Está bem, delegar". Mas a verdade é que nós não vamos querer delegar tudo. Eu vou sempre preferir um juiz humano a um juiz de uma máquina, e é intuitivo que assim seja. Porém, a opção não é essa. Eu gosto de dar este exemplo com tribunais. Se nós perguntarmos às pessoas se preferem que seja um coletivo de juízes ou que seja um sistema de inteligência artificial, que ninguém sabe quem construiu, a decidir o nosso caso, eu penso que a maioria das pessoas dirá: "Prefiro que seja um coletivo de juízes humano, eventualmente usando sistemas de IA para os auxiliar". Mas a pergunta não é essa. A pergunta é: quer ter já uma decisão em dois dias por um sistema de IA ou quer esperar oito anos para ter uma decisão de um coletivo de juízes? E as pessoas vão legitimamente querer uma decisão para amanhã, como vão querer uma consulta para amanhã, um diagnóstico médico para amanhã, uma decisão do seu processo administrativo para amanhã, uma decisão do seu processo de crédito para amanhã. Por isso é que eu dizia há pouco que o desafio maior não é tanto controlar os sistemas que funcionam mal, mas saber estabelecer limites a sistemas que podem funcionar muito bem e perceber onde é que nós queremos delegar. Se nós vamos ter de utilizar sistemas de inteligência artificial na justiça e nos sistemas de justiça e nas sentenças, então nós temos que empregar o mesmo esforço de regulação que empregamos hoje para a formação dos juízes, para a sua independência, para o seu regime de inamovibilidade, temos que empregar o mesmo esforço a saber que tipo de regras é que nós vamos criar para os sistemas de inteligência artificial que nos vão ajudar no sistema de justiça. Porque senão, de facto, podemos um dia chegar à circunstância de termos sistemas que decidem com critérios que podem ser critérios de eficiência, mas não ser os critérios humanos que nós queremos. Nem todas as decisões das nossas vidas são eficientes, muitas delas não são, porque nós não queremos que sejam, por amor, por caridade, por solidariedade, por igualdade, por proporcionalidade, por justiça, por boa fé, por equidade.

Por humanidade, no fundo.

Sim, e estas decisões, e este debate é que eu penso que é aberto por estas previsões. Porque se nós olharmos para estas previsões ou para estas afirmações como uma espécie de "vem aí um Terminator", não só ninguém acredita, como não é propriamente disso que estamos a falar. Estamos a falar de algo muito mais gradual, muito mais humano, que é a delegação da nossa inteligência e dos nossos processos de decisão em sistemas de inteligência artificial que nós não controlamos, e não sindicamos, e que não são suficientemente transparentes. Estamos condenados a isto? Eu acho que não. Eu, nesse sentido, sou um otimista. É verdade que temos um desafio como nunca tivemos, porque há uma enorme velocidade, mas há também uma grande assimetria de informação. Mas a sociedade tem sabido sempre definir regras quando sente que há ameaças e, portanto, eu acho que estamos no momento para falarmos sobre isso e termos uma conversa sobre isso. Sobre soluções, eu gosto de dizer aquilo que sinto sobre isso. Eu não tenho soluções e só as vou ter quando conseguir ter um debate com muita gente preocupada com este assunto. E é daí que nós vamos discutir soluções. Portanto, este debate é mesmo importante e ainda bem que estamos a falar sobre isto.

Nós vamos fazer aqui um curto intervalo, já regressaremos com o Adolfo Mesquita Nunes. E já estamos de regresso na História do Dia, estamos à conversa com Adolfo Mesquita Nunes sobre os riscos da inteligência artificial. Uma das consequências que estas declarações públicas já tiveram foi que na política americana, quer republicanos, quer democratas proeminentes, já falaram publicamente sobre isto e já disseram: "Temos mesmo de começar a regular isto, porque isto assim não pode ser, isto foi um aviso importante". No caso da regulação, e tu já falaste disso e acompanhas isso até profissionalmente, a Europa já deu passos em frente, embora para a Europa seja mais fácil, porque a Europa não tem um gigante de inteligência artificial a competir com estas empresas, sobretudo norte-americanas. Mas como é que tu vês o andamento desta regulação e como é que tu vês diferentes territórios terem velocidades diferentes? Porque depois também temos que colocar aqui a China, por exemplo, nesta equação.

Eu nunca fui muito partidário da tese de que a Europa regula e os Estados Unidos não regulam nada. Acho isso uma ilusão, porque isso é procurar nos Estados Unidos leis que nunca vão ser encontradas. Os Estados Unidos não atuam do ponto de vista regulatório da mesma forma que a Europa, que é através de regulamentos e de leis. Os Estados Unidos atuam do ponto de vista regulatório, através da intervenção das autoridades reguladoras e dos tribunais. Aliás, há poucas semanas, tivemos um acordo histórico da Meta, que aceitou pagar mais de 17 mil milhões de dólares para terminar vários processos judiciais e no qual, nesse acordo, comprometeu-se a alterar a forma como os seus algoritmos das redes sociais funcionam, indo aliás no sentido de dar mais poder às pessoas para personalizarem os seus algoritmos. Isto é, foi nos Estados Unidos, através da intervenção dos tribunais, que estas empresas se viram obrigadas a alterar a forma como os seus algoritmos funcionam. Isto significa que os Estados Unidos regulam. É um mito pensar que não regulam. Indo direto também à tua pergunta, é verdade que há modelos diferentes regulatórios, portanto, os Estados Unidos têm este que acabei de dizer, a Europa tem o seu, a China também tem o seu. Considerar-se que a inteligência artificial na China não é regulada é não conhecer nem o regime chinês, nem aquilo que está a ser feito. A China tem aprovado regulações bastante significativas na área da inteligência artificial. Para quem acompanha estas matérias, sabe disso. Em todos os espaços, com tradições jurídicas diferentes, é verdade, mas têm surgido necessidade de regular. Não é fácil regular algo que está a nascer de uma forma muito veloz e que está por desafios que são muito novos, e sobre os quais o direito precisa de tempo para pensar. E ainda bem, porque as soluções precisam de ser maturadas. Isto convida a que nas próximas cimeiras mundiais, nos vários fóruns e institutos onde os Estados se encontram, que este tema ganhe uma relevância como ganhou, por exemplo, as alterações climáticas. Estamos perante um desafio global, que só pode ser encarado, resolvido, com uma cooperação global, em que sabemos que nem todos encararão da mesma forma, nem com a mesma velocidade, mas têm de estar envolvidos no mesmo compromisso. E por isso sinto que este é o tema que deve dominar os próximos encontros internacionais, sobretudo partindo do pressuposto que é a própria indústria que está a chamar a atenção para si própria. Não é propriamente aqui uma acusação dos Estados ou da sociedade relativamente à sua atividade.

Deixa-me fazer aqui só mais uma pergunta que tem a ver com o livro que tu lançaste o ano passado, chamava-se "Algoritmocracia", foi mais ou menos há um ano, foi em novembro, creio eu.

De 2025. E na altura, a tua preocupação, não é que ela se tenha perdido, mas era sobre a forma como nós estamos a deixar os algoritmos tomarem quase decisões por nós, e o risco que isso traz para as democracias liberais. Um ano depois, nós estamos a discutir uma coisa muito mais complexa e muito mais alarmista, se quiseres, do que isso. Achas que a velocidade destas coisas é tão grande que o teu livro do ano passado quase parece ingênuo à luz do desenvolvimento que as coisas tiveram?

Algumas das soluções que eu defendo no livro são aquelas que acabaram por ficar no acordo que a Meta assinou. Repara, o problema que eu levanto no livro, que é a delegação do nosso processo decisório, a delegação da nossa capacidade de olhar.