Carlos Fiolhais não acredita que a inteligência artificial vá extinguir a humanidade. Para o físico e divulgador de ciência, os perigos reais são o desemprego e a desinformação no nosso dia a dia.

Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.

Este é o Explicador das manhãs 360. Hoje lançamos a pergunta: poderá a inteligência artificial extinguir a humanidade numa década? É nosso convidado, o físico e divulgador de ciência, Carlos Fiolhais. A moderação é da Carla Jorge Carvalho e do Paulo Ferreira. Este alerta foi deixado por um engenheiro da Anthropic, que trabalhou também para a criadora do ChatGPT, a OpenAI, e que se demitiu das duas empresas. Muito bom dia, Carlos Fiolhais. Muito obrigada por estar conosco. Esta ameaça é mesmo para levar a sério. A humanidade estará mesmo em risco com a inteligência artificial?

Eu não estou muito preocupado com o fim do mundo, tal como está aqui anunciado por este senhor. Chama-se engenheiro, mas ele de facto é matemático, é britânico e é muito jovem, tem 27 anos. Tem uma curta carreira a trabalhar para as duas grandes empresas, a OpenAI primeiro e agora a Anthropic, e sai, acaba de ganhar uma entrada na Wikipédia e acaba de se tornar famoso. Eu desconfio muito sempre de quando aparece assim alguém, neste caso, um jovem, que anuncia o fim do mundo. O fim do mundo, repare, já foi anunciado vezes sem conta. Começou logo desde a criação, veio logo na Bíblia, na história bíblica, logo o dilúvio, o mundo mal tinha começado estava já quase para acabar. E depois no ano 1000 tinha-se o medo, o pânico do fim do mundo. Há muitos tipos de fim do mundo e eu não penso que, por exemplo, nos tempos mais recentes, há a questão do perigo nuclear, há a questão da pandemia, há uma questão de uma nova pandemia.

Mas Carlos Fiolhais, não estamos a entrar num domínio diferente?

Não penso que este seja o problema.

Não estamos a entrar num domínio diferente com a inteligência artificial?

Sim, de certo modo, estamos. E há razões para estar preocupado. E temos de aprender com os erros e fazer com que a inteligência artificial se torne alinhada, é a palavra que se costuma usar, com os humanos. Mas isso está longe de querer dizer que acabar com o mundo significa, vou-me estar a traduzir isto, significa a espécie humana extinguir-se. Foi isso que o jovem disse. O jovem disse que até ao fim desta década, portanto, estamos em 2026, até 2030, que ia matar-nos a todos. Uma coisa é a tecnologia estar a evoluir, sempre esteve, agora está de um modo acelerado, muda a nossa vida e temos de nos adaptar, temos de fazer regulação. Outra coisa é dizer que nos próximos quatro anos não existe nenhum ser humano vivo à superfície da Terra. Eu pergunto: como é que vão matar as pessoas?

Uma das questões é essa.

É uma boa pergunta, ele terá de explicar.

Como é que esse risco podia materializar-se?

Basta tirar a ficha e o computador deixa de funcionar, não é?

De alguma forma, sim. É isso? Basta tirar a ficha?

Sim, se alguém não quiser usar a inteligência artificial, pode, não estou a dizer que tenha vantagem com isso.

Mas Carlos Fiolhais, até que ponto é que não podem sair de um controle a partir do momento em que as máquinas, elas próprias, decidem o que querem fazer? Até que ponto é que esse risco não existe?

Vamos com calma. Primeiro, um outro argumento além da questão da ficha, e este para mim é um argumento curioso e que desmonta um pouco esta ideia de fim do mundo. Ele conhece bem, quer dizer, esteve algum tempo nestas duas firmas que competem uma com a outra e, de facto, algumas coisas que ele diz são verdade, estão em competição feroz, há grandes investimentos, há uma corrida, etc. E, portanto, há muito dinheiro envolvido. E o que ele diz é que esta corrida desenfreada, às vezes, faz lembrar o Faroeste. Isso, de facto, é verdade. E vamos lá ver. Ele não tem razão na forma extrema como põe o problema. Mas tem razão no sentido em que temos razão para estar preocupados. Mas a extinção da humanidade, como ele diz, eu não vejo que seja do interesse, vou pôr a questão desta forma curiosa, destas empresas. Por quê? Ficam sem clientes. Aliás, elas próprias desaparecem, é uma autoextinção, então vão matar os clientes. Eles investiram dinheiro, querem ganhar o dinheiro que investiram. E, portanto, quem é que são as pessoas que vão pagar e gastar? Somos evidentemente nós, é a humanidade, não há mais ninguém para fazer isso. Agora, a questão que coloca é um pouquinho diferente, que é: este tipo de programas têm agora a capacidade de irem melhorando por si próprios. Quer dizer, têm um autoaperfeiçoamento. E portanto, isto pode levar a processos muito rápidos. Um, por exemplo, os programas fazem-se de algum modo por si próprios, à medida que os treinam, à medida que têm novos dados, os programas vão evoluindo e hoje têm capacidades que eu não hesito em dizer que são brutais. Eu dou um exemplo. Acaba de ser anunciado também pela OpenAI, que um dos problemas do milênio de matemática, que são problemas anunciados por uma fundação que dava US$ 1 milhão aquele que resolvesse o problema, problema que existe há muitas décadas, há um século, é um problema que teve com dinâmica de fluidos Foi resolvido por um sistema de inteligência artificial deles e eu acredito que seja verdade, falta vir cá os pormenores, mas acredito ser verdade. Portanto, começam a resolver problemas que os humanos até agora não tinham resolvido. No final do século passado, as máquinas ganharam ao campeão do mundo de xadrez, Kasparov, e agora estão a ganhar aos cientistas, etc. Isso representa uma capacidade que de algum modo é inaudita. Estamos, de facto, num território novo. Com certeza, como qualquer tecnologia, isso traz vantagens e não é só resolver problemas de matemática. A vantagem pode ser, sei lá, previsões meteorológicas mais seguras, evacuar sítios onde vai passar um furacão, ou talvez a maior aplicação da inteligência artificial nas nossas vidas, como consequência direta, é a saúde, diagnósticos mais atempados, novas drogas, tudo isso está a acontecer e, portanto, está a ter impacto, vai ainda ter mais impacto.

A questão, caso se pudesse, é até que ponto é que os sistemas podem tornar-se autônomos daquilo que é a vontade humana.

Sim, é o tal problema do alinhamento com os humanos. Temos de aperfeiçoar, temos de desenvolver essa parte, e não faltam vozes a falar sobre isso. Até parece que o Jakob Coxen, é o nome do jovem, é a primeira pessoa a falar disso. Longe disso, os próprios da OpenAI, o Sam Altman, o líder da Anthropic, eles já em 2023, o ChatGPT surgiu em 2022, novembro de 2022, vai agora fazer quatro anos. Mas no ano seguinte já havia uma carta aberta a chamar a atenção que é preciso ter cuidado, até apelava a uma moratória, coisa que será difícil de implementar por causa da tal corrida. Olha, o Geoffrey Hinton, que foi Prémio Nobel de Física em 2024, e é chamado o padrinho da inteligência artificial, é o nome popular, jornalístico. Ele já antes de receber o Prémio Nobel dizia: "Tenham cuidado, isto é perigoso". E estas vozes, vamos lá ver, vamos pôr isto no contexto geral e não apenas do Jakob Coxen. Estas vozes são vozes de reflexão, que devem-nos fazer pensar, e não falta quem pense. Um personagem muito conhecido e que agora parece assustado é o Bill Gates. Parece não, parece que está mesmo assustado, o Bill Gates. O que é que acontece com o Bill Gates? O Bill Gates há muito poucos dias, agora no final de agosto, dá uma entrevista à New York Times e publica um longo ensaio no seu sítio da internet em que diz e enumera os perigos. É mais concreto do que diz, não fala em fim da humanidade, mas fala: redução do número de empregos para os humanos. Isso é um perigo. E até agora as novas tecnologias têm dado novos empregos, têm eliminado outros empregos, e o saldo não tem sido assim tão mau. Mas agora pode acontecer que haja, não é o fim da humanidade, mas há muito menos emprego para os humanos. E até o Bill Gates propõe que haja cotas em certos empregos para humanos. Outros perigos que o Bill Gates traduz, e que são reais, não é acabar com a humanidade, mas vejam lá esta possibilidade. Um humano, nós não sabemos se a inteligência artificial é boa ou má, porque são valores humanos, mas nós sabemos que há pessoas que são boas e há pessoas que são más. Portanto, nós sabemos que o bem e o mal existem. Alguém usar esta potencialidade para criar novos vírus, para criar até armas nucleares, etc. E, portanto, não é a inteligência artificial em si, é a estupidez natural. Sempre atuaram o mal, agora atuam pior.

Isso leva-nos à questão se devemos ou não impor limites à inteligência artificial e à forma como está a ser desenvolvida.

A resposta é: devemos impor limites não tanto à criação científica, porque isso é incontrolável, mas devemos pôr limites à aplicação, porque sempre pusemos limites a tudo aquilo que fizemos. Uma coisa é a criação intelectual, isso não pode ser limitado, é muito difícil, porque se alguém disser: "Não podes pensar nisso", vai alguém que vai pensar nisso. Mas outra coisa muito diferente, e sempre fizemos isso, é dizer: "Isto agora não se vai poder usar", ou "Isto agora é pra isso e pra aquilo". Nós sempre tivemos regulações. Primeiro temos uma ética, sabemos distinguir o bem do mal, e depois fazemos regulações, é o que significa criamos leis e tentamos na altura de pensar seriamente no assunto. Já agora, o Papa tem um documento fundamental, a primeira encíclica dele é precisamente sobre a inteligência artificial e chama-lhe "Magnífica Humanidade". E agora a questão é se somos mesmo uma magnífica humanidade. Quer dizer, há muito tipo de situações que têm de ser reguladas. Por exemplo, a proibição, a União Europeia avançou com o regulamento, enfim, vamos ver se é suficiente, se não é. Estamos numa fase de aprendizagem, diria eu, e direi que nos Estados Unidos as coisas estão a mudar. Para já, não é apenas o rapaz que se desemprega. Os próprios líderes, e nós vimos entrevistas de vários líderes da indústria, inclusive o próprio Altman, da OpenAI, o próprio Elon Musk fala nesse sentido, o que eles dizem é o seguinte: que é preciso eles em conjunto chegarem a certo número de acordos. Depois o governo americano, que é muito interessante, a administração Trump deixou andar isto e não ligava nada à regulação. Mas agora, quando percebeu, e aconteceu este verão, aconteceu agora em agosto, que um sistema de AI quebrou barreiras de cibersegurança, portanto, as palavras entrou num sistema onde não devia ter entrado, isso é evidente que é uma ameaça, é um dos perigos da inteligência artificial. É ajudar os hackers, ajudar as pessoas que fazem ciberterrorismo. Isso é um perigo pra segurança nacional, por quê? Porque entra em sistemas altamente classificados. E agora o governo americano, a administração americana, quer fazer regulação, está a impor regulação, não quer que entre nenhum novo sistema sem eles verem primeiro ou apelarem que seja visto. Há aqui alguns problemas. Não é o fim da humanidade que está em causa, que fique claro. Não é o que alguns chamam de singularidade. Por mais potentes que as máquinas sejam, em muitas coisas não nos imitam. Ainda é possível ser humano, a humanidade ainda pode ser magnífica.

Carlos Filhais, tudo pesado entre ameaças e as vantagens óbvias, está otimista sobre a capacidade que os Estados e os reguladores vão ter para manter a inteligência artificial dentro desses limites aceitáveis?