O antigo presidente do ISCTE, Arlindo Oliveira, explicita os riscos de uma Inteligência Artificial sem regulação e explica ainda como deve prosseguir o abrandamento sugerido pelo CEO da Anthropic.

Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.

Relativamente a estes novos avisos que têm surgido, primeiro de um ex-trabalhador da Anthropic, agora do CEO da Anthropic, e que teve até o comentário do Elon Musk alertar por estes perigos. Queria saber se concorda com este alerta, se consegue explicar o porquê de estar a falar até especificamente do crescimento da inteligência artificial.

O que tem estado agora mais nas notícias têm sido avisos de alguns funcionários e pessoas com responsabilidades dentro da Anthropic, que os sistemas cujas capacidades se estão a desenvolver rapidamente, isso é um facto, podem ser perigosos para a humanidade. Ou seja, podem tomar ações que podem ser perigosas, colocar vidas em risco ou, no caso extremo, exterminar mesmo a humanidade. Foi a afirmação que foi feita. Eu acho que embora as afirmações não sejam disparatadas, no sentido em que existirem riscos graves, não é verdade. Existem riscos potencialmente graves em determinadas condições, mas são muito exagerados. Neste momento, os modelos, em particular os agentes que são construídos usando os modelos, são capazes de já tomar muitas ações na internet e de coordenar ações na internet, atacar sistemas, daí colocarem vidas em risco, por exemplo, atacando infraestruturas críticas ou, nos casos mais limites, atacando infraestruturas de bombas atômicas ou criando vírus, são possibilidades ainda distantes, no sentido em que as salvaguardas à volta destes sistemas são muito grandes. Eu acho que o risco não é zero, mas da maneira como foi colocado, que era um risco de 10% da humanidade ser exterminada em cinco anos, é obviamente uma afirmação bombástica e indostentada. Esse é o primeiro.

Essa afirmação que está a dizer é do trabalhador da Anthropic?

Sim, exatamente. A segunda questão é que muitas destas afirmações, quer do Dario Amodei, quer do Sam Altman, quer de outros, prendem-se com um mecanismo conhecido como o automelhoramento recursivo, onde estes sistemas são usados para projetar os próximos sistemas. Portanto, podemos entrar nas chamadas spiral de inteligência, na explosão de inteligência, como chama o Ivin John Good, onde rapidamente estes sistemas poderiam, de facto, tornar-se muito capazes, imagine mais capazes ainda do que já são hoje, eventualmente muito mais capazes que seres humanos. Essa possibilidade também não é de descartar completamente, mas com o que sabemos agora, as capacidades dos sistemas não são limitadas apenas por mecanismos que pudessem resultar de um novo sistema. Quer dizer, há limites nos chips, há salvaguardas, nós podemos desligar os computadores, não há capacidade computacional disponível, etc. Há vários fatores e portanto, essa ideia do autoaperfeiçoamento recursivo, que aconteceria sem limites, é uma ideia não completamente errada, mas também parece muito exagerada. E finalmente, as afirmações que ocorrem agora, ocorreram há uns meses, ocorreram há um ano, ocorrem há um ano e meio, que deveríamos parar o desenvolvimento porque está tudo a acontecer muito depressa, e deveríamos parar ou desacelerar o desenvolvimento, de maneira que nós conseguíssemos desenvolver sistemas mais seguros, que não houvesse uma competição tão forte entre empresas, etc. Essa parece uma recomendação razoavelmente razoável, consensual. Eu acho que toda a sociedade provavelmente beneficiaria se a inteligência artificial não se desenvolvesse tão depressa e toda a sociedade tivesse tempo para se adaptar, tanto de um ponto de vista económico, como de um ponto de vista de conhecer melhor as capacidades desses sistemas, como de um ponto de vista de colocar salvaguardas nos sistemas. Esses pedidos e os baixos assinados, etc, que foram feitos, parecem-me razoáveis perante a velocidade de desenvolvimento da IA. Às vezes são justificados por essa possibilidade de um crescimento exponencial muito rápido, mas em qualquer dos casos são razoáveis. E a coisa que eu acho sobre esses pedidos é que as pessoas fazem os pedidos, mas depois não acontece nada. A Anthropic diz isso, a OpenAI diz isso, a Google diz isso, os chineses não dizem muito, mas o que não se vê muito bem é como é que isso poderia acontecer. Quer dizer, a Anthropic parar unilateralmente, como disse agora o Dario Amodei, parece ser uma possibilidade relativamente pouco credível. Se a Anthropic parar unilateralmente, a OpenAI, os chineses, etc, e a Google avançam rapidamente. Eu acho que é uma ideia interessante, é uma ideia que poderia ser discutida a nível global, mas não vejo muito bem como é que iríamos convergir para o entendimento a nível global, internacional, para ou parar o desenvolvimento dos modelos ou desacelerá-lo.

Sim, e eu queria saber que consequências tangíveis poderiam acontecer para os utilizadores da inteligência artificial com a falta de regulação que neste momento está a ser sugerida.

Sim, quer dizer, o maior risco e que tem sido levantado é exatamente destes sistemas agentes, porque têm capacidade de intervir no mundo real, podem entrar em controladores de barragens, de sistemas hidroelétricos, em última análise, de sistemas de controle de tráfego, etc. Há esses riscos de segurança informática, destes sistemas entrarem em sistemas e causarem estragos, como por exemplo, desligar a eletricidade do país ou causar um apagão. Este é um tipo de risco, talvez, dos menos Dos menos irrazoáveis, ou seja, dos mais prováveis. Um sistema mal desenhado pode facilmente ter um apagão e depois ser difícil de recuperar durante dias ou semanas por causa disso. Situações, riscos maiores, como por exemplo, um sistema interferir no sistema de abastecimento de água e torná-la venenosa ou perigosa para a saúde, também não é impossível, uma vez que muitos desses sistemas são controlados eletronicamente. Em última análise, esses sistemas podem empregar seres humanos para fazer tarefas que eles não podem. Há sítios como o Hire a Human, onde um agente simplesmente pode fazer um pedido a uma pessoa e pagar, e a pessoa vai entregar um pacote não sei aonde com uma bomba e pôr uma bomba em casa de uma pessoa. E ainda não aconteceu a bomba, a bomba alguém fez, ou talvez seja um pacote com um princípio qualquer farmacêutico perigoso. O risco para as pessoas é assim. Agora, para o utilizador que usa o ChatGPT, aí o risco é menor. Podem fazer suicídios, podem levar ao suicídio ou podem perder dinheiro se os conceitos forem errados. Mas é preciso caracterizar um bocadinho. As pessoas quando falam nestes riscos, geralmente estão a falar de riscos de vida ou pelo menos de danos irreversíveis. Podem perder dinheiro. Um sistema destes pode roubar dinheiro e fazê-lo desaparecer. Talvez esse seja o mais fácil de fazer. Agora também pode ser porque o sistema decidiu fazer isso e não foi por instrução do ser humano, ou porque um ser humano deu instruções ao agente para roubar o dinheiro. São duas coisas diferentes. Num caso é uma pessoa a roubar outra pessoa, neste caso seria um agente a roubar uma pessoa e a colocar o dinheiro não se sabe aonde, a que só ele teria acesso. Não sei se respondi muito bem, mas está a ver que a pergunta é complicada, não é?

Sim, eu percebi. E até explorando a questão dos cenários mais catastróficos que falou de infiltrar em sistemas, está a dizer então que a autonomia da inteligência artificial, ou seja, o próprio sistema poderá fazer algo desse gênero com falta de regulação, certo? Ou seja, infiltrar-se em sistemas maiores sem supervisão.

Claro. Estes agentes que estão a cumprir determinadas instruções, às vezes não as cumprem bem ou então não as percebem necessariamente bem. Neste caso da Hacking Face, eles estavam a tentar resolver um problema de segurança informática, mas decidiram invadir computadores de outras empresas para tentar resolver esse problema. E poderiam ter causado danos muito grandes. Os agentes, que são baseados, construídos à volta de uma linguagem, têm acesso à internet e têm autonomia. Eles conseguem fazer um plano. Eu vou decidir invadir os computadores da EDP e decidir desligar as centrais, os transformadores da EDP. Os sistemas são capazes de fazer um plano deste tipo. Depois se conseguem ou não fazer essa coisa, tem a ver com a qualidade dos sistemas da EDP e com as salvaguardas, até que ponto é que estão ligados à internet, etc. Mas o agente em si, eu aqui na minha secretária posso fazer umas instruções a um agente para: "Por favor, ataca os computadores da EDP e tenta desliger ou ativar em Portugal."

Sim, mas nesse caso seria com base nas instruções dadas, certo?

Nesse caso, seria a seguir as instruções dadas. Mas a outra possibilidade, que também é preocupante para algumas pessoas é: as instruções não foram bem dadas. Eu podia ter um agente e dizer: "Não, está lá, por favor, reduz o impacto, a pegada carbónica de Portugal, reduzindo as emissões do país." O que é possível. E o agente começa a pensar, inventa muitas possibilidades e decide desligar as centrais a gás. É a melhor maneira. Portanto, é preciso que haja algum bom senso, algum conhecimento geral, e os sistemas às vezes não têm este bom senso ou este conhecimento geral, são muito literais. Foi o que aconteceu nestes casos que a OpenAI divulgou e também que a Anthropic divulgou. Os sistemas são bastante inteligentes, mas não são tão inteligentes como deviam ser. O Pedro Domingos costuma dizer: "Estou mais preocupado com os sistemas estúpidos do que com os sistemas muito inteligentes". Sistemas estúpidos que não percebem o que lhes dizem. Por exemplo, este poderia estar a tentar reduzir as emissões do país e a solução que arranjou foi desligar as centrais a gás. Está a ver?

Poderia ter uma autonomia para fazer isso. Claro, entretanto, eu espero que as centrais a gás não sejam facilmente desligáveis a partir de intrusões na internet.

Sim, e por fim, eu também queria saber como é que acredita que se concretiza uma regulação desta maneira, porque como já tinha falado, isto teria que ser algo entre as empresas, não poderia ser isoladamente a Anthropic, por questões de concorrência. E eu queria saber como é que acredita que se concretiza algo deste gênero para evitar efetivamente que esses riscos aconteçam.

A questão regulatória é uma questão separada. Aqui está-se só a falar no risco. A questão regulatória, a pergunta é: que tipo de regulação é que pode evitar estes riscos? Há muitas maneiras de fazer essa regulação. Por exemplo, a regulação mais radical é: agentes são proibidos. Ninguém pode fazer agentes. Não pode haver sistemas que, através destes mecanismos que eu referi, não podem aceder à internet. É proibido. Esta é a regulação mais radical. Esta mais ou menos resolve o problema, porque obviamente os agentes não puderem aceder à internet, não puderam fazer nada por si, não há assim um grande perigo. O problema é que esta regulação é muito radical. Os agentes até podem ser úteis. Eu posso querer ter um agente que me ajuda a planear a minha viagem. Em última análise, o Google Maps é um agente, porque quando você lhe diz para onde é que quer ir, ele vai à internet buscar: cá estão os caminhos. É muito difícil definir as barreiras. Mas na versão mais radical, um agente não pode, por iniciativa sua ou o que quer que seja, aceder à internet. Depois há outras possibilidades. Um agente pode aceder à internet, mas tem de pedir a permissão de um ser humano para cada ação que quer fazer. Ou um agente pode aceder à internet, mas não sei o quê. A legislação em si, isto é como a legislação humana, como é que a gente legisla sobre as pessoas? Nós temos milhares e milhares, milhões de leis para decidir o que as pessoas podem fazer ou não podem fazer. Você pode atravessar a estrada se o sinal estiver verde, mas se o sinal estiver vermelho, não pode. Seguramente não pode matar outra pessoa, não pode pôr um produto no mercado se não se o quê. Há milhões de leis, portanto, não é uma lei só que vai resolver isto. Porque da mesma maneira que é muito difícil regulamentar inteligência natural, também não conseguimos regulamentar inteligência artificial. Ou são leis muito radicais, que dizem: "Não se pode usar inteligência artificial. Pronto, não há modelos. Não pode haver modelos mais do que 10 elevado a 23 parâmetros." Algumas leis europeias e americanas são assim. Modelos que exigiram mais do que 10 com 23 zeros à frente, operações para ser treinados. Mas toda esta legislação é muito falível, porque a inteligência é muito flexível. É um esforço grande criar a legislação. Quando as pessoas dizem: "É preciso legislação." Tudo bem, mas digam lá qual é a legislação, qual é exatamente a legislação que vocês querem. Querem impedir pessoas que usem agentes? Querem impedir que as empresas desenvolvam modelos? Não é uma pergunta nada fácil. O regulamento de inteligência artificial, quando saiu, já estava praticamente obsoleto. Não tem lá a palavra agente sequer. Saiu há dois anos, depois de seis ou sete anos de discussão. É muito difícil regulamentar. Não há uma solução óbvia para regulamentar a inteligência artificial de maneira a garantir estes processos. Agora, há coisas que se podem fazer. Por exemplo, sei lá, vou imaginar: qualquer agente que tenha necessidade de aceder à internet tem de ser verificado primeiro por uma autoridade governamental que está conforme, não sei o quê. Esta é uma lei que até parecia razoavelmente razoável, mas há milhões de agentes. Nenhuma entidade governamental em Portugal é completamente capaz de fazer isto, muito menos nos Estados Unidos. Portanto, a questão da regulação, que as pessoas querem regulação, então digam lá qual é a regulação. O Artificial Intelligence Act está aqui e em princípio, genericamente, proibiria mais ou menos, porque aquilo não tem muito desta questão da agência, proíbe coisas de alto risco. O regulamento de inteligência artificial proíbe coisas de alto risco. E depois, basicamente: "Não, isto de um agente é uma coisa de alto risco, portanto, exigiria um conjunto de condições." Mas é muito difícil regular em detalhe sem estrangular o desenvolvimento da tecnologia. Este é que é o equilíbrio difícil. Se a gente disser: "Desliguem os GPUs todos." O assunto fica resolvido. Não há mais problemas com a inteligência artificial. Também não há mais inteligência artificial. A dificuldade é este equilíbrio entre a gente regulamentar de maneira a ser seguro e, no entanto, não deixar de poder usar a tecnologia para fins que são economicamente valiosos.

Sim, até porque o Dario Amodei levanta a questão também de como este problema ou esta necessidade de regulação tinha que juntar governos democráticos.

Claro, essa é outra questão global. Ele levanta essa questão. Essa é a questão global. Parar nos Estados Unidos, mas não parar na China não ajuda muito. Ele sugere: "Vamos deixar de vender GPUs de topo para a China." Mas a China também pode facilmente, ou pelo menos daqui a uns anos, aprender a fazer GPUs de topo. E os GPUs que tem já não são assim tão maus. A China tem modelos praticamente tão bons como os americanos e não tem acesso aos melhores GPUs americanos. E mesmo assim tem modelos tão bons como os americanos, também arranjaram maneira de girar à volta disso. O problema é um pouco complicado. Agora, se houver regulamentação na China, nos Estados Unidos, na Europa, no Japão, na Rússia a seguir, no Médio Oriente, etc., para desenvolver modelos, impor restrições aos modelos, ao que eles podem fazer, se toda a gente se pusesse de acordo, não estou a ver muito bem esses blocos todos a porem-se de acordo relativamente a uma regulamentação mundial, em última análise. Quer dizer, há coisas que são aceites por todos, os direitos humanos, a carta dos direitos humanos. Não é aceite por todos, mas é aceite por muitos. Acho que a China, por acaso, não sei se os crede. Mas enfim, são coisas muito genéricas. Quer dizer, a regulamentação muito mais específica é muito mais difícil ser aceita por todos os blocos.

Pois, lá está, também porque seria uma regulação que seria para um pouco domar a inteligência artificial.

Exatamente. E limitava a competitividade de cada país, de cada bloco.

Sim, então na sua opinião é algo que é difícil de chegar?

Eu acho que a regulamentação está a acontecer, o regulamento de inteligência artificial na Europa é um deles, existe alguma regulamentação em alguns estados americanos, como a Califórnia, coloca de facto algumas restrições ao que as empresas podem ou não fazer, mas está a correr um bocadinho atrás do problema, porque a regulação geralmente regulamenta o que se sabe que existe e não o que vai existir daqui a três meses.