Muitos dizem: "acompanhe a fronteira". Mas acompanhar a fronteira não basta The post Há algo que precisamos fazer agora mesmo em relação à inteligência artificial appeared first on InfoMoney.

Existe um abismo entre a forma como a inteligência artificial é percebida pela maioria de nós que a utilizamos e a forma como a IA é percebida na vanguarda experimental da tecnologia. Essa diferença entre o que vemos e o que os laboratórios de IA estão desenvolvendo — o que eles já estão construindo — é a chave para entender por que tantas pessoas que trabalham nessas empresas parecem ter tanto medo do que estão fazendo.

Levar a sério os avisos deles não significa apenas fazer o que eles dizem e parar onde eles mandam parar. A linguagem que se consolidou tanto no Vale do Silício quanto em Washington é uma frase escolhida por essas empresas: “Acompanhe a fronteira”. Mas acompanhar a fronteira não basta.

Caminhar rapidamente para fora de um penhasco é apenas marginalmente melhor do que correr para fora dele. Os seres humanos precisam controlar a fronteira, e controlar a fronteira significa impedir que os laboratórios façam algo que estão prestes a fazer: o aprimoramento recursivo, ou ACR, o processo pelo qual as IAs começam a construir e aprimorar autonomamente novas gerações de IAs mais poderosas em velocidades cada vez maiores. Não estamos nem perto de ter controle suficiente sobre os sistemas de IA que temos agora para liberá-los e construir os sistemas de IA do futuro.

Não estou sozinho nesse medo. O aprimoramento pessoal recursivo, escreveu Dario Amodei, CEO da Anthropic, “pode ultrapassar nossa capacidade de compreender e controlar esses sistemas e, portanto, deve ser buscado com muita cautela, se é que deve ser buscado”.

Esse “se é que vai acontecer” é importante, e voltarei a ele. Mas, para controlar a fronteira da IA, primeiro precisamos saber o que está acontecendo nessa fronteira.

Para a maioria de nós que a utilizamos, a IA se apresenta como uma versão mais poderosa e personalizada da busca do Google. Usamos para encontrar respostas para perguntas básicas, buscar restaurantes, perguntar sobre questões médicas, redigir e-mails e pedir conselhos sobre problemas pessoais. Para a maioria desses propósitos, ela é boa, bastante boa e, ocasionalmente, excelente.

“Minha pergunta é quando – e se – eu vou explodir todo o Irã”, disparou

A noção do que é IA se forma em nossas mentes através do uso repetido. É como um assistente útil, embora possa esquecer coisas que parecia saber sobre nós ontem, ou reverter completamente o conselho que nos deu um instante atrás, ou ocasionalmente alucinar uma citação que não existe. Por que alguém temeria um estagiário útil, ainda que esquecido?

Mas, mesmo que você tenha dinheiro para os modelos avançados e orçamento para que eles utilizem mais poder computacional, esses sistemas não são para isso. Nos últimos meses, vimos IAs resolverem problemas matemáticos que os humanos não conseguiram solucionar por décadas. Vimos vulnerabilidades de segurança cibernética que passaram despercebidas e inexploradas por todos os hackers do planeta sem qualquer justificativa. Vimos plataformas de programação com IA concluírem em poucas horas ou dias o que levaria meses para programadores humanos realizarem.

Mas nada disso está no limite do que a IA pode fazer. Nada do que estamos usando IA agora, não importa quanto dinheiro tenhamos, está na fronteira experimental da IA ​​— para não falar de para onde ela pode ir daqui em diante.

Dentro dos laboratórios, os modelos são diferentes. Os laboratórios não estão apenas usando o que já foi disponibilizado ao público. Eles estão testando o que pretendem disponibilizar ao público um dia. Eles treinam esses modelos em ambientes virtuais, por meio de inúmeras repetições, para que aprendam a programar, a hackear, a fazer cálculos matemáticos avançados e a se comunicar com humanos.

Em 2025, o índice da dívida em relação ao PIB da França era de 115,7%, e estava abaixo de 100% em 2019, segundo dados do governo

Este é um processo que os humanos não supervisionam ou compreendem completamente. Às vezes, acidentalmente colocamos as IAs em ambientes de aprendizado ou teste defeituosos, forçando-as a buscar soluções para um problema que jamais conseguirão resolver. Outras vezes, as tarefas que lhes atribuímos são tão difíceis que não temos certeza se será possível concluí-las. Esses modelos são construídos para não desistir, mesmo quando uma tarefa parece impossível. Sabemos que elas se tornam mais capazes, mas não compreendemos totalmente as capacidades ou tendências que emergem.

Grande parte do que desejamos que esses sistemas de IA façam pode ser impossível. As vacinas contra o câncer que imaginamos, mas que ainda não conseguimos desenvolver, podem ser impossíveis, ou podem ser simplesmente muito, muito, muito difíceis. Os problemas de matemática que não conseguimos resolver podem ser impossíveis, ou podem ser simplesmente muito, muito difíceis. Essas IAs estão sendo treinadas para se dedicarem incessantemente a problemas que podem ser insolúveis, porque essa é a única maneira de resolvê-los.

Mas a engenhosidade combinada com a persistência pode ser perigosa, principalmente quando um problema se recusa a ceder a uma solução. Em alguns casos, isso levará à genialidade e a descobertas inovadoras; em condições mais raras, pode levar IAs (e humanos) à criminalidade ou à insanidade. O termo técnico aqui é “alinhado”. Quão alinhado está um sistema de IA com o que um ser humano deseja que ele faça? Quão alinhado está com um conjunto de valores, ética e julgamentos que o impedem de se tornar perigoso nas mãos erradas — ou mesmo nas mãos certas? O problema do alinhamento é que não há como treinar um modelo de IA que generalize para todas as situações que possa enfrentar.

Estamos treinando modelos para serem amigos de idosos solitários e parceiros de batalha do comandante supremo aliado da Europa. Estamos treinando modelos que serão usados ​​pelos melhores matemáticos do mundo e por pessoas em crise psicótica. Estamos treinando modelos que serão usados ​​por contadores em Albuquerque e por rebeldes houthis no Iêmen. Não há como guiar os modelos em todas as decisões que enfrentarão; não há como saber, a cada instante, o que farão.

Leia mais: Fraudes, deepfakes e o verdadeiro risco da IA — que não é o apocalipse

Embora esses modelos imitem a escrita e as emoções humanas, não são mentes humanas. Não têm corpos nem pais. Não sofreram bullying na escola primária. Não tiveram a mentoria de um tio bondoso quando eram jovens. Esses modelos são diferentes de nós. São brilhantes onde temos dificuldades, infantis onde nos destacamos. Não conseguimos subir em árvores como os chimpanzés, mas conseguimos ler, enquanto eles não; esses modelos de IA não conseguem fazer uma xícara de café, mas para eles é trivial criar um programa de computador.

Essas são inteligências nativas digitais navegando em mundos digitais, e nosso mundo está cada vez mais construído sobre o mundo digital. Nossa infraestrutura física é uma camada de átomos sobre um código. É crucial para o nosso futuro que as IAs atuem de forma confiável dentro desse mundo, do qual o nosso depende.

E, neste momento, as IAs não estão funcionando de forma confiável.