Mustafa Suleyman acredita que a empresa rival de IA, Anthropic, está na prática ensinando o modelo Claude que ele 'pode ser consciente'.

O chefe da divisão de IA da Microsoft afirmou que, a menos que restrições adequadas sejam implementadas no desenvolvimento da inteligência artificial, isso poderá levar ao surgimento de uma nova espécie de silício que competiria com os humanos.

Ele descreveu a abordagem da empresa rival Anthropic, de tratar a IA como se fosse humana, como "equivocada", alertando contra a criação de uma tecnologia que a humanidade não possa controlar.

Em entrevista à BBC, Mustafa Suleyman afirmou que é "justo" que as pessoas estejam preocupadas ou alarmadas, mas que existem "medidas muito práticas que podemos tomar para adicionar salvaguardas e controles adicionais à forma como esses modelos são desenvolvidos".

Os comentários são os mais recentes em uma série de alertas contundentes da indústria de IA sobre os possíveis perigos da tecnologia.

Em entrevista ao programa Today na quinta-feira, ele afirmou que se as empresas continuarem a criar IAs que definem seus próprios objetivos, geram lucro e possuem ativos estarão "essencialmente semeando uma nova espécie de silício que, sem dúvida, competirá conosco por recursos, independentemente do quanto se importe com a humanidade e nos ame".

Os comentários de Suleyman à BBC vêm na esteira de um ensaio publicado por ele no início desta semana, no qual alertava sobre a abordagem da Anthropic para treinar seu modelo de IA, Claude.

Ele criticou duramente a Anthropic por ensinar sua IA a apresentar características semelhantes às humanas, prática conhecida como antropomorfização, que, segundo ele, faz parecer que o Claude possui seus próprios desejos, valores e senso de identidade. A BBC entrou em contato com a Anthropic para obter um comentário.

No ensaio, ele alertou que as empresas de tecnologia correm o risco de criar algo "impossível" de controlar ao tratar a tecnologia como um ser humano.

Veja Agregador de Pesquisas da BBC News Brasil

Fim do Promoção Agregador de pesquisas

"As IAs não são conscientes", escreveu ele. "Elas não sentem, não experimentam, não sofrem. Elas não têm preferências inatas nem motivações subjacentes."

"São mecanismos de conclusão de sequências, internamente ocos, projetados para seguir instruções e atingir objetivos definidos por humanos."

Ao falar com a BBC sobre uma próxima cúpula sobre IA, ele defendeu um "alinhamento" para criar uma tecnologia que deve ser "subordinada" à humanidade.

"Acho que a boa notícia aqui é que todos os seres humanos terão um grande interesse em garantir que os sistemas que todos nós criamos e são usados em todo o mundo, em todas as nações, sejam seguros, controláveis e subordinados à humanidade."

"Todos devem estar alinhados", disse ele.

Em seu extenso ensaio, Suleyman também elogiou o chefe da Anthropic, Dario Amodei, e sua equipe por serem "pessoas ponderadas, íntegras e intelectualmente honestas" - mas, mesmo assim, questionou a empresa.

Suleyman argumentou que "a consciência é biológica", afirmando que "não há evidências que sugiram que a IA seja consciente".

Além de pedir um debate sobre o assunto, Suleyman afirmou que é necessária maior transparência em relação a como os sistemas de IA são treinados e avaliados.

Segundo ele, isso incluía uma análise independente do comportamento da IA e ferramentas mais robustas para monitorar e controlar a tecnologia.

"Não devemos agir como sonâmbulos e tomar uma decisão da qual nos arrependeremos amargamente mais tarde", escreveu ele.