O CEO da OpenAI, Sam Altman, e o chefe da xAI, Elon Musk, disseram neste sábado que concordam com o CEO da Anthropic, Dario Amodei, sobre a necessidade de desacelerar o desenvolvimento da inteligência artificial, após vários incidentes preocupantes. "Concordo com o Dario", escreveu Altman no X, acrescentando que sua empresa seguiria o exemplo de Amodei ao aceitar avaliadores de segurança externos. "Dario tem razão", acrescentou Musk. A rixa escalou depois que Musk deixou o negócio

O CEO da OpenAI, Sam Altman, e o chefe da xAI, Elon Musk, disseram neste sábado que concordam com o CEO da Anthropic, Dario Amodei, sobre a necessidade de desacelerar o desenvolvimento da inteligência artificial, após vários incidentes preocupantes.

"Concordo com o Dario", escreveu Altman no X, acrescentando que sua empresa seguiria o exemplo de Amodei ao aceitar avaliadores de segurança externos. "Dario tem razão", acrescentou Musk.

iPhone Duo: testamos o novo iPhone dobrável da Apple; veja tela, câmera, preço e como funcionaIA poderia, possivelmente, acabar com a humanidade. Como os humanos deveriam lidar com essa possibilidade?

O tema foi raro ponto de concordância entre Altman e Musk, cujos estranhamentos e rusgas vêm de longe. Os dois já até trabalharam juntos, há oito anos, para lançar a OpenAI e combater o domínio do Google na inteligência artificial — mas o cenário mudou, e esses líderes mundiais de tecnologia passaram a se atacar não apenas nas redes sociais com certa frequência, mas até em locais públicos. A proximidade de antes deu lugar a embates públicos envolvendo decisões estratégicas, modelos de negócios e, mais recentemente, o desempenho de seus sistemas de IA.

Altman e Musk convergiram desta vez com o diretor executivo e cofundador da Anthropic — empresa dona do Claude —, que fez um apelo neste sábado para que as empresas de inteligência artificial (IA) avancem de forma mais lenta e cautelosa no desenvolvimento desta poderosa tecnologia, afirmando que a prevenção de riscos é fundamental.

"Devemos reduzir o ritmo com o qual melhoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos fazer um uso inteligente do tempo que ganharemos", escreveu Amodei na publicação em um blog.

O executivo citou dois fatores principais: a capacidade da IA ​​de se aprimorar e o incidente recente envolvendo a OpenAI e a Hugging Face, onde uma série de agentes de IA colaborou para invadir um site de terceiros.

Viu isso? Meta estaria testando robôs para administrar seus centros de dados

“Para sermos claros, o ritmo não significa interromper o treinamento do modelo ou o progresso técnico, mas sim garantir que as empresas tenham tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso”, acrescentou.

Temor aumenta entre pesquisadores

A fala ocorre dias após um pesquisador de inteligência artificial — que havia deixado a OpenAI para trabalhar na Anthropic, por considerá-la mais prudente —, abandonar o setor e acusar as duas empresas americanas de “brincarem com nossas vidas”.

Em fevereiro, a Anthropic removeu de sua carta de segurança o compromisso de suspender o desenvolvimento de seus modelos caso não conseguisse controlar riscos.

Alerta: Conselho da Meta pede que checagem profissional não seja substituída por ‘notas da comunidade’ na América Latina

Ao longo do boom da inteligência artificial, executivos dos principais laboratórios de IA alertaram para possíveis riscos existenciais — afirmações que, em alguns casos, foram descartadas como tentativas de promover as capacidades de seus produtos e se posicionar como os melhores responsáveis pela tecnologia. O próprio Amodei já afirmou anteriormente que há 25% de chance de as coisas “darem muito, muito errado”.

A Anthropic há muito se posiciona como uma empresa focada em desenvolver IA de forma mais responsável e segura, para reduzir os possíveis perigos da tecnologia e maximizar seus benefícios para a sociedade.

A empresa tomou medidas no início deste ano para limitar o lançamento de seu modelo Mythos, depois de determinar que ele apresentava riscos específicos de cibersegurança. A Anthropic também já afirmou que o mundo precisa de um sistema que permita decidir coletivamente quando desacelerar o desenvolvimento da tecnologia.

Frio como aliado: Google vai investir US$ 15 bi em data center na Finlândia

Ao mesmo tempo, a Anthropic continua envolvida em uma disputa acirrada com sua antiga rival OpenAI para desenvolver modelos cada vez mais sofisticados, capazes de automatizar tarefas mais complexas e valiosas para clientes empresariais.

As duas empresas já apresentaram documentos confidenciais para abrir o capital, e a expectativa é que a Anthropic faça sua estreia em Wall Street ainda este ano.

Pouco depois de ser revelado o incidente de segurança envolvendo a Hugging Face, a Anthropic informou que seus modelos haviam invadido três organizações durante testes de cibersegurança, aumentando as preocupações sobre a capacidade dos laboratórios de IA de impedir que sua tecnologia saia de controle. No início desta semana, a Anthropic afirmou ter descoberto um quarto ataque.