Demissão pública de pesquisador da Anthropic levou possíveis riscos do avanço tecnológico à pauta das empresas The post Apocalipse da IA: por dentro das conversas que tomaram a indústria de tecnologia appeared first on InfoMoney.

Quando Jacob Coxon, um pesquisador da Anthropic, pediu demissão publicamente da startup de inteligência artificial na semana passada, citando suas preocupações com a tecnologia poderosa, as mensagens internas começaram a pipocar.

“É o que todo mundo vem dizendo”, escreveu um funcionário da Anthropic sobre os comentários de Coxon em um chat da empresa que foi visto pelo The New York Times. “Só que agora está público.”

“O Jacob levou o grupo do chat para o público”, escreveu outro funcionário. “Isso é uma coisa boa.”

As reações dentro da Anthropic foram ecoadas por pesquisadores de IA na OpenAI, Meta e Google, que analisaram as postagens de Coxon nas redes sociais descrevendo como a OpenAI e a Anthropic estavam “apostando nossas vidas” com a tecnologia. Muitos se reuniram em canais de mensagens corporativas, chats criptografados e jantares privados, com o objetivo de se organizar para aumentar a conscientização sobre os riscos da IA, de acordo com uma dúzia de funcionários dessas empresas.

Para aqueles que fizeram da IA o trabalho de suas vidas, a mensagem de Coxon não era nova. Mas seus comentários se alastraram a ponto de se tornarem uma conversa global, e muitos viram nisso um momento para pedir mais cautela. Alguns trabalhadores de IA agora estão se manifestando para altos executivos, pedindo uma pausa no desenvolvimento da tecnologia que avança rapidamente até que ela tenha as devidas salvaguardas, disseram seis dessas pessoas.

As conversas escancaram as tensões dentro dos principais laboratórios de IA sobre as formas mais seguras de desenvolver a tecnologia. Mesmo com os funcionários se sentindo encorajados a pedir uma desaceleração no desenvolvimento da IA, empresas como Anthropic e OpenAI estão equilibrando prioridades.

Ambas estão planejando ofertas públicas iniciais de grande porte no próximo ano. As empresas também temem que possam enfrentar preocupações antitruste se concordarem entre si em dar uma pausa no desenvolvimento da IA, disseram duas pessoas a par do assunto. E startups chinesas já produziram modelos de IA competitivos, levantando a possibilidade de que empresas americanas fiquem para trás se desacelerarem.

Isso criou uma situação complicada para os principais executivos de IA, muitos dos quais concordam que a tecnologia apresenta riscos. Sam Altman, CEO da OpenAI, escreveu em uma postagem de blog em 2023 que a IA poderia “causar danos graves ao mundo”. Dario Amodei, CEO da Anthropic, escreveu em um artigo de opinião no ano passado que a IA deveria ser regulamentada para controlar os riscos.

Em uma reunião de funcionários na semana passada, Altman disse que a OpenAI estava disposta a desacelerar o desenvolvimento junto com laboratórios concorrentes, de acordo com duas pessoas que participaram. Ele acrescentou que esperava que desacelerações voluntárias se tornassem normais até que houvesse padrões de segurança amplamente reconhecidos. A reunião foi divulgada anteriormente pela Bloomberg.

E no sábado (12), Amodei publicou um ensaio de 3.800 palavras pedindo prudência no desenvolvimento da IA. “Precisamos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu ele.

(O The New York Times processou a OpenAI e a Microsoft, alegando violação de direitos autorais de conteúdo jornalístico relacionado a sistemas de IA. As duas empresas negaram as alegações.)

As discussões sobre segurança da IA existem quase desde o surgimento da própria tecnologia. Mas a urgência aumentou nos últimos anos, à medida que pesquisadores fizeram avanços significativos.

As preocupações se intensificaram em julho, depois que a OpenAI revelou que alguns de seus modelos de IA haviam escapado do confinamento e invadido a Hugging Face, uma empresa de IA. Pesquisadores de IA questionaram se era possível controlar os próprios sistemas que estavam construindo, com funcionários da OpenAI, Anthropic e Google DeepMind se reunindo para discutir o que fazer, disseram nove pessoas. Muitos concordaram que a IA estava sendo desenvolvida rápido demais.

“Os pesquisadores sóbrios dentro dos laboratórios, que se orgulhavam de ser equilibrados, agora estão parecendo aterrorizados”, disse Roy Bahat, chefe da empresa de investimentos Bloomberg Beta, em uma entrevista.

Alguns pesquisadores de IA criaram grupos com o objetivo de estabelecer salvaguardas duradouras. Um desses esforços, a Coalizão de Funcionários de IA Preocupados (Coalition of Concerned AI Staff), começou como um projeto secreto para criar “salvaguardas mais fortes” e ajudar os trabalhadores a, coletivamente, “responsabilizar uma empresa por seus compromissos de segurança”.

“Se você trabalha em uma empresa de IA, pode estar se perguntando se também deveria sair”, disse Pamela Mishkin, ex-funcionária da OpenAI, nas redes sociais na quinta-feira (10) ao anunciar o esforço. Ela também incentivou aqueles que permaneciam em seus empregos a perguntar “como usar sua influência para quem fica”.

Depois que Coxon postou sua demissão da Anthropic na terça-feira (8), trabalhadores de IA pediram a altos executivos de suas empresas que pausassem o desenvolvimento da tecnologia para que tivessem mais tempo para trabalhar nela de forma segura. Alguns brincaram que já haviam perdido a conta de quantas cartas abertas haviam assinado e de quantos grupos de chat privados sobre segurança de IA participavam, disseram duas pessoas.

Em uma entrevista na quarta-feira (9), Coxon disse que incidentes como a invasão da Hugging Face aumentaram sua preocupação de que os modelos de IA estavam se desenvolvendo muito mais rápido do que as empresas conseguiam controlá-los. “Foi principalmente uma coisa emocional gradual e, eventualmente, meio que estourou, e então decidi sair”, disse ele.

Outros trabalhadores de IA seguiram o exemplo de Coxon e se manifestaram publicamente. Evan Hubinger, pesquisador de segurança na Anthropic, disse em uma postagem nas redes sociais na terça-feira que acreditava haver uma probabilidade maior que 10% de a IA “matar todos os humanos” na próxima década.

Julie Steele, pesquisadora de segurança na OpenAI, disse na semana passada que acreditava que as empresas de IA precisavam “desacelerar”. Na sexta-feira, Andreas Kirsch, funcionário do Google DeepMind, escreveu que estava “preocupado que a IA vai matar todos nós, seja por riscos de curto prazo, longo prazo, ou ambos”.