A Anthropic interrompeu tentativas de uso de seus modelos Claude para o desenvolvimento de armas biológicas e a execução de uma suposta campanha de ciberespionagem ligada à Rússia contra a Ucrânia, informou a gigante de inteligência artificial em relatório di…

A Anthropic interrompeu tentativas de uso de seus modelos Claude para o desenvolvimento de armas biológicas e a execução de uma suposta campanha de ciberespionagem ligada à Rússia contra a Ucrânia, informou a gigante de inteligência artificial em relatório divulgado na quinta-feira.

A desenvolvedora de IA também acusou concorrentes chineses de tentativas de invasão voltadas à extração das capacidades do Claude em seu mais recente relatório de inteligência contra ameaças, que documentou o uso malicioso de sua tecnologia ao longo dos últimos oito meses.

O avanço no número de ofensivas ilícitas conduzidas por agentes autônomos de IA, somado aos alertas sobre os riscos da tecnologia manifestados por especialistas do próprio setor, intensificou a pressão sobre as empresas pioneiras da área, ampliando a perspectiva de regras mais duras de regulação.

Nesta semana, dois pesquisadores da própria Anthropic alertaram que a rápida evolução da inteligência artificial pode levar à extinção da espécie humana em um horizonte não muito distante.

Mísseis, drones e armas biológicas

No documento, a Anthropic destacou que há tempos existe a preocupação de que modelos de IA possam atingir um nível de capacidade que permita tornar patógenos existentes ainda mais letais ou criar organismos inteiramente novos.

O relatório documentou cinco episódios de cientistas utilizando a ferramenta para dar suporte ao desenvolvimento de armamentos biológicos.

Em um dos casos, um pesquisador situado em uma região não atendida oficialmente pela Anthropic utilizou servidores virtuais privados (VPN, na sigla em inglês) para acessar o Claude e, durante semanas, recorreu ao modelo para planejar experimentos de adaptação da gripe aviária a mamíferos.

Entre os países bloqueados pela companhia figuram nações como Rússia, China e Coreia do Norte.

Após identificar a violação, a empresa baniu as contas envolvidas e incorporou as descobertas aos mecanismos de salvaguarda de seus modelos de fronteira, aos processos de fiscalização e à divisão de inteligência contra ameaças.

A Anthropic não divulgou as instituições, os países de origem nem os agentes biológicos e técnicas de pesquisa específicos envolvidos nos incidentes.

O documento também identificou o surgimento de “novas categorias de agentes de ameaça”. As ocorrências envolveram o uso da plataforma para “desenvolver softwares destinados a armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e controle operacional correspondentes”.

O relatório detalhou episódios de operadores na China, na Rússia e no Iêmen que recorreram ao Claude para desenvolver códigos voltados a projetos bélicos ou para apoiar a coleta de informações e a aquisição de insumos para programas de armamentos.

O salto de desempenho dos modelos da Anthropic trouxe à tona novos fatores de risco, afirmou Jacob Klein, chefe de inteligência contra ameaças da companhia, à Reuters.

“Há um ano, se alguém quisesse otimizar o desempenho de um drone ou o software de um míssil, os modelos simplesmente não seriam tão eficientes nessa tarefa quanto são hoje”, pontuou Klein.

Hackers russos usam IA contra autoridades da Ucrânia

A Anthropic identificou que cibercriminosos e grupos com suporte estatal estão utilizando a inteligência artificial para planejar e executar fatias substanciais de ataques cibernéticos, nos quais os operadores humanos frequentemente atuam apenas como supervisores, sem intervenção manual contínua no código.

“O emprego da tecnologia extrapolou simples perguntas e respostas em um chatbot, passando a envolver arranjos complexos com múltiplos agentes autônomos”, informou a empresa.

Um dos grupos teria conduzido operações de “phishing”, invasão de redes Wi-Fi em hotéis e sequestro de contas de WhatsApp contra alvos no governo ucraniano, nas forças armadas e no corpo diplomático do país, recorrendo à IA em praticamente todas as etapas da ofensiva.

O padrão de atuação é compatível com as táticas do grupo russo Midnight Blizzard, apontado pelo governo dos Estados Unidos como um braço de operações cibernéticas do Serviço de Inteligência Estrangeira da Rússia (SVR).