A Anthropic frustrou tentativas de uso de seus modelos de inteligência artificial Claude ‌para ...

A Anthropic frustrou tentativas de uso de seus modelos de inteligência artificial Claude ‌para desenvolvimento de armas biológicas e interrompeu ações ligadas a uma campanha de espionagem eletrônica supostamente vinculada à Rússia contra a Ucrânia, afirmou a gigante da IA em um relatório publicado na quinta-feira.

A empresa também acusou concorrentes chineses de tentativas de invasão com o objetivo de extrair os recursos do Claude. Os dados foram apresentados no relatório de Inteligência de Ameaças, que documentou o uso malicioso de sua tecnologia nos últimos oito meses.

Um número crescente de tentativas ilegais de invasão por parte de agentes de IA, somado às preocupações com os riscos da tecnologia expressas por especialistas do setor, aumentou a pressão ⁠sobre os principais pioneiros da área, elevando a perspectiva de mais regulamentação.

Dois pesquisadores da Anthropic alertaram nesta semana que o rápido avanço da inteligência artificial poderá levar ‌à extinção da raça humana em um futuro não muito distante.

MÍSSEIS, DRONES E ARMAS BIOLÓGICAS

No relatório, a Anthropic afirmou que há muito tempo existe a preocupação de que os modelos de IA possam, um dia, atingir um nível de capacidade que lhes permita tornar os patógenos existentes mais perigosos ou ‌criar outros totalmente novos.

A empresa documentou cinco exemplos de cientistas utilizando seus modelos de maneiras que ‌poderiam apoiar o desenvolvimento de armas biológicas.

Em um caso, um pesquisador de uma região não atendida pela Anthropic utilizou uma infraestrutura de servidor ⁠virtual privado para acessar o Claude e, durante semanas, usou-o para planejar experimentos de adaptação da gripe aviária em mamíferos. As regiões não atendidas pela Anthropic incluem países como Rússia, China e Coreia do Norte, entre outros.

Após detectar o uso indevido, a empresa baniu as contas envolvidas nessas pesquisas e incorporou suas descobertas aos processos de proteção, fiscalização e inteligência de ameaças de seus modelos de ponta, afirmou a companhia norte-americana.

A Anthropic não identificou as instituições, os países onde estão sediadas nem os agentes biológicos e técnicas de pesquisa específicos envolvidos.

A companhia também identificou o que chamou de "novas categorias de agentes de ameaça". Isso inclui ‌o uso da plataforma para "desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e ‌controle que as operam".

O relatório detalha incidentes envolvendo ⁠operadores na China,  Rússia e Iêmen que ⁠usaram o Claude para desenvolver software para o projeto e desenvolvimento de armas, ou para apoiar a coleta de inteligência e aquisições relacionadas a programas de armamento.

As rápidas ⁠melhorias nos modelos da Anthropic geraram novos riscos, disse Jacob Klein, chefe de inteligência de ameaças ‌da empresa, à Reuters.

"Há um ano, digamos que ‌você quisesse otimizar um drone ou o software de um míssil; os modelos simplesmente não seriam tão bons nessa tarefa quanto são agora", disse ele.

A Anthropic descobriu que criminosos e hackers apoiados por governos estão cada vez mais usando IA para orquestrar e executar grande parte de seus ataques, com os humanos frequentemente atuando como supervisores, em vez de operadores diretos.

"O uso da IA foi além de simples perguntas e ⁠respostas de um chatbot, envolvendo, na verdade, o uso de estruturas multiagentes", afirmou a empresa.

Um grupo de hackers teria realizado operações de phishing, sequestro de redes Wi-Fi de hotéis e invasão de contas do WhatsApp contra alvos nos setores governamental, militar e diplomático da Ucrânia, utilizando IA em quase todas as etapas, informou a Anthropic.

A técnica do grupo era consistente com a do agente de ameaças Midnight Blizzard, sediado na Rússia, que o governo dos EUA já havia associado ao serviço de inteligência estrangeira russo SVR.

A embaixada da Rússia em Washington ‌não comentou o assunto.

O grupo teria usado IA para criar um sistema que detecta automaticamente quando seu malware é descoberto pelas defesas de segurança e reescreve suas programação até que ele escape da detecção.