Google, OpenAI e Anthropic avançam na criação de um organismo conjunto para definir padrões de segurança para sistemas de IA de fronteira. O post Google, OpenAI e Anthropic avançam para criar órgão de segurança em IA apareceu primeiro em Google Discovery.

Principais destaques

Google, OpenAI e Anthropic estão deixando as conversas informais sobre segurança de IA para trás e começando a desenhar uma estrutura permanente.

Segundo reportagem do The Information, as três empresas estão avançando na criação de uma organização conjunta de padrões de segurança em inteligência artificial, provisoriamente chamada de Standards Authority for Frontier AI, ou Autoridade de Padrões para IA de Fronteira.

A ideia é criar algum nível de coordenação entre os principais laboratórios que desenvolvem os sistemas de IA mais avançados.

E isso acontece justamente quando esses mesmos sistemas começam a ganhar mais autonomia e capacidade de executar tarefas complexas.

As discussões não começaram agora.

Em meados de setembro, a Bloomberg revelou que OpenAI, Anthropic e Google DeepMind vinham conversando havia semanas sobre formas de coordenar questões relacionadas à segurança.

Chris Lehane, chefe de políticas globais da OpenAI, confirmou as conversas e afirmou que a empresa não considerava necessária uma isenção antitruste para que as companhias colaborassem em assuntos de segurança.

O The Information já havia informado separadamente que reuniões para discutir a criação de um organismo de padrões do setor aconteciam desde pelo menos julho.

O salto importante: agora, a conversa parece estar migrando de uma simples coordenação entre empresas para a possibilidade de criar uma estrutura institucional própria.

Essa é justamente a parte mais complicada.

Uma organização criada pelas três maiores empresas de IA poderia ajudar a estabelecer critérios comuns para testes, avaliações e segurança de modelos de fronteira.

Ao mesmo tempo, ela concentraria nas próprias empresas que desenvolvem esses sistemas uma parcela importante da definição dos padrões que deverão orientar o setor.

A mesma indústria que constrói os modelos está discutindo como definir as regras de segurança desses modelos.

É aí que entram as críticas de concorrentes.

Aidan Gomez, CEO da Cohere, criticou publicamente a iniciativa.

Segundo ele, padrões de segurança deveriam ser definidos por um grupo mais amplo de participantes, e não apenas pelos grandes laboratórios que estão na fronteira do desenvolvimento de IA.

Em uma aparição na Bloomberg Television, Gomez também argumentou que um acordo desse tipo poderia consolidar a posição das maiores empresas e deixar companhias menores em desvantagem.

A crítica adiciona uma dimensão concorrencial a uma discussão que, até aqui, vinha sendo apresentada principalmente como uma questão de segurança.

A questão ficou ainda mais sensível porque as empresas também enfrentam questionamentos antitruste.