Governo americano e outras empresas fora do monopólio das big techs não concordam com o avanço nas discussões por novo órgão de regulação

Priorizar nos meus resultados Google

As gigantes OpenAI, Anthropic e Google DeepMind planejam criar um órgão para supervisionar os riscos da Inteligência Artificial. A iniciativa surge em meio a crescentes alertas de ex-funcionários sobre os perigos da IA e apelos por maior regulamentação. O objetivo é assegurar o desenvolvimento seguro da tecnologia, evitando consequências desastrosas.

Este resumo foi útil?

Resumo gerado por ferramenta de IA treinada pela redação da Editora Abril.

OpenAI, Anthropic e Google DeepMind trabalham na criação de um órgão de supervisão dos riscos relacionados à inteligência artificial (IA), informou a OpenAI à Agence France Presse nesta terça-feira, 15, em meio a apelos crescentes por um maior controle dessa tecnologia.

As preocupações com a segurança da inteligência artificial se intensificaram nas últimas semanas, em especial após o alerta de um ex-funcionário da Anthropic, Jacob Coxon, através de seu X (antigo Twitter), em que ele acusava a ex-empregadora e a OpenAI de ignorarem alertas com relação à IA e de buscarem de forma efetiva o “fim da humanidade”.

Os grandes atores da IA vêm pedindo há meses ao governo dos Estados Unidos a criação de um marco regulatório para o setor e maior supervisão de sua segurança. A ideia de uma entidade de supervisão foi proposta em julho por Demis Hassabis, cofundador e diretor-executivo do Google DeepMind, que sugeriu uma entidade semelhante à Autoridade Reguladora da Indústria Financeira dos Estados Unidos, um órgão de autorregulação do setor. “O financiamento teria que ser significativo e provavelmente vir em grande parte da indústria”, escreveu Hassabis.

O governo dos Estados Unidos iniciou em agosto um processo de avaliação dos novos modelos de IA, embora a participação seja voluntária e sua metodologia não tenha sido divulgada. Após os apelos feitos no sábado por Dario Amodei, diretor-executivo da Anthropic, desenvolvedora do chatbot Claude, para desacelerar o desenvolvimento da IA, o presidente dos Estados Unidos, Donald Trump, reiterou que não pretende limitar o setor.

As empresas de IA estão “brincando com nossas vidas”, advertiu na semana passada Jacob Coxon. Na segunda-feira, o ex-pesquisador do Google DeepMind Bilal Chughtai reiterou as preocupações levantadas por Coxon e outros. “Acredito sinceramente que a IA tem o potencial de matar todos nós e que talvez estejamos ficando sem tempo para evitar esse desfecho”, declarou nas redes sociais.

O órgão

A criação de um órgão próprio de supervisão provavelmente exigirá uma lei, especialmente para evitar que a indústria de IA seja acusada de conluio ou de violar normas de concorrência. Segundo a proposta de Hassabis, além de especialistas independentes, a estrutura deveria incluir representantes do ecossistema de código aberto.

Esse ecossistema é composto por desenvolvedores de IA aberta, ou seja, sistemas com acesso gratuito, passíveis de download e modificação, diferentemente dos modelos fechados da OpenAI e da Anthropic. Uma vez criada, a entidade de supervisão deveria avaliar os novos modelos das empresas mais avançadas do setor, com foco especial em segurança, antes de sua comercialização.

“Não acho que um pequeno grupo de empresas de IA deva definir as regras para todo o mundo”, afirmou à CNBC Aidan Gomez, diretor da empresa canadense Cohere, que também desenvolve seus próprios sistemas de IA. “Há um grande número de partes interessadas que precisam ser consultadas”, acrescentou.

O novo organismo também poderia promover uma desaceleração coordenada do desenvolvimento da IA, caso o entendimento dos riscos não avance no mesmo ritmo do progresso tecnológico. “Quando o futuro da humanidade está em jogo, precisamos de normas internacionais vinculantes, não de padrões voluntários da indústria”, declarou nesta terça-feira o senador democrata Bernie Sanders, durante o evento Pro-Human AI, em Washington.