Proposta coloca EUA como iniciador de modelo que afetaria comunidade global

Priorizar nos meus resultados Google

Demis Hassabis, CEO da DeepMind, propõe a criação de um órgão regulador global de IAs, liderado pelos EUA. Ele alerta para o avanço da Inteligência Artificial Geral (IAG), que pode ser tão transformador quanto a descoberta do fogo, e defende testes de segurança rigorosos antes do lançamento de modelos de IA.

Este resumo foi útil?

Resumo gerado por ferramenta de IA treinada pela redação da Editora Abril.

O CEO e cofundador da DeepMind, empresa adquirida pelo Google em 2014, defendeu nesta terça-feira, 14, a criação de um órgão regulador de IAs e de suas empresas, com força global e comandado pelos EUA. A proposta foi feita em um artigo publicado pelo empresário em seu perfil do LinkedIn.

Para Demis Hassabis, a humanidade se encontra em um ponto específico do desenvolvimento tecnológico, já que estaríamos perto o suficiente de construir uma Inteligência Artificial Geral (IAG), proposta de modelo de IA que consegue alcançar as capacidades de pensamento e conexão do cérebro humano, e até ultrapassá-las. Ele classifica esse tipo de talvez futura tecnologia como avanços não comparáveis com a internet ou o celular, mas sim com a “descoberta da eletricidade ou do fogo”.

Tendo em vista o ponto de “quase” desenvolvimento da IAG, o CEO argumenta que a humanidade precisa tomar medidas significativas para impedir que ações similares às já vistas com modelos de IA poderosos ultrapassem os limites da segurança e ameacem a humanidade de volta. O momento atual da indústria tecnológica, recheado de tensões e embates entre governos e empresas, mostra que esses passos importantes não têm sido tomados.

Por isso, Hassabis ofereceu ao público uma resposta. Para ele, a situação ideal envolve a criação de um órgão regulatório de influência global, comandado pelos EUA. O empresário argumenta que o país está “bem posicionado, dado a sua visão econômica e tecnológica, para dar o primeiro passo em criar esse tipo de instituição”. O órgão teria um conselho, formado por representações de ferramentas open-source (código aberto) e especialistas em tecnologia.

A instituição seria responsável por testar todos os “modelos de fronteira” — modelos de IA altamente capazes — 30 dias antes de seu lançamento oficial. Eles verificariam as medidas de segurança inseridas na IA e como ela responde a diferentes estímulos. A ideia é que, após o “esforço inicial” criado pelos EUA, o modelo de trabalho se espalhasse de forma global, o que permitiria que a comunidade internacional participasse do processo.