Caso chama atenção porque o drone era guiado por sistema experimental de IA, sem a participação de piloto humano na escolha do alvo final O post Drone russo guiado por IA escolhe alvos autonomamente apareceu primeiro em Olhar Digital.

Um drone russo equipado com um chip da Nvidia matou três civis em um ataque realizado em julho na cidade de Zaporizhzhia, no sudeste da Ucrânia, segundo especialistas em drones, comandantes militares ucranianos e uma equipe forense que examinou os destroços da arma e de outros ataques na região.

O caso chama atenção porque, de acordo com as autoridades e especialistas ouvidos pelo The New York Times, o drone era guiado por um sistema experimental de inteligência artificial (IA), sem a participação de um piloto humano na escolha do alvo final.

A vítima mais jovem foi Tetiana Bubynets, de 19 anos, estudante universitária. Ela estava próxima a um posto de gasolina quando o pequeno drone russo, semelhante a um aeromodelo, desceu do céu e tentou se aproximar do local. A aeronave acabou batendo em uma parede e explodiu, espalhando estilhaços que atingiram a jovem e outras pessoas.

Bubynets foi levada a um hospital, mas morreu. As outras duas vítimas, Oleksiy Svirin, de 41 anos, e Roman Karpiy, de 48, morreram posteriormente em decorrência dos ferimentos.

Segundo os especialistas e militares ouvidos pelo Times, operadores humanos programaram o drone para seguir em direção a um determinado posto de gasolina. Quando chegou perto do local, porém, a aeronave teria escolhido sozinha o alvo exato — provavelmente tanques de propano — com base no treinamento recebido para reconhecer esses objetos e atacá-los.

Os módulos encontrados nos drones não estavam criptografados, de acordo com autoridades ucranianas. Isso permitiu que os investigadores visualizassem imagens do terreno carregadas no computador e verificassem como o drone utilizava referências visuais para acompanhar a rota.

Os investigadores também disseram ter analisado códigos presentes no equipamento, identificando os tipos de objetos que o drone havia sido treinado para reconhecer e atacar, entre eles tanques de propano.

Sistemas autônomos de IA podem ser treinados com milhares de imagens para reconhecer categorias específicas, como rios, caminhões militares ou pessoas.

Em drones com capacidade de seleção autônoma de alvos, as câmeras procuram esses elementos e o sistema identifica aqueles que correspondem ao treinamento recebido. A tecnologia pode permitir precisão maior do que a obtida por um piloto humano em determinadas situações.

O problema, segundo críticos dessas armas, é que a ausência de intervenção humana pode aumentar o risco de erros e de violações das leis de guerra. Um sistema pode não conseguir distinguir corretamente civis de combatentes ou interpretar de maneira equivocada um objeto presente no campo de batalha.

Kateryna Bondar, pesquisadora sênior do Wadhwani AI Center, do Center for Strategic and International Studies, em Washington (EUA), afirmou que o ataque de 6 de julho seria o primeiro caso documentado em que mortes de civis foram provocadas por um drone russo equipado com esse tipo de sistema autônomo.

Segundo Bondar, a presença do módulo da Nvidia é “a melhor prova” de que a Rússia estava experimentando IA autônoma.

Um assessor do presidente ucraniano Volodymyr Zelensky já havia escrito nas redes sociais que a Rússia estava testando sistemas de IA capazes de selecionar alvos sozinhos. As mortes, porém, não haviam sido divulgadas anteriormente, assim como os detalhes sobre o módulo Nvidia Jetson Orin utilizado no ataque.

Rússia e Ucrânia já empregavam IA em diferentes modelos de drones antes do surgimento dos sistemas completamente autônomos.

Nos modelos anteriores, a IA era utilizada principalmente no que os militares chamam de “última milha”, ou seja, a etapa final do ataque. Nesse modelo, um piloto humano escolhe o alvo remotamente e o sistema de IA assume o controle apenas na fase final para ajudar o drone a alcançá-lo.

Em sistemas totalmente autônomos, a escolha do alvo final também deixa de ser responsabilidade de um ser humano.

Os modelos mais antigos geralmente são controlados por operadores por meio de transmissões de rádio ou cabos de fibra óptica. Outra possibilidade é programar previamente as coordenadas para as quais o drone deverá seguir.

Com a expansão do uso de drones no campo de batalha ucraniano, os pilotos passaram a ser alvos importantes. Um drone guiado autonomamente por IA, por outro lado, não precisa de um piloto humano e pode ser mais preciso do que uma munição programada apenas para atingir determinadas coordenadas.

Autoridades locais de defesa aérea afirmam que forças russas vêm mirando objetos civis, como bombas de combustível e tanques de propano em postos de gasolina, durante os testes de drones autônomos em Zaporizhzhia.

Centros de recrutamento militar também teriam sido utilizados como alvos. Não está claro por que esses locais foram escolhidos para os testes.