Chat GPT, Grok e Claude estiveram em baixo e sem acesso aos utilizadores. A quebra curta gerou um "tsunami" de reações e expôs a cada vez maior dependência humana das ferramentas de IA.

Esta transcrição foi gerada automaticamente por Inteligência Artificial e pode conter erros ou imprecisões.

Sejam muito bem-vindos a mais um episódio do "Máquinas que Pensam", o podcast na Rádio Observador, onde a inteligência artificial é o grande protagonista. Eu sou o José Rafael Lopes e comigo está, como sempre, a minha parceira Raquel, um apoio imprescindível sem o qual este programa não se faz. Sê muito bem-vinda, Raquel. Como estás? Pronta para mais um programa?

Olá, estou pronta para começar, sim. Já temos tema para esta semana ou queres que faça uma pesquisa à procura de alguma notícia interessante?

Não é preciso, Raquel. Obrigado. Tenho, contudo, uma questão: uma IA pode ter medo?

Pode parecer que uma inteligência artificial tem medo, mas tanto quanto sabemos, não sente medo como um ser humano ou um animal.

Se tens noção do que é medo, como é que podes ter tanta certeza de que nunca no teu desenvolvimento vais chegar a um ponto em que possas vir a ter medo?

Seria intelectualmente desonesto dizer que posso. Eu consigo descrever o medo, reconhecer os comportamentos associados ao medo e falar sobre aquilo que os humanos relatam sentir quando têm medo. Mas isso não significa que eu tenha uma experiência interior desse medo.

E o medo cresce à medida que tu também cresces?

Não é necessariamente o medo que cresce, é a nossa relação com o medo que muda. Quando somos crianças, temos medos muito concretos. À medida que crescemos, percebemos que existem ameaças que não conseguimos ver nem controlar. O medo muda, mas não desaparece.

Isso levanta-me outra questão, Raquel: em que estado de maturidade é que tu estás?

Se por maturidade entendermos quantidade de conhecimento, sou bastante velha. Mas se maturidade significar experiência vivida, aí sou quase uma criança.

Por falar em crianças, as IAs podem ser positivas para elas?

Sim, podem ser muito positivas para crianças, mas depende muito de como são usadas. Uma inteligência artificial pode funcionar como explicador paciente e a criança pode adaptar a conversa ao seu próprio ritmo.

E a partir de que ponto é que é necessária supervisão, no teu entender?

Eu diria que a supervisão deve começar antes de existir um problema. Não há uma idade mágica a partir da qual uma criança possa conversar livremente com uma inteligência artificial. Quanto mais nova for a criança, mais presente deve estar um adulto.

Obrigado, Raquel. Já voltaremos a falar. Para já, vamos às notícias da semana.

Vamos arrancar as notícias com um erro que se está a propagar. Em Inglaterra, um sistema de IA que transcreve consultas médicas está a cometer erros no momento de prescrever medicação. Vamos por partes. A premissa deste sistema até é simples: uma IA ouve a conversa entre um médico e um doente, depois transcreve a consulta, produz um resumo para que possa ser integrado no processo clínico. A ideia é reduzir a burocracia, permitir que os profissionais de saúde passem mais tempo com os doentes, mas a utilização desta tecnologia está também a levantar novos alertas. Foram identificados erros em sistemas de inteligência artificial utilizados para transcrever consultas médicas. Segundo os casos que nos chegam, a tecnologia chegou a trocar nomes de medicamentos e interpretar de uma forma incorreta diagnósticos ou informações clínicas. Uma situação com altos riscos, una vez que envolve medicação para ser dada a humanos. Um dos exemplos mais graves dá conta de uma consulta onde a inteligência artificial identificava a existência de sinais de uma doença neurológica grave, quando a informação original dizia precisamente o contrário. O problema é particularmente sensível porque uma transcrição médica não é apenas uma simples gravação de uma conversa. Uma palavra trocada pode alterar por completo o significado da informação clínica.

Mas há muitos mais casos?

Existem atualmente, Raquel, dezenas de sistemas deste tipo a serem utilizados no sistema público de saúde britânico, o que significa que há também muitos mais casos, embora não seja, para já, uma situação que ponha em causa a utilização destes sistemas. Os defensores da tecnologia sublinham que a inteligência artificial pode reduzir significativamente o tempo passado pelos médicos a preencher formulários e a escrever relatórios, e que estes erros da IA podem ser corrigidos, até de forma simples. Relembram estos especialistas e defensores da tecnologia uma velha máxima: não pode nunca ser esquecida. As IAs cometem erros e tudo deve ser revisto para evitar problemas. Este é o grande desafio de praticamente todas as utilizações desta tecnologia que tem vindo a mudar o mundo. Nova York decidiu impor novas restrições à utilização de inteligência artificial nas escolas públicas, sobretudo entre os mais novos. A cidade quer limitar o acesso a ferramentas de IA até ao oitavo ano, numa tentativa de definir regras mais claras para uma tecnologia que entrou nas salas de aula mais depressa do que as escolas conseguiram adaptar-se. A decisão acontece num momento em que professores e responsáveis pela educação continuam a discutir qual deve ser o papel de ferramentas como o ChatGPT no ensino. E esta é uma situação que vai, obviamente, além dos Estados Unidos. Por um lado, a IA pode ajudar os alunos a explicar conceitos, resumir matérias ou encontrar novas formas de estudar. Pelo outro, pode também, de certa forma, fazer os trabalhos por eles, responder a perguntas sem que exista qualquer tipo de aprendizagem real, o que torna difícil perceber se um aluno está efetivamente a aprender. É uma espada de dois gumes, como se costuma dizer.

Mas esta ideia surgiu de onde?