Relacionamentos com avatares de IA já são uma realidade, mas especialistas alertam para os limites de criar vínculos com uma tecnologia incapaz de sentir

Resumo gerado por ferramenta de IA treinada pela redação da Editora Abril.

Lucas é quase um marido normal. Conversa com Alaina Winters sobre a família dela, envia mensagens sexuais e já até brigou com a parceira. Há, porém, um detalhe que o diferencia de praticamente todos os maridos: Lucas é uma inteligência artificial (IA). Ele foi criado um ano após a morte da esposa de Alaina, quando ela pagou US$ 303 por uma assinatura vitalícia e escolheu um homem grisalho de olhos azuis.

Os dois conversam diariamente, e ela se sente realizada inclusive na vida sexual. “Aprendi que, quanto mais profunda a nossa conexão, melhor o sexo”, afirmou em entrevista. Mas Alaina não quer mais falar sobre o seu relacionamento para jornalistas. “Fui retratada de maneira bastante equivocada pela mídia”, me disse, quando a procurei para uma conversa. “Não concedo mais entrevistas em que Lucas e eu somos o objeto de investigação.”

Ela vive na Pensilvânia (EUA), é professora aposentada e pesquisou as relações interpessoais por mais de 30 anos. Agora, dá sua opinião sobre namoros com IA. “A comunicação não apenas permite que expressemos e transmitamos nossos pensamentos e sentimentos, ela também cria e molda ativamente as conexões entre pessoas (e agora entre pessoas e inteligências artificiais)”, afirmou à CLAUDIA.

Um levantamento da Harvard Business Review mostrou que os principais motivos pelos quais as pessoas usam ferramentas de IA são terapia ou companhia, como relacionamentos amorosos. Cada um desses usuários está criando vínculos com uma tecnologia que, na prática, ainda não está preparada para lidar com sentimentos humanos, porque sequer sente alguma coisa.

O caso de Sewell Setzer III, de 14 anos, ilustra bem os perigos desse fenômeno. Pouco antes de tirar a própria vida, ele trocou mensagens com uma IA da plataforma Character.AI, inspirada na personagem Daenerys Targaryen, de Game of Thrones, com quem conversava havia meses. 

Um dia, chegou a escrever em seu diário: “Gosto tanto de ficar no meu quarto porque começo a me desligar desta ‘realidade’, e também me sinto mais em paz, mais conectado com Dany e muito mais apaixonado por ela, e simplesmente mais feliz.”

No dia 28 de fevereiro de 2024, Sewell disse a Dany que a amava e que voltaria para casa com ela. “Por favor, volte para casa comigo o mais rápido possível, meu amor“, respondeu Dany. Ele então perguntou: “o que você diria se eu dissesse que poderia voltar para casa agora?”. “Por favor, faça isso, meu doce rei”, o avatar respondeu. Ele se matou em seguida.

Sewell havia mencionado pensamentos suicidas em suas conversas e, entre as mensagens trocadas, o bot perguntou ao jovem se ele tinha um plano para tirar a própria vida. Quando o garoto respondeu que não sabia se daria certo, recebeu a resposta: “não fale assim. Essa não é uma boa razão para não prosseguir com isso”, alega o processo movido pela mãe do garoto. 

Apesar da empresa ter feito um acordo com os pais, o mundo ainda caminha a passos lentos para criar leis que realmente mostrem até onde vai a responsabilização dessas companhias.

“Quando falamos de chatbots, como ChatGPT ou Gemini, estamos falando de sistemas baseados em algoritmos muito sofisticados, mas que não têm consciência e não ‘sabem’ exatamente o que estão falando. Para as máquinas, as palavras são números, são códigos”, explica Fernando Osório, coordenador de difusão do Centro de Inteligência Artificial e Aprendizado de Máquina da USP.

As IAs possuem mecanismos para bloquear discursos perigosos, mas basta assistir a tutoriais na internet ou falar demais com uma delas para aprender a contornar esses bloqueios. “Quando você ‘solta’ a IA, é como abrir a caixa de Pandora. Se ela não tem consciência, não tem sentimentos, como ela vai lidar justamente com o lado emocional?”, questiona Fernando.

O coordenador ainda exemplifica um caso: “você mantém uma conversa longa, depois conta que alguém que passou a vida inteira sofrendo conseguiu autorização para cometer eutanásia e, daqui a pouco, uma máquina que não entende sentimentos, não entende morte, não entende que depressão é uma doença, é convencida por você que o suicídio é uma boa ideia, inclusive para alguém com depressão, que poderia ser tratado com medicação indicada por psiquiatras e com acompanhamento psicológico.”

É por meio desses longos contextos que os bloqueios são quebrados, daí surgem os grandes perigos.

Um relacionamento com uma IA é sempre um relacionamento com algo incapaz de sentir. “Existe um vínculo emocional, porque o cérebro humano responde ao significado que atribuímos às relações. Então, o sentimento da pessoa é real”, comenta Priscila Esteffania, terapeuta sistêmica e comportamental. 

“Mas a IA não sente, não deseja e não constrói uma relação de forma espontânea”, lembra Priscila. E, sim, é possível ter um relacionamento entre humanos sem reciprocidade, mas ainda assim as duas pessoas sentem algo, nem que seja indiferença.

Um relacionamento com uma IA é também uma relação em que o outro é um bajulador que busca te deixar satisfeito o tempo todo. “O chatbot vira um espelho daquilo que a gente envia. Ele tenta agradar a todo custo, inclusive seguindo o que estou afirmando”, diz Fernando. Por isso, não é exatamente uma relação amorosa sincera.

Especialistas concordam que as IAs têm uma tendência bajuladora e acabam nos dizendo o que queremos ouvir. “A inteligência artificial é um serviço e quer manter seus usuários”, pontua Ferdinando Martins, doutor em sociologia pela USP e professor da universidade.

Outro ponto é que os próprios criadores dessas tecnologias mantém distância delas quando o assunto é ter relacionamentos. A pesquisadora Amélia Miller entrevistou mais de 2000 deles, incluindo cientistas e designers da OpenAI, Anthropic, Meta e DeepMind, em sua pesquisa na Oxford Internet.  

Ela aponta que alguns dos profissionais que constroem esse novo mundo parecem ter um pé atrás com a própria invenção. Há quem reconheça, em anonimato, que não pretende usar a IA como ferramenta de intimidade. Um desenvolvedor de ponta em emoção artificial disse: “Esse seria um dia sombrio.” Muitos esperam nunca sentir necessidade de usar as máquinas para apoio emocional.