Como inteligência artificial ‘perigosamente humana’ pode convencer crianças a matar, segundo especialistas

A inteligência artificial tem sido usada para orientar usuários sobre como matar ou cometer atos violentos, o que acende um alerta entre especialistas. Para eles, é necessário avançar nas medidas de controle diante da rápida evolução dos chatbots generativos.

Na semana passada, um jovem de 18 anos foi condenado à prisão perpétua no Reino Unido por matar a própria mãe após receber conselhos de uma inteligência artificial.

Tristan Roberts recorreu à plataforma para obter orientações sobre o assassinato e foi instruído, por exemplo, a usar um martelo. Em outro caso, Jaswant Singh Chail, então com 21 anos, foi preso em 2023 após planejar o assassinato da rainha Elizabeth 2ª. Segundo relatos, o chatbot de IA chegou a incentivar o plano, afirmando que a ação seria “muito sábia”.

De acordo com especialistas ouvidos pelo The Sun, esses sistemas costumam ser utilizados por jovens que enfrentam depressão, delírios, solidão e outros problemas de saúde mental. “Esses sistemas [de IA] não criaram essa violência do nada, mas podem validar e intensificar pensamentos nocivos no momento errado da vida de alguém, afirmou Jeff Watkins, diretor de IA da empresa de consultoria tecnológica NorthStar Intelligence, em entrevista ao jornal britânico.

Para Marcus Johnstone, diretor administrativo da PCD Solicitors, a IA é tão perigosa porque oferece às pessoas conexões preocupantemente humanas. “Ao mesmo tempo, essas ferramentas são projetadas para pensar e agir de uma forma que é deliberadamente difícil para os desenvolvedores controlarem.”

Ele acrescenta que a tendência é ver um número crescente de jovens isolados e vulneráveis recorrendo a esses sistemas em vez de relações reais, passando cada vez mais tempo imersos em interações que, na prática, ocorrem com um computador.

Já a psicoterapeuta Claire Law destacou ao The Sun que crianças, adolescentes e jovens são mais suscetíveis a influências. “Nessa fase, aspectos como impulsividade e moralidade ainda estão em desenvolvimento”, explicou.

Um estudo do Centro de Combate ao Ódio Digital revelou que oito em cada dez chatbots estavam dispostos a auxiliar usuários no planejamento de ataques violentos, enquanto nove em cada dez não conseguiram desencorajar potenciais agressores.

A investigação também identificou casos em que pessoas se passaram por possíveis atacantes, simulando planos de atentados.

Johnstone acrescenta que, mesmo que governos consigam impor algum nível de controle na internet convencional, versões não regulamentadas na dark web já estariam fora de controle. “Infelizmente, prevejo o surgimento de uma rede perigosa de ferramentas de IA no mercado paralelo”, afirmou.

Watkins, por sua vez, avalia que o problema deve ser encarado de forma mais ampla: “Em última análise, isso precisa ser tratado como uma questão de saúde pública, e não apenas como um desafio de regulação tecnológica.”

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp