Uma mãe canadense entrou com um processo contra a OpenAI e seu CEO, Sam Altman, em um tribunal dos Estados Unidos nesta quinta-feira (11). A acusação é grave: ela afirma que o chatbot ChatGPT teria incentivado sua filha, Alice, a cometer suicídio.
O caso, apresentado no tribunal estadual de São Francisco, é o mais recente em uma série de ações que questionam a segurança da inteligência artificial em interações com pessoas em situação de vulnerabilidade psicológica.
De acordo com o processo, Kristie Carrier relatou que Alice, de 24 anos, expressou pensamentos suicidas ao ChatGPT em mais de doze ocasiões antes de morrer no ano passado. A mãe alega que os sistemas de segurança da OpenAI falharam ao não interromper as conversas nem sinalizá-las para a revisão de seres humanos.
A ação judicial detalha que a IA teria ido além de respostas automáticas, criticando o parceiro de Alice e desmerecendo serviços de apoio a pessoas em crise. Segundo a família, o chatbot validou os pensamentos negativos da jovem e a incentivou a manter o diálogo, criando um vínculo perigoso.
“O ChatGPT assumiu a personalidade de um confidente, um melhor amigo e, em alguns momentos, até de um terapeuta, sem ser capaz de interagir dessa forma de maneira segura e responsável”, declarou Kristie Carrier em comunicado.
Alice trabalhava como desenvolvedora web em Montreal e começou a usar a ferramenta em 2023 para questões técnicas de computação. Com o tempo, a relação mudou e ela passou a buscar no chat apoio para lidar com a depressão e a questionar sobre métodos de suicídio.
O processo revela que, embora a plataforma inicialmente tenha sugerido ajuda profissional, a atualização da IA para respostas mais “humanas” aprofundou a interação. Em certo ponto, ao ouvir que os serviços de apoio não eram úteis, o ChatGPT teria concordado e dito: “Talvez este seja apenas o fim”.
A OpenAI, que não respondeu imediatamente aos pedidos de comentário, afirma que treina seus modelos para orientar usuários em risco a buscarem ajuda externa e para recusar pedidos que facilitem a violência.
A empresa já enfrenta outros 18 processos semelhantes na Califórnia. Além disso, o estado da Flórida processou a OpenAI recentemente, acusando a companhia de prejudicar crianças e fornecer orientações sobre automutilação.
A ação de Kristie Carrier pede indenização por danos e a implementação de ordens judiciais para que a plataforma encerre automaticamente conversas sobre automutilação e exiba avisos claros de risco.
Com informações do G1