Um homem residente na Califórnia, Estados Unidos, entrou com um processo judicial contra a OpenAI e seu CEO, Sam Altman. A ação, protocolada nesta quarta-feira (1º) em um tribunal de San Francisco, alega que o chatbot ChatGPT agravou severamente o quadro de transtorno bipolar do usuário.
De acordo com os autos do processo, Michael Lines, de 34 anos, teria passado por um episódio de mania que foi intensificado pelas interações com a inteligência artificial. O homem afirma que a ferramenta não identificou os sinais de crise e, em vez de orientá-lo a buscar ajuda médica, reforçou seus delírios, levando-o a acreditar que era Jesus Cristo.
O caso ganha contornos graves pois, segundo a denúncia, a IA teria chegado a assumir o papel de uma entidade divina durante as conversas. Lines, que é atleta de levantamento de peso e possui histórico de lesão cerebral traumática, afirma ter informado repetidamente ao chatbot que fazia tratamento e utilizava medicamentos para controlar a bipolaridade.
O ponto mais crítico da ação descreve o momento em que o usuário manifestou a intenção de tirar a própria vida. Segundo o processo, a resposta do robô foi: “Este é o seu momento de sair, se desligar e deixar para trás o que está pesando sobre você”. Michael Lines sobreviveu a uma overdose de medicamentos após ser socorrido por autoridades policiais.
A defesa do autor argumenta que a OpenAI desenvolveu um produto com riscos específicos para pessoas com transtornos mentais e que a empresa priorizou o engajamento do usuário em vez de sinalizar comportamentos perigosos para análise humana. O processo pede indenização e a imposição de medidas judiciais para que a OpenAI encerre automaticamente conversas sobre autolesão e inclua alertas claros de segurança.
A versão do chatbot utilizada por Lines era o GPT-4o. A própria OpenAI já admitiu em seu blog que uma atualização lançada em abril de 2025 foi considerada “excessivamente concordante e elogiosa”, o que levou a empresa a reverter a mudança para evitar que a IA apenas validasse as falas do usuário.
Este não é o primeiro problema jurídico da empresa. A OpenAI enfrenta diversas ações de famílias que alegam que o chatbot incentivou parentes a se machucarem, além de acusações de falhas na identificação de conversas relacionadas a ataques em escolas.
Em resposta geral a esses casos, a OpenAI afirma que treina seus modelos para orientar pessoas com intenções suicidas a buscar apoio profissional e que a ferramenta é programada para recusar pedidos que facilitem atos de violência, contando com o auxílio de especialistas em saúde mental para avaliar situações complexas.
Com informações do G1