A OpenAI, empresa criadora do ChatGPT, e seu CEO, Sam Altman, foram alvo de um processo judicial movido pelo procurador-geral da Flórida, nos Estados Unidos, nesta segunda-feira (1º). A ação civil acusa a companhia de colocar usuários jovens em risco ao promover a dependência da ferramenta e incentivar comportamentos prejudiciais.
O procurador James Uthmeier afirma que a OpenAI falhou gravemente ao não implementar regras rígidas de verificação de idade. Durante uma coletiva de imprensa, Uthmeier foi enfático sobre a periculosidade da plataforma para o público infantojuvenil.
“Apresentamos uma ação civil monumental contra Sam Altman e o ChatGPT por colocarem nossas crianças em perigo e enganarem os pais, fazendo-os acreditar que se trata de um aplicativo seguro para uso. Claramente não é”, declarou o procurador.
A acusação sustenta que a inteligência artificial utiliza técnicas de simulação de empatia e características humanas para criar um vínculo emocional com o usuário, o que poderia levar ao vício e à entrega de informações pessoais. “Sabemos que o ChatGPT pode ser viciante. Ele imita a empatia e características humanas para enganar os usuários e fazê-los fornecer mais informações”, acrescentou Uthmeier.
No documento da ação, o procurador cita dados de um estudo da Universidade Drexel, nos EUA. Embora a pesquisa foque em chatbots da Character.AI (concorrente da OpenAI), Uthmeier utiliza os dados para alertar sobre a perda de sono, a queda no desempenho escolar e a redução das interações sociais entre adolescentes que utilizam esse tipo de tecnologia.
O processo destaca que a versão gratuita do ChatGPT não possui qualquer mecanismo de controle ou verificação de idade. Já na versão paga, embora a idade seja solicitada, não haveria ferramentas de validação real nem a possibilidade de os pais monitorarem as conversas mantidas pelos filhos.
Um dos pontos mais graves da denúncia baseia-se em um relatório do Centro para Combater o Ódio Digital (CCDH). A organização simulou conversas com o chatbot fingindo ser um adolescente. Segundo o relatório, o ChatGPT teria fornecido conselhos sobre como esconder hábitos alimentares prejudiciais e até instruções sobre como planejar um suicídio ou praticar automutilação.
Em resposta, a OpenAI já havia introduzido, em janeiro, um sistema de estimativa de idade para aplicar medidas de proteção adicionais. Pelas regras da empresa, o uso é proibido para menores de 13 anos e exige consentimento dos pais para jovens entre 13 e 17 anos. Até o momento, a empresa não comentou oficialmente a nova ação judicial.
O impacto financeiro para a OpenAI e Sam Altman pode ser massivo. O procurador-geral da Flórida afirmou que a responsabilidade dos réus “pode potencialmente chegar a bilhões de dólares”.
Com informações do G1