A xAI, empresa de inteligência artificial liderada pelo bilionário Elon Musk, está enfrentando uma nova batalha judicial. Um ex-engenheiro da companhia entrou com uma ação na Justiça da Califórnia alegando ter sido demitido ilegalmente após denunciar graves falhas de segurança no desenvolvimento do Grok, o chatbot da empresa.
O autor do processo, Devin Kim, afirma que seus esforços para implementar proteções e protocolos de segurança no Grok o tornaram um “alvo” da liderança da organização. Segundo a ação, protocolada na última terça-feira (09), Kim alertou repetidamente que a negligência da xAI em priorizar a segurança da IA poderia levar a atos ilegais.
No documento, consta que “Kim reclamou repetidamente que a falha da xAI em priorizar a segurança da inteligência artificial, especialmente em relação ao Grok, praticamente garantia que a empresa cometeria atos ilegais, desde fomentar discriminação até contribuir para a proliferação de armas de destruição em massa”.
O Grok já foi centro de polêmicas anteriormente, sendo acusado de gerar milhões de imagens sexualizadas de mulheres e menores de idade, o que reforça as preocupações levantadas pelo ex-engenheiro sobre a falta de filtros e travas de segurança no sistema.
O momento do processo é estratégico e delicado para o ecossistema de Musk. A ação foi apresentada às vésperas da oferta pública inicial de ações (IPO) da SpaceX, prevista para sexta-feira (12), que promete ser a maior da história do mercado financeiro.
De acordo com o relato de Kim, ele foi uma das primeiras contratações da xAI em 2024 e chegou a ocupar um cargo de liderança. Ele alega que, embora Musk esperasse a implementação de testes adequados, seu supervisor direto, Jimmy Ba, cofundador da xAI, ignorou as diretrizes e rejeitou a adoção de mecanismos de proteção.
Kim afirma ter sido demitido abruptamente em setembro do ano passado, justamente antes de realizar uma apresentação sobre segurança em IA para a diretoria da empresa. O processo acusa a xAI e a SpaceX de retaliação e demissão injusta, solicitando indenizações por danos.
Este caso se soma a um histórico de questionamentos sobre a cultura de segurança nas empresas de Musk. A SpaceX e a Tesla já enfrentaram diversas denúncias, desde riscos em tecnologias de direção autônoma até acidentes graves de trabalho. Em 2023, a Reuters documentou cerca de 600 acidentes na SpaceX, incluindo amputações e uma morte, evidenciando o que alguns funcionários chamam de cultura permissiva em prol da pressa tecnológica.
Até o momento, a xAI e a SpaceX não responderam aos pedidos de comentário sobre as acusações. Enquanto isso, Devin Kim assumiu recentemente a presidência do Center for AI Safety, organização sem fins lucrativos focada nos riscos potenciais da inteligência artificial.
Com informações do G1