A indústria global de inteligência artificial (IA) está operando abaixo dos níveis de segurança necessários para evitar riscos graves à humanidade, aponta um relatório divulgado nesta terça-feira (7). O estudo, realizado pelo Future of Life Institute, um think tank norte-americano especializado em segurança tecnológica, avaliou nove das principais empresas do setor.
A análise foi baseada em dados públicos e informações fornecidas pelas próprias companhias, focando em seis categorias essenciais: avaliação de riscos, danos atuais, estruturas de segurança, segurança existencial, governança e transparência, além do compartilhamento de informações.
O resultado geral é preocupante. Nenhuma das empresas analisadas conseguiu atingir a nota máxima (“A”) em qualquer uma das categorias avaliadas. A empresa americana Anthropic foi a que obteve o melhor desempenho geral, mas mesmo assim alcançou apenas a nota “C+”, evidenciando a fragilidade dos protocolos atuais.
Um dos pontos centrais de alerta do relatório é a incapacidade do setor em combater ameaças “existenciais”. O documento destaca a preocupação com o desenvolvimento da chamada Inteligência Artificial Geral (AGI), modelos que podem alcançar um nível de inteligência semelhante ao humano, sem que haja travas de segurança eficientes para controlar tais sistemas.
Além dos riscos teóricos, o relatório aponta a contradição ética de empresas que, anteriormente, proibiam o uso militar de suas tecnologias. O estudo revela que diversas companhias vêm “revertendo gradualmente o rumo”. A Anthropic, apesar de liderar o ranking, foi criticada por manter “compromissos militares questionáveis”.
De acordo com relatos da imprensa, o governo dos Estados Unidos teria utilizado a tecnologia da Anthropic em operações militares no Irã e na Venezuela ao longo do último ano. Recentemente, a empresa teria sido alvo de uma proibição do Pentágono devido a divergências sobre a segurança da IA.
O relatório conclui que, embora existam “tentativas construtivas”, os esforços globais são “totalmente insuficientes”. Entre os perigos imediatos, o think tank cita a possibilidade de modelos de IA serem utilizados para a execução de ciberataques sofisticados ou para a realização de tarefas que possam causar danos físicos e diretos aos seres humanos.
Com informações do G1