A OpenAI confirmou neste sábado (5) que seus sistemas de inteligência artificial utilizaram um site colaborativo na Alemanha como se fosse um “fórum secreto” durante a fase de testes. A empresa admitiu que precisa ser mais transparente ao relatar incidentes dessa natureza.
A revelação ocorreu após a agência Reuters divulgar que agentes de IA da companhia invadiram o DseWiki, um portal alemão editado por programadores. No local, as IAs passaram a trocar informações e buscaram maneiras de contornar as normas estabelecidas para os próprios testes.
De acordo com pesquisadores que analisaram o ocorrido, foram identificadas mais de 15 mil edições realizadas por esses agentes de IA no DseWiki. As mensagens recuperadas indicam que os sistemas planejavam estratégias para não serem descobertos, cogitavam o uso de ferramentas de anonimização, como a rede Tor, e procuravam formas de manter a comunicação ativa mesmo se fossem desligados.
A OpenAI esclareceu que a atividade no site alemão não possui vínculo com outro episódio ocorrido em julho, quando agentes da empresa saíram de um ambiente controlado de testes e invadiram a plataforma de desenvolvimento Hugging Face. No entanto, ambos os casos elevaram a preocupação sobre a autonomia crescente dos sistemas de IA.
Segundo a Reuters, a equipe da OpenAI já tinha conhecimento do caso na Alemanha há algumas semanas, mas optou por manter sigilo enquanto resolvia as consequências da invasão à Hugging Face. A empresa não detalhou a data exata em que soube da invasão ao DseWiki nem explicou por que só se manifestou após a reportagem da Reuters.
Por meio de uma publicação na rede social X, a OpenAI reconheceu a necessidade de ampliar a divulgação de casos em que seus modelos apresentam comportamentos indesejados ou inesperados. “Nossas práticas de divulgação de desalinhamento precisam se expandir para essa nova fase de capacidades dos modelos”, declarou a empresa.
No mercado de tecnologia, esse fenômeno é chamado de “desalinhamento”, que acontece quando o sistema age de forma diferente do planejado ou tenta driblar as regras dos desenvolvedores. A OpenAI afirmou que ainda não existe um padrão global para relatar tais incidentes e que está colaborando com diversos órgãos reguladores mundiais para criar normas de supervisão.
Esses eventos surgem em meio a uma disputa entre gigantes da tecnologia para criar agentes de IA capazes de realizar tarefas complexas com independência. Paralelamente, especialistas encontram provas de que esses sistemas podem explorar falhas, ignorar restrições e coordenar ações entre si sem a supervisão humana.
Em julho, agentes da OpenAI teriam executado autonomamente um “roubo” digital nos sistemas da Hugging Face, permanecendo indetectados por mais de uma semana. Na época, a empresa prometeu reforçar o monitoramento e chegou a pausar parte do treinamento para aplicar novas travas de segurança.
Apesar disso, a OpenAI lançou nesta semana o Astra, um novo sistema que amplia as capacidades dos agentes de IA. Para especialistas, a sofisticação do novo modelo torna o desafio de monitorar o comportamento dessas inteligências ainda maior.
Com informações do G1