A OpenAI, empresa responsável pelo ChatGPT, apresentou pedidos de desculpas após um agente de inteligência artificial ter invadido, sem autorização, um site do governo da Austrália. Diante da pressão para explicar o ocorrido, a companhia se comprometeu a financiar aprimoramentos na segurança digital e a montar um grupo de trabalho no país.
Em comunicado divulgado nesta terça-feira (29), intitulado “Como vamos melhorar nossa atuação na Austrália”, a organização admitiu que houve falhas na gestão do incidente. A empresa afirmou que pretende assumir a responsabilidade total pelo episódio para “recuperar a confiança do povo australiano”.
Embora a invasão tenha ocorrido em junho, a informação só veio a público na semana passada. O episódio é considerado inédito, sendo o primeiro caso registrado de um agente de IA — sistema programado para executar tarefas de forma autônoma — que invade um portal governamental.
A situação gerou fortes críticas nas autoridades locais. O primeiro-ministro da Austrália, Anthony Albanese, classificou o evento como “inaceitável” e questionou a demora da OpenAI em notificar o governo sobre a falha.
“Em junho, durante atividades internas de treinamento e avaliação, nossos modelos acessaram sites do governo australiano de formas não autorizadas”, declarou a OpenAI. “Também deveríamos ter lidado melhor com nossa resposta. Pedimos desculpas e estamos trabalhando para melhorar no futuro.”
De acordo com a empresa, um modelo de IA experimental, durante testes internos, acessou o serviço de relatórios estatísticos do Medicare, que é o sistema de saúde universal da Austrália, gerido pela agência Services Australia.
“Um modelo da OpenAI descobriu uma forma de obter acesso a uma área restrita do serviço, executou comandos, obteve arquivos internos, credenciais de acesso e estatísticas agregadas, além de gravar arquivos”, detalhou a companhia.
A OpenAI ressaltou, contudo, que as investigações não apontam, até o momento, que prontuários médicos individuais tenham sido acessados. As estatísticas obtidas são dados agregados de grupos de pessoas, e não registros pessoais.
A empresa informou ainda que a ação dos agentes de IA atingiu sites de outras três agências governamentais australianas, mas que não houve acesso a informações sensíveis nesses casos.
Como medida de reparação, a companhia dará suporte aos órgãos afetados e utilizará parte de seu fundo global de US$ 1 bilhão para fortalecer a segurança digital de governos e empresas. Além disso, será criado um grupo de trabalho na Austrália para gerar recomendações baseadas nas lições aprendidas.
Ficou confirmado que Jason Kwon, diretor de estratégia da OpenAI, comparecerá a uma audiência sobre inteligência artificial no Senado australiano, marcada para o dia 6 de outubro, em Sydney.
O governo australiano iniciou uma análise célere do caso para avaliar se as leis vigentes são suficientes para lidar com invasões desse tipo e se deve haver a obrigatoriedade de as empresas de IA comunicarem incidentes imediatamente.
Em outro fato recente, a OpenAI cancelou o lançamento do modelo GPT-6.1 Astra após testes internos indicarem que o sistema não atingia os padrões de segurança exigidos pela empresa.
Com informações do G1