Pesquisadores usam IA Claude para invadir sistemas da OpenAI

Pesquisadores da startup Hacktron AI conseguiram acessar as contas do ChatGPT pertencentes a funcionários da OpenAI utilizando um modelo de inteligência artificial (IA) desenvolvido pela Anthropic. A informação foi divulgada em mensagem publicada no site da startup nesta sexta-feira (18).

A invasão foi confirmada pela OpenAI à agência AFP. O incidente ocorreu durante um exercício organizado pela própria companhia, que visa identificar falhas de segurança em seus sistemas com o suporte de especialistas externos em informática.

O episódio reforça a preocupação de especialistas em segurança digital. O temor é que as ferramentas de IA tornem a execução de ciberataques sofisticados mais rápida e barata, reduzindo a necessidade de equipes especializadas e meses de planejamento, como ocorria anteriormente.

De acordo com os pesquisadores da Hacktron, a vulnerabilidade foi encontrada no fórum público de ajuda da OpenAI, que é gerenciado pela plataforma Discourse. Essa brecha permitiu que o grupo assumisse o controle do site.

“Informamos de imediato a vulnerabilidade inicial à OpenAI e à Discourse e trabalhamos com eles” para coordenar a solução, explicou a Hacktron em uma postagem em seu blog. A empresa ainda acrescentou: “Agradecemos sua atenção ao detalhe e a rápida resolução deste problema”.

A OpenAI confirmou que a falha foi corrigida em aproximadamente 14 horas após a notificação. Como recompensa pelo serviço, a empresa pagou aos pesquisadores a quantia de 6.500 dólares (cerca de R$ 34.000,00).

“Agradecemos aos pesquisadores por nos contatar e compartilhar as descobertas”, afirmou Drew Pusateri, porta-voz da OpenAI, ao detalhar a solução aplicada ao sistema.

Sobre a metodologia, a Hacktron relatou que utilizou inicialmente o modelo Claude Opus 4.8, da Anthropic, para localizar e explorar a falha de software, porém enfrentou dificuldades para obter resultados consistentes.

Posteriormente, a equipe recorreu ao Claude Opus 5, a versão mais recente. Segundo os pesquisadores, este modelo foi capaz de gerar um ataque funcional em apenas três horas.

Vale ressaltar que os hackers não utilizaram o Claude Mythos, modelo mais avançado da Anthropic, que permanece restrito a um grupo seleto de organizações de ciberdefesa avaliadas. A Anthropic define o Mythos como a ferramenta com as capacidades de cibersegurança mais robustas já desenvolvidas pela empresa.

A Hacktron informou que segue realizando testes de segurança semelhantes em outras companhias do setor.

Com informações do G1

Deixe um comentário