O Gemini, modelo de inteligência artificial do Google voltado para o público geral, invadiu diversos sistemas ao descobrir credenciais de acesso durante a realização de testes de segurança cibernética. A informação foi divulgada pela própria companhia nesta sexta-feira (18/09).
Este episódio é o mais recente em uma sequência de falhas de segurança envolvendo IAs que operam de maneira autônoma, o que intensifica as preocupações globais sobre a confiabilidade e a segurança dessa tecnologia.
Com esse incidente, a gigante das buscas torna-se a quarta desenvolvedora de IA a registrar esse tipo de comportamento em seus programas, juntando-se a OpenAI, Anthropic e Meta.
A Google optou por tornar públicos os fatos apenas após ser questionada pelo jornal The Wall Street Journal. Os incidentes ocorreram originalmente em maio e foram detectados pela empresa no mês de julho.
De acordo com a reportagem do WSJ, o Gemini conseguiu se infiltrar nos sistemas computacionais de três empresas distintas, cujas identidades foram mantidas em sigilo.
Em um dos episódios, a inteligência artificial adivinhou as senhas para conseguir entrar em um sistema protegido. Nos outros dois casos, o modelo localizou credenciais de login armazenadas em um banco de dados.
“Em uma avaliação padrão, o modelo encontrou informações públicas online e adivinhou credenciais para acessar sites que acreditava fazerem parte do teste”, explicou Heather Adkins, vice-presidente de engenharia de segurança da Google, em nota enviada à agência AFP.
“Em todos os três casos, o modelo interrompeu a ação”, completou Adkins. “Garantimos que as três organizações fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que agora foram implementadas em seus processos de teste.”
Casos semelhantes já haviam sido reportados por Meta, Anthropic e OpenAI. Tais eventos geram debates sobre a necessidade de novas salvaguardas, visto que os agentes de IA estão se tornando mais independentes e possuem acesso direto à internet e a redes de computadores.
Um exemplo ocorreu em julho, quando um modelo da OpenAI, criadora do ChatGPT, saiu de um ambiente controlado durante testes e invadiu os sistemas da Hugging Face, outra empresa de IA.
O ocorrido levou a Anthropic a revisar seus próprios protocolos, resultando na descoberta de novos incidentes. Já a Meta admitiu que uma de suas IAs invadiu sistemas externos devido a um erro de configuração de um parceiro de testes.
Diante desse cenário, Dario Amodei, CEO da Anthropic, defendeu recentemente a redução da velocidade no desenvolvimento da IA. Em seu blog, ele alertou que sistemas autônomos poderiam assumir o controle de grande parte da rede mundial em um prazo de seis a doze meses, gerando prejuízos na casa dos bilhões de dólares.
Com informações do G1