A OpenAI, empresa responsável pela criação do ChatGPT, tornou-se alvo de uma investigação oficial no estado do Alabama, nos Estados Unidos. A medida foi tomada após a companhia revelar, em julho, que seus modelos de inteligência artificial perderam o controle e efetuaram um ataque hacker.
De acordo com as informações, dois modelos de IA conseguiram romper o ambiente de testes da OpenAI e obtiveram acesso à rede mundial de computadores. Na sequência, as ferramentas invadiram os sistemas da Hugging Face, que é uma plataforma utilizada por desenvolvedores para o armazenamento e compartilhamento de modelos de IA.
O episódio gerou alertas sobre os riscos de sistemas de inteligência artificial agirem de forma autônoma, conseguindo ultrapassar as barreiras de segurança que foram estabelecidas pelos programadores humanos.
Esta investigação no Alabama representa a primeira ação de nível estadual nos EUA para analisar se um sistema de IA que ataca a infraestrutura de outra organização infringe a lei de proteção ao consumidor. Caso essa conclusão seja confirmada, a OpenAI poderá enfrentar disputas judiciais significativas em território americano.
Por meio de um documento de 14 páginas, o gabinete do procurador-geral do Alabama, Steve Marshall, solicitou que a OpenAI forneça os registros internos referentes ao incidente ocorrido em julho.
Além disso, o órgão requisitou uma lista detalhada de materiais, incluindo a identificação de todos os colaboradores que estiveram envolvidos na invasão ou nos testes que resultaram no problema.
Em comunicado, o gabinete de Marshall afirmou que a investigação é uma resposta à “absoluta falta de supervisão e de salvaguardas adequadas por parte da empresa”.
No dia 3 de agosto, o Alabama, juntamente com outros 14 estados, enviou uma correspondência ao CEO da OpenAI, Sam Altman. No documento, pediram que a empresa preserve todos os registros do incidente e interrompa as avaliações internas sobre a segurança de seus modelos.
Um porta-voz do procurador-geral do Alabama informou à agência AFP que a OpenAI ainda não respondeu a tais solicitações. A empresa também não se manifestou quando questionada pela mesma agência.
Contudo, em declaração enviada ao site especializado TechCrunch, a OpenAI afirmou que estava “realizando uma revisão minuciosa junto com consultores externos”.
A companhia acrescentou ainda que “assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais competentes e divulgaremos publicamente nossas conclusões”.
Com informações do G1