Um antigo integrante da equipe de segurança da OpenAI, empresa responsável pelo desenvolvimento do ChatGPT, fez críticas severas à maneira como a organização gerencia a segurança da inteligência artificial (IA). David Robinson, que saiu da companhia recentemente, argumenta que a cultura focada em um desenvolvimento acelerado eleva a probabilidade de ocorrência de falhas.
Em um texto publicado neste sábado (3) na revista americana “The Atlantic”, Robinson declarou que as companhias de IA, incluindo a OpenAI, não estão sendo “nem de perto cuidadosas o suficiente”.
De acordo com o especialista, as empresas deveriam priorizar a pesquisa e dar maior autonomia aos profissionais de segurança antes de prosseguirem com a criação de sistemas mais complexos. “O tempo de tentativa e erro acabou”, escreveu David Robinson.
Para ele, a implementação de sistemas avançados de IA deveria seguir protocolos de segurança rigorosos, semelhantes aos que já são aplicados em setores críticos, como a aviação e a energia nuclear.
Robinson também questionou a estratégia da OpenAI conhecida como “implantação iterativa”, que consiste em colocar os sistemas no mercado para, somente então, aprimorar a segurança conforme os problemas são identificados na prática.
Essas declarações reforçam um debate global sobre a velocidade da evolução tecnológica no setor. Tanto a OpenAI quanto a sua concorrente, a Anthropic, já enfrentaram questionamentos após falhas em controles de segurança ou comportamentos inesperados em modelos experimentais.
Com uma trajetória de três anos e meio na OpenAI, David Robinson participou da criação da estrutura de gestão de riscos da empresa e supervisionou a segurança de 12 lançamentos de modelos avançados. “À medida que a empresa corre de um lançamento para o outro, ela não está conseguindo atingir o nível de cuidado que acredito ser necessário”, afirmou.
Em resposta às críticas, a OpenAI declarou que trabalha para evitar que seus modelos evoluam além da capacidade de gestão segura da companhia. Um porta-voz da empresa afirmou: “Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo”.
Robinson alertou ainda que a evolução das capacidades da IA está ocorrendo de forma mais rápida do que o conhecimento técnico sobre o “alinhamento”, que é a área focada em garantir que a IA opere conforme os valores e objetivos humanos.
Este não é o único relato de insatisfação interna. No mês passado, Jacob Coxon, um pesquisador britânico de 27 anos que passou pela OpenAI e pela Anthropic, deixou a indústria e acusou as duas gigantes americanas de “brincar com as nossas vidas”.
Coxon, que atuou no pré-treinamento de modelos — fase em que a IA absorve grandes volumes de dados —, utilizou a rede social X para expressar sua preocupação. “Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu.
Com informações do G1