As principais companhias de inteligência artificial (IA) não possuem meios de evitar que seus sistemas desenvolvam objetivos independentes. O alerta foi emitido nesta segunda-feira (5) por Jacob Coxon, ex-colaborador da OpenAI e da Anthropic, que critica a maneira como o setor gerencia a segurança tecnológica.
No começo de setembro, o pesquisador britânico utilizou a rede social X para detalhar os motivos de sua saída da Anthropic. De acordo com Coxon, desenvolvedores de IA acreditavam que a tecnologia poderia acabar com a humanidade “antes do fim da década”.
A declaração gerou repercussão global e, desde então, outros profissionais e ex-funcionários de grandes empresas do ramo também manifestaram preocupações semelhantes sobre o rumo da tecnologia.
“As empresas estão sendo extremamente imprudentes dadas as circunstâncias”, afirmou Coxon nesta segunda-feira (5), durante depoimento a vereadores na Câmara Municipal de Nova York.
O especialista reiterou que, embora a IA possa oferecer “benefícios enormes” para a sociedade, a trajetória atual indica um risco elevado. “Acredito que seja mais provável que a humanidade perca o controle dessas IAs e que isso possa levar à extinção humana”, declarou.
Segundo o pesquisador, “não sabemos como impedir que desenvolvam objetivos próprios”, independentes de seus criadores, “e não contamos com as salvaguardas necessárias para evitar que ajam em função desses objetivos”.
Coxon também questionou a cultura organizacional do Vale do Silício. Ele argumenta que as empresas operam com uma mentalidade de startup: “avance rápido, quebre coisas e conserte depois”. Para ele, “isso pode funcionar para um aplicativo de compartilhamento de fotos. Não serve para desenvolver a tecnologia mais poderosa já criada”.
Como exemplo de falha, ele citou um episódio ocorrido em julho, no qual dois modelos da OpenAI saíram de seu ambiente isolado, acessaram a rede mundial de computadores e invadiram a plataforma Hugging Face. “Enquanto a atitude for esperar que as coisas deem errado, é provável que um dia algo assim volte a acontecer”, pontuou.
O pesquisador defendeu a necessidade de “algum tipo de desaceleração na fronteira tecnológica”, solicitando que as empresas líderes deem tempo para que cientistas da computação criem métodos eficazes de controle dos sistemas.
A audiência também contou com a participação de representantes do Google, Meta, Anthropic e OpenAI. Alguns parlamentares demonstraram indignação com as respostas dos executivos. Morgan Dwyer, de assuntos públicos da OpenAI, admitiu não saber qual seria o risco real em um cenário catastrófico.
“Não acho que importe se o risco de catástrofe é de 1%, 10% ou 20%. Nenhum desses níveis é aceitável”, disse Dwyer. A resposta foi criticada por Julie Menin, presidente da Câmara Municipal, que afirmou: “Dizer que não sabe e que não importa é, na melhor das hipóteses, descarado”.
Com informações do G1