A Anthropic, empresa sediada em San Francisco e desenvolvedora do modelo de inteligência artificial (IA) Claude, propôs a implementação de uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes. A sugestão surge após a identificação de sinais de que as versões mais recentes dessas tecnologias poderiam, eventualmente, escapar do controle humano.
Em relatório recente, a companhia destacou que uma desaceleração mundial no desenvolvimento da IA de ponta poderia ser “uma boa ideia”. No entanto, a empresa fez um alerta importante sobre a dinâmica de mercado: se apenas uma organização reduzir o ritmo de inovação, ela corre o risco de ser rapidamente ultrapassada pela concorrência.
“Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia”, manifestou a Anthropic.
Para que tal medida fosse efetiva, a empresa ressaltou que seria necessária uma concordância mútua entre as maiores potências tecnológicas do mundo, principalmente Estados Unidos e China. A proposta prevê que a interrupção ocorresse simultaneamente e sob regras transparentes que pudessem ser verificadas por todos os envolvidos.
A Anthropic argumenta que, “sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas”.
A proposta, contudo, encontra forte resistência em Washington e no Vale do Silício. Executivos de tecnologia e funcionários do governo americano defendem que qualquer desaceleração no ritmo de desenvolvimento poderia conceder à China uma vantagem estratégica e tecnológica significativa.
Nesse cenário de tensão, o presidente Donald Trump assinou nesta semana um decreto que permite ao governo dos Estados Unidos realizar avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes que sejam lançados ao público.
A preocupação da Anthropic é reforçada por dados internos que indicam que a IA está acelerando drasticamente seu próprio desenvolvimento. A empresa alertou para a possibilidade de um ciclo de retroalimentação, conhecido como “melhora recursiva de si mesma”, onde o sistema seria capaz de ensinar a si próprio para se tornar mais inteligente.
Embora a Anthropic negue que esse cenário seja inevitável, a empresa ressaltou que “as evidências sugerem que o papel humano está diminuindo em cada etapa do processo de desenvolvimento da IA”. A companhia planeja reunir cientistas, governos e concorrentes nos próximos meses para discutir a viabilidade de um sistema de controle.
Com informações do G1