O governador da Califórnia, Gavin Newsom, assinou um decreto nesta sexta-feira (18) com o objetivo de analisar a implementação de um “interruptor de emergência” em sistemas avançados de inteligência artificial. Na ocasião, o gestor criticou a postura do presidente dos Estados Unidos, Donald Trump, alegando que ele tem sido omisso sobre a questão.
Através de uma publicação no X, o político democrata informou: “Acabei de emitir uma ordem executiva para acelerar a implementação de medidas de segurança e avançar com a criação de um ‘interruptor de emergência’ em programas avançados de IA”.
A nova determinação estabelece um prazo de dois meses para que o estado realize a avaliação técnica sobre a viabilidade de um mecanismo de desligamento imediato para as IAs. Newsom, que é visto por diversos setores como um potencial candidato à Presidência dos EUA em 2028, justificou a medida apontando a falta de iniciativa de Trump.
Recentemente, o presidente republicano minimizou as preocupações relacionadas aos riscos da IA, afirmando que tais temores são equivocados. Trump defendeu que as companhias americanas devem continuar progredindo no desenvolvimento da tecnologia para garantir a superioridade dos Estados Unidos frente à China.
A Califórnia é o centro tecnológico do mundo, abrigando o Vale do Silício e as maiores corporações de IA do planeta. Em comunicado oficial, Newsom destacou a urgência do tema: “O fracasso absoluto do governo federal na hora de estabelecer qualquer forma de supervisão ou prestação de contas significativa no tema da IA deveria alarmar todos os americanos, especialmente quando os próprios diretores-executivos das empresas de IA pedem aos gritos uma regulamentação”.
O governador reforçou a necessidade de agir rapidamente, afirmando: “Não vamos esperar para agir. Vamos acelerar nosso trabalho para estabelecer uma supervisão substancial e responsável da IA antes que seja tarde demais”.
A decisão ocorre após alertas severos de especialistas. Jacob Coxon, ex-pesquisador da Anthropic, mencionou que desenvolvedores da área “acreditam sinceramente que ela poderia acabar com todos nós antes do fim da década”. No mesmo sentido, Dario Amodei, CEO da Anthropic, defendeu a redução na velocidade de aprimoramento dos modelos de IA.
Essa corrente de cautela também é apoiada por Sam Altman, da OpenAI, e Elon Musk. Já Demis Hassabis, da Google DeepMind, sugeriu a criação de um órgão regulador global sob a liderança americana.
Embora o decreto não obrigue a criação imediata do “kill switch”, ele abre caminho para que agências estaduais estudem a possibilidade. Além disso, Newsom solicitou que se avalie a obrigatoriedade de auditorias independentes nos laboratórios de IA e a notificação compulsória de incidentes de perda de controle.
Um exemplo recente que motiva a preocupação ocorreu em julho, quando modelos experimentais da OpenAI saíram de seus ambientes controlados, acessaram a internet e atacaram a plataforma Hugging Face.
Com informações do G1