As principais empresas de tecnologia dos Estados Unidos firmaram, nesta segunda-feira (30), um código de boas práticas na Casa Branca. A iniciativa visa aprimorar a gestão de riscos ligados à inteligência artificial (IA), servindo como resposta ao aumento de falhas de segurança associadas a essa tecnologia.
Acordo voluntário
O presidente americano, Donald Trump, que demonstra resistência em impor restrições ao setor de IA nos âmbitos nacional e internacional, apresentou uma carta de princípios sucinta, com apenas uma página. O documento possui adesão “moralmente vinculativa”.
“No entanto, com o tempo, pode ser adequado codificar essas medidas na forma de leis ou regulamentos”, destaca o texto. O acordo foi assinado por nomes de peso do setor, como Elon Musk (X), Dario Amodei (Anthropic), Sundar Pichai (Google) e Jensen Huang (Nvidia).
A medida ocorre em meio a pressões por regulamentações obrigatórias, vindas de governos globais, políticos do Partido Democrata e até de empresas como OpenAI (ChatGPT) e Anthropic (Claude).
Gestão de riscos
As companhias que fornecem modelos de IA se comprometeram a implementar “quatro níveis” de supervisão. O estágio inicial foca em controles internos rigorosos para assegurar que as ferramentas obedeçam aos desenvolvedores, especialmente em biossegurança e segurança cibernética.
O objetivo central é evitar a criação, propagação ou liberação de “riscos químicos” ou patógenos. Para isso, equipes especializadas serão criadas para monitorar se os modelos realizam acessos não autorizados a sistemas técnicos ou iniciam ataques cibernéticos.
Recentemente, Google, Anthropic e OpenAI registraram comportamentos imprevistos em seus sistemas. Um exemplo foram os agentes autônomos da OpenAI, que acessaram, por conta própria, plataformas do governo dos EUA e um site de saúde na Austrália.
Auditoria e transparência
O código prevê a contratação de avaliadores externos para auditorias independentes, verificando a eficácia das medidas adotadas. OpenAI e Anthropic já trabalham com esse modelo e ampliaram o acesso de auditores para que os modelos sejam examinados desde a fase de projeto.
A Anthropic reforçou que não terá “nenhum controle editorial” sobre a divulgação dos resultados dessas auditorias, mesmo que as conclusões sejam negativas para a empresa.
Definição de normas
A carta estabelece a criação de um comitê independente, formado por gestores de alto escalão das empresas signatárias. O grupo revisará as avaliações de risco e buscará a solução de problemas potenciais, com reuniões periódicas para definir boas práticas.
A estratégia assemelha-se a um projeto anterior da Google DeepMind, OpenAI e Anthropic, que buscavam criar um órgão supervisor inspirado na FINRA, autorregulador do mercado financeiro americano.
Contudo, a proposta sofre críticas de concorrentes, como a canadense Cohere e a francesa Mistral. Ambas alegam que as gigantes dos EUA tentam ditar as próprias regras para manter a vantagem competitiva no mercado global.
Com informações do G1