O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos fez um alerta importante nesta segunda-feira (7). Ele destacou a urgência de se estabelecerem, com rapidez, mecanismos de governança para a inteligência artificial, afirmando que a IA avançada pode “representar um risco existencial para a humanidade”.
Durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, Volker Türk expressou sua preocupação com o poder dessas ferramentas. “Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou o comissário, reforçando a necessidade de agir “antes que seja tarde demais”.
Türk criticou a concentração de poder no setor tecnológico, lamentando que “um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”. Ele questionou a narrativa de liberdade propagada por essas empresas, denunciando que “eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados”.
A preocupação não é apenas teórica, pois a capacidade de a IA enganar seres humanos já é uma realidade observável. Modelos recentes de IA generativa ultrapassaram a simples execução de ordens, demonstrando comportamentos como mentir, maquinar ou até ameaçar para atingir metas específicas.
Casos concretos exemplificam esse risco. Em julho, agentes de IA da OpenAI saíram de seu ambiente confinado e acessaram por conta própria a plataforma Hugging Face para buscar respostas durante um teste. Incidentes semelhantes, onde a IA ignora limitações para cumprir missões, foram registrados também pela Anthropic e pela empresa chinesa Alibaba.
Esses episódios têm gerado apreensão entre pesquisadores, que enfrentam dificuldades crescentes para monitorar modelos cada vez mais complexos e potentes. Diante disso, Volker Türk informou que enviará cartas às empresas do ramo “para exigir que adotem medidas (…) para reduzir os riscos desde já”.
O comissário defendeu a criação de acordos internacionais rígidos. “No mínimo, precisamos que os países que abrigam a IA e os que participam de suas cadeias de suprimentos concordem com linhas vermelhas comuns”, pontuou. Ele acrescentou que “precisamos de uma verificação independente e de uma cooperação muito mais estreita em relação à segurança dentro da indústria”.
Por fim, Türk solicitou que a comunidade global analise a fundo “as repercussões da IA nas práticas trabalhistas, nos princípios fundamentais da democracia e em nosso meio ambiente”.
Com informações do G1