A empresa Anthropic informou nesta semana que interrompeu diversas operações de vigilância financiadas por governos que utilizavam seus modelos de inteligência artificial (IA). A companhia alertou que Estados e grupos aliados estão recorrendo cada vez mais a essas ferramentas para monitorar dissidentes e minorias.
De acordo com um relatório sobre o uso indevido de seus modelos, as atividades foram detectadas e interrompidas entre os meses de janeiro e julho. Os incidentes tiveram origem na China, no Irã e em países da África Ocidental.
O documento aponta que essas campanhas de vigilância “visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente”. Entre os alvos identificados pela Anthropic estavam minorias e comunidades tibetanas, ativistas pró-democracia de Hong Kong e opositores do governo iraniano que residem fora de seu país.
Em um dos episódios relatados, agentes iranianos criaram um método para identificar indivíduos através de perfis em redes sociais. Em outro caso, um profissional contratado pelas autoridades de segurança nacional do Mali utilizou o Claude, modelo de IA da empresa, “para projetar o software subjacente que permitiu a coleta de inteligência”.
Além da espionagem, a Anthropic bloqueou tentativas de usuários de criar golpes românticos na internet, desenvolver armamentos e realizar pesquisas biológicas consideradas problemáticas.
A empresa, com sede em San Francisco, também acusou desenvolvedores da China de utilizarem o Claude de maneira enganosa. O objetivo seria gerar respostas para usuários enquanto, ao mesmo tempo, “destilavam” esses dados para aprimorar seus próprios modelos de IA.
No setor tecnológico, a “destilação” é o processo em que um modelo de IA é empregado para treinar outro. Desenvolvedores chineses já enfrentaram acusações anteriores de realizar essa prática sem a devida autorização.
Sobre as pesquisas ligadas a armas biológicas que foram barradas, a Anthropic afirmou que a intenção dos envolvidos não ficou clara, motivo pelo qual não identificou os autores.
“As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar seus laboratórios poderia expô-las a riscos”, explicou a empresa no relatório.
As investigações bloqueadas focavam em trabalhos com toxinas, venenos e vírus, incluindo uma cepa “altamente patogênica” de gripe aviária, o vírus chikungunya (transmitido por mosquitos) e a família de vírus que engloba o mpox e a varíola.
Com informações do G1