A Anthropic, companhia responsável pela criação da inteligência artificial Claude, revelou ter identificado nações que buscaram utilizar sua tecnologia para a elaboração de propagandas, desenvolvimento de drones de combate e até a criação de possíveis armas biológicas. De acordo com a empresa, todas as tentativas detectadas foram prontamente bloqueadas.
Esses detalhes foram revelados em um relatório interno ao qual o jornal “The New York Times” obteve acesso. Entre os países mencionados na reportagem do veículo americano estão a Rússia, a China, o Irã e o Iêmen.
O documento elaborado pela Anthropic detalha diversas formas de uso malicioso de seus modelos de IA. Há, por exemplo, suspeitas de que a China e o Irã tenham utilizado a ferramenta para realizar o monitoramento de opositores políticos que vivem no exílio.
Um episódio específico destacado no relatório envolve a Rússia. O governo russo teria utilizado o Claude para produzir conteúdos de propaganda que simulavam reportagens jornalísticas reais, com o objetivo de influenciar as eleições ocorridas na Moldávia, país vizinho.
No que diz respeito às pesquisas biológicas, a reportagem indica que a Anthropic não conseguiu definir se as consultas feitas teriam finalidades legítimas, como o desenvolvimento de vacinas, ou objetivos prejudiciais. Isso ocorre porque os processos técnicos são semelhantes tanto para a evolução da medicina quanto para a fabricação de patógenos perigosos.
Diante da incerteza sobre a intenção dos usuários, a Anthropic afirmou que a decisão foi interromper a prestação do serviço de IA como uma medida de precaução para evitar riscos globais.
Apesar das revelações, a empresa optou por não divulgar informações detalhadas sobre os bloqueios relacionados a pesquisas de armas biológicas. Não foram revelados os nomes dos pesquisadores envolvidos, as instituições acadêmicas ou governamentais, os países de origem ou quais agentes biológicos específicos estavam sendo investigados.
Com informações do G1