Uma nova ferramenta de detecção de conteúdo gerado por inteligência artificial (IA) da Meta apresentou falhas importantes em testes recentes. O sistema, lançado junto ao modelo de geração de imagens Muse Image, não conseguiu identificar algumas das próprias criações da empresa após as imagens passarem por recortes simples, revelou uma análise da agência Reuters.
O problema acende um alerta sobre a dificuldade de verificar a autenticidade de imagens na internet, especialmente em períodos eleitorais, como o que ocorre atualmente nos Estados Unidos. A limitação técnica pode facilitar a propagação de deepfakes, que são mídias manipuladas para enganar o público.
Durante a análise, a Reuters testou 40 imagens geradas pelo Muse Image. Enquanto a ferramenta identificou corretamente todas as versões originais, ela falhou em reconhecer 55% das imagens que foram recortadas para cerca de um terço ou metade do tamanho inicial.
No site oficial, a Meta afirma que a versão preliminar da ferramenta deveria ser capaz de identificar as imagens mesmo após edições, utilizando um sistema de marca d’água invisível chamado Content Seal. O objetivo do recurso é permitir que os usuários verifiquem se aquele conteúdo foi produzido por IA.
Questionada sobre os resultados, a Meta explicou que a ferramenta ainda está em fase de pré-visualização. A empresa admitiu que, embora a marca d’água tenha sido projetada para resistir a edições comuns, o sinal pode ser perdido quando a imagem sofre recortes mais severos.
A Meta não está sozinha nesse desafio. Concorrentes como Google e OpenAI também já alertaram que seus sistemas de detecção não conseguem identificar todas as formas de manipulação de imagens.
Em março, o Conselho de Supervisão da Meta, órgão independente de especialistas, recomendou que a companhia intensificasse o combate ao “proliferação de conteúdo enganoso gerado por IA” e investisse em ferramentas de detecção mais robustas.
Siwei Lyu, professor de ciência da computação da Universidade Estadual de Nova York em Buffalo, explica que marcas d’água têm limitações inerentes. “Métodos baseados em marcas d’água podem ser altamente eficazes quando o sinal permanece intacto. No entanto, qualquer modificação que o remova ou enfraqueça — como recortes, redimensionamento, compressão intensa ou outras edições — pode reduzir sua eficácia, dependendo de como a marca d’água foi desenvolvida”, afirmou o pesquisador.
Já Sarah Barrington, pesquisadora de IA da Universidade da Califórnia em Berkeley, acredita que a tecnologia é um passo importante, apesar de não ser perfeita. “Assim como muitas medidas de segurança digital ou física, essa tecnologia pode não ser totalmente infalível. Ainda assim, mesmo que permita detectar apenas 90% dos casos, isso já representa um avanço significativo em relação a não haver nenhum mecanismo de identificação”, concluiu.
Com informações do G1