YouTube lança ferramenta gratuita para detectar e combater deepfakes de celebridades de Hollywood, reforçando a proteção contra roubo de identidade
O YouTube lançou uma ferramenta gratuita para auxiliar celebridades de Hollywood na detecção de deepfakes, intensificando o combate a falsificações de identidade criadas por inteligência artificial. A plataforma disponibilizou, no mês passado, uma função de proteção de imagem que identifica conteúdos com rostos modificados ou gerados por IA para imitar pessoas reais.
Inicialmente voltada a funcionários do governo, candidatos políticos e jornalistas, a ferramenta agora se estende à indústria do entretenimento, incluindo atores e músicos, por meio de suas agências e representantes. A ferramenta permite “buscar conteúdos gerados por IA que reproduzam a aparência de uma pessoa inscrita, como um deepfake de seu rosto, e lhe dá a possibilidade de localizá-los e solicitar sua remoção”. Celebridades e artistas podem utilizá-la mesmo sem possuir um canal no YouTube.
“O fato de o YouTube abrir suas capacidades de detecção de deepfakes para personalidades públicas marca um ponto de inflexão na maneira como as plataformas abordam a proteção da identidade na era da IA generativa”, declarou à AFP Alon Yamin, diretor-executivo e cofundador da plataforma Copyleaks, de detecção de conteúdo de IA. “A tecnologia que permite reproduzir o rosto, a voz e os gestos de uma pessoa avançou mais rápido do que as salvaguardas ao seu redor, criando uma brecha que agentes mal-intencionados já estão explorando”, afirmou.
A iniciativa surge em um momento de proliferação de vídeos hiper-realistas de celebridades falecidas, criados com aplicativos como o Sora, da OpenAI. A OpenAI anunciou recentemente o encerramento do aplicativo após a enxurrada de vídeos falsos de Michael Jackson e Elvis Presley. Em fevereiro, o diretor irlandês Ruairí Robinson gerou grande comoção em Hollywood ao criar um clipe realista de Brad Pitt e Tom Cruise lutando, utilizando a ferramenta Seedance 2.0, do grupo chinês ByteDance. Robinson também criou vídeos com Pitt lutando contra um zumbi ninja e em parceria com Cruise contra um robô.
Charles Rivkin, presidente da Motion Picture Association (MPA), instou a ByteDance a “cessar imediatamente suas atividades de falsificação”, acusando-a de violar direitos autorais. O YouTube, por sua vez, afirmou que está colaborando com agências de talentos para aprimorar a detecção de imagens problemáticas e proteger os artistas. “O YouTube faz a coisa certa ao fornecer essas ferramentas gratuitamente aos talentos, para que possam proteger seu patrimônio”, afirmou Jason Newman, da Untitled Entertainment. “Seu patrimônio é seu rosto, seu corpo, quem eles são, o que fazem, sua forma de se expressar”, acrescentou.
O desenvolvimento da ferramenta responde a reclamações de personalidades americanas sobre a dificuldade de sinalizar e remover deepfakes no YouTube. “Os riscos são especialmente altos porque os deepfakes podem ser usados para difundir desinformação, manipular mercados, prejudicar reputações ou fazer acreditar em um apoio enganoso. Uma detecção robusta já não é opcional”, explicou Alon Yamin da Copyleaks. “Os sistemas de detecção devem ser extremamente precisos, atualizados continuamente e associados a normas claras e procedimentos rápidos de remoção para serem eficazes”.
“Isso não eliminará por completo os deepfakes, mas pode reduzir consideravelmente seu alcance e seu impacto, ao dificultar a circulação de conteúdos manipulados sem serem detectados ou questionados”, concluiu Yamin.
Com informações do G1