O TikTok anunciou, nesta sexta-feira (10), a implementação de novas medidas de segurança para ajudar os usuários a identificarem conteúdos criados por inteligência artificial (IA). A iniciativa visa fortalecer as ferramentas de detecção e a transparência sobre a origem dos vídeos, imagens e áudios publicados na plataforma.
Entre as principais novidades, a rede social destacou a criação de novos recursos educacionais e o aumento dos investimentos no fundo de letramento em IA. O objetivo é capacitar o público a diferenciar o que é real do que foi gerado sinteticamente, reduzindo a vulnerabilidade a manipulações digitais.
Um dos pontos centrais da atualização é o teste de sistemas aprimorados para identificar contas dedicadas exclusivamente à publicação de spam gerado por IA. Segundo a empresa, esse tipo de atividade prejudica a visibilidade de criadores originais, que acabam sendo “ofuscados” por volumes massivos de conteúdo automatizado.
“À medida que essa tecnologia evolui, há também o risco de que ela seja utilizada indevidamente para produzir conteúdo de spam em grande escala, o que acaba ofuscando criadores autênticos”, explicou o TikTok em nota oficial.
Para combater o problema, a plataforma irá fortalecer os padrões técnicos de metadados criptografados. O recurso, chamado de “selo de procedência”, funcionará como uma espécie de certidão de nascimento do conteúdo, permitindo que se verifique a autoria, a data de criação e quais ferramentas de edição foram utilizadas.
O combate ao spam não é novo para a companhia. De acordo com a rede social, a tecnologia de remoção já opera em larga escala. “Só no primeiro trimestre deste ano, removemos mais de 86 milhões de contas falsas”, acrescentou a empresa.
Nas próximas semanas, o foco dos testes de detecção será voltado para temas que podem impactar a confiança e o bem-estar do público. Estão sob monitoramento rigoroso os conteúdos relacionados a política e atualidades, aconselhamento financeiro e orientações de saúde.
A escala do desafio é imensa. O TikTok revelou que já classificou mais de 3 bilhões de vídeos como AIGC (conteúdo gerado por inteligência artificial). Para chegar a esse número, a empresa utiliza uma combinação de Credenciais de Conteúdo, ferramentas de identificação de criadores e a tecnologia de marca d’água invisível.
Com informações do G1