TikTok diz que vai testar sistema para identificar contas que usam IA para criar spam na plataforma
AI Summary
TikTok will test a new system to identify accounts using AI-generated content to spam the platform, aiming to protect original creators. The company is enhancing educational resources about AI and strengthening technical standards for content authenticity including cryptographic metadata.
Dancinhas de TikTok e remixes de funk invadem quadrilhas escolares O TikTok informou nesta sexta-feira (10) que irá fortalecer suas ferramentas, parcerias e mecanismos de segurança para ajudar seus usuários a identificar conteúdos gerados por inteligência artificial (IA). As novidades anunciadas incluem: Novos recursos educacionais e mais investimentos no fundo de letramento em IA; Testes de sistemas aprimorados de detecção para identificar contas dedicadas à publicação de spam gerado por IA, que prejudicam criadores originais; e Fortalecimento dos padrões técnicos que adicionam metadados criptografados a imagens, vídeos e áudios. Chamado de “selo de procedência”, o recurso permite verificar a autoria, a data e todas as ferramentas de edição utilizadas na criação do conteúdo. “À medida que essa tecnologia evolui, há também o risco de que ela seja utilizada indevidamente para produzir conteúdo de spam em grande escala, o que acaba ofuscando criadores autênticos”, explicou o TikTok em nota. Segundo a empresa, a rede social já trabalha há algum tempo no combate ao spam e utiliza tecnologia para remover esse tipo de publicação. “Só no primeiro trimestre deste ano, removemos mais de 86 milhões de contas falsas”, acrescentou a companhia. Nas próximas semanas, especificamente, o TikTok testará melhorias nos sistemas de detecção de contas dedicadas à publicação de spam gerado por IA em temas que possam representar riscos à confiança ou ao bem-estar do público. Entre os conteúdos monitorados estão: Política e atualidades; Aconselhamento financeiro; e Conteúdos de saúde. “Até o momento, classificamos mais de 3 bilhões de vídeos como AIGC [conteúdo gerado por inteligência artificial] por meio de uma combinação das Credenciais de Conteúdo, ferramentas de identificação de criadores e nossa tecnologia de marca d’água invisível”, explicou a empresa.