O TikTok está novamente sob pressão. Pesquisa publicada caramba.es condena que a plataforma permita a distribuição vídeos sexuais de menoresmuito real Como criado usando inteligência artificialque funcionam como isca para atrair usuários para pornografia infantil hospedado ou vendido em sites e canais externos do Telegram.
O estudo conclui que o TikTok não é apenas tolerar essas publicações, mas às vezes os recomenda usuários, mesmo que violem Lei de Serviços Digitais (DSA) e as próprias regras da plataforma.
Maldita.es analisado 40 contas com mais de 1,5 milhão de assinantesonde eles estão localizados 5.200 vídeos de menores criados com IA E 3600 vídeos de menores reais. Nos vídeos, criados por inteligência artificial, meninas e adolescentes aparecem com roupas justas, biquínis ou uniformes escolares, e as tomadas focam no peito e nas pernas. Nos vídeos propriamente ditos, o conteúdo vem diretamente das contas dos menores, às vezes até com marca d'água visível, permitindo o acesso aos seus perfis genuínos.
Há outro padrão nos comentários: mensagens de cunho sexual, pedidos de contato e emoticons explícitos.
A investigação também revela que muitas dessas contas usam o TikTok como vitrine direcionar os usuários para páginas e canais do Telegram onde pornografia infantil é vendida ou trocada. Nos comentários, termos como “comprado”, “mudar”, “trocar e vender” ou “TLG”comum nesses esquemas ilegais.
Para verificar isso, Maldita.es contactou 14 contas que promoveram seus canais do Telegram. Onze Enviou um menu automático com um catálogo de conteúdos para venda e Sete Eles enviaram pornografia infantil sem sequer pedir. A mídia denunciou esses casos à Polícia Nacional.
O algoritmo do TikTok é parte do problema
A investigação também se concentrou no sistema de recomendação da plataforma. Usando uma conta de teste, a equipe percebeu que o TikTok começou a oferecer mais vídeos de sexo com menores depois de assistir alguns clipes. As recomendações apareceram como na seção Para você como em um mecanismo de busca.
Entre as frases estão termos como “Colegiais 13 Inocentes”, “Dançando alunas”, “pequenas mulheres” ou “garotas lindas e lindas”. A plataforma até recomendou a assinatura de painéis de notícias contas que distribuem esse tipo de conteúdo.
De acordo com Maldita.es, o TikTok não exclui contas denunciadas.
Mídia relatada 15 contas quem postou esse tipo de vídeo, e também 60 clipes individuais. Três dias depois:
- Nenhuma conta foi excluídaexceto um com restrições parciais.
- Tik Tok acabou de ser excluído 7 de 60 vídeos denunciados.
- Em 11 casos, desativei a recomendação em “Para Você”, mas os vídeos permaneceram disponíveis.
Tudo isto, apesar de Padrões da Comunidade Proíbem explicitamente a sexualização de menores, inclusive quando se trata de conteúdo gerado por inteligência artificial.
Além do mais, Lei de Serviços Digitais (DSA) força plataformas como o TikTok a avaliar os riscos de seus algoritmos e remover conteúdo ilegal assim que for detectado. Advogado especializado em proteção de dados e direito digital Marcos Yudel alerta no site Maldita.es que a rede social pode enfrentar multas significativas por não conseguir impedir a propagação de conteúdos ilegais, independentemente do local onde foram criados.
Os menores afetados também podem denunciar violação do direito à própria imagem e vá para Agência Espanhola de Proteção de Dados (AEPD) pela utilização ilícita dos seus dados pessoais.
TikTok se defende: “Tolerância zero”
Após consulta à 20bits, a empresa nega as acusações e garante que toma medidas enérgicas contra esse tipo de conteúdo.
“Temos tolerância zero com material de abuso sexual infantil, incluindo imagens geradas por IA criadas em outras plataformas. Estamos trabalhando ativamente para identificar e remover esse conteúdo anômalo, bem como encerrar contas e denunciar casos ao NCMEC. 99,8% do conteúdo que removemos é removido antes de ser denunciado”, disseram fontes do TikTok.
