O TikTok e outras plataformas de mídia social hospedam vídeos falsos gerados por IA de médicos cujas palavras foram manipuladas para ajudar a vender suplementos e espalhar informações erradas sobre saúde.
A organização de verificação de fatos Full Fact descobriu centenas desses vídeos apresentando versões personificadas de médicos e influenciadores direcionando os espectadores para a Wellness Nest, uma empresa de suplementos com sede nos EUA.
Todos os deepfakes envolvem imagens reais de um especialista em saúde retiradas da internet. No entanto, as imagens e o áudio foram modificados para que os palestrantes incentivem as mulheres na menopausa a comprar produtos como probióticos e shilajit do Himalaia no site da empresa.
As revelações levaram a apelos para que os gigantes das redes sociais sejam muito mais cuidadosos ao hospedar conteúdo gerado por IA e removam mais rapidamente conteúdo que distorce as opiniões de pessoas proeminentes.
“Esta é certamente uma nova tática sinistra e preocupante”, disse Leo Benedictus, o verificador de factos que conduziu a investigação, que a Full Fact publicou na sexta-feira.
Ele acrescentou que os criadores de vídeos falsos sobre saúde usam IA para fazer “alguém altamente respeitado ou com um grande público parecer estar endossando esses suplementos para tratar uma variedade de doenças”.
O professor David Taylor-Robinson, especialista em desigualdades na saúde da Universidade de Liverpool, está entre aqueles cuja imagem foi manipulada. Em agosto, ele ficou chocado ao descobrir que o TikTok estava hospedando 14 vídeos adulterados que pretendiam mostrá-lo recomendando produtos com benefícios não comprovados.
Embora Taylor-Robinson seja especialista em saúde infantil, em um vídeo sua versão clonada falava sobre um suposto efeito colateral da menopausa chamado “perna termômetro”.
O falso Taylor-Robinson recomendou que as mulheres na menopausa visitassem um site chamado Wellness Nest e comprassem o que chamavam de probiótico natural contendo “10 extratos de plantas apoiados pela ciência, incluindo açafrão, cohosh preto, Dim (diindolilmetano) e moringa, escolhidos especificamente para tratar os sintomas da menopausa”.
Colegas “frequentemente relatam sono mais profundo, menos ondas de calor e manhãs mais claras em semanas”, acrescentou o médico deepfake.
O verdadeiro Taylor-Robinson descobriu que sua imagem estava sendo usada apenas quando um colega o alertou. “Foi realmente confuso no início, foi tudo bastante surreal”, disse ele. “Meus filhos acharam muito engraçado.
“Não me senti desesperadamente violado, mas fiquei cada vez mais irritado com a ideia de pessoas vendendo produtos às custas do meu trabalho e da desinformação sobre saúde que isso implicava”.
As imagens de Taylor-Robinson usadas para fazer os vídeos deepfake vêm de uma palestra sobre vacinação que ela deu numa conferência de Saúde Pública da Inglaterra (PHE) em 2017 e de uma audiência parlamentar sobre pobreza infantil onde ela deu depoimento em maio deste ano.
Em um vídeo enganoso, ela foi mostrada xingando e fazendo comentários misóginos enquanto falava sobre a menopausa.
O TikTok removeu os vídeos seis semanas depois da reclamação de Taylor-Robinson. “No início, eles disseram que alguns dos vídeos violavam suas diretrizes, mas alguns estavam bem. Isso foi um absurdo – e estranho – porque eu estava em todos eles e eram todos deepfakes. Foi uma farsa removê-los”, disse ele.
A Full Fact descobriu que o TikTok também estava publicando oito deepfakes contendo declarações adulteradas de Duncan Selbie, ex-presidente-executivo da PHE. Assim como Taylor-Robinson, ela foi mostrada falando falsamente sobre a menopausa, usando um vídeo tirado do mesmo evento de 2017 em que Taylor-Robinson falou.
após a promoção do boletim informativo
Um vídeo, também sobre a “perna do termômetro”, foi “uma imitação incrível”, disse Selbie. “É completamente falso do início ao fim. Não foi divertido no sentido de que as pessoas prestam atenção a essas coisas.”
Full Fact também encontrou deepfakes semelhantes no X, Facebook e YouTube, todos vinculados ao Wellness Nest ou a um canal britânico vinculado chamado Wellness Nest UK. Ele publicou aparentes falsificações de médicos renomados, como o professor Tim Spector e outro especialista em dieta, o falecido Dr. Michael Mosley.
Wellness Nest disse ao Full Fact que os vídeos deepfake incentivando as pessoas a visitar o site da empresa “não eram 100% afiliados” ao seu negócio. Afirmou que “nunca usou conteúdo gerado por IA”, mas “não pode controlar ou monitorar afiliados em todo o mundo”.
Helen Morgan, porta-voz da saúde dos Liberais Democratas, disse: “Desde falsos médicos a robôs que incentivam o suicídio, a IA está a ser usada para atacar pessoas inocentes e explorar fissuras crescentes no nosso sistema de saúde.
“Os liberais democratas estão pedindo que os deepfakes de IA que se apresentam como profissionais médicos sejam removidos e que as ferramentas clinicamente aprovadas sejam fortemente promovidas para que possamos preencher a lacuna.
“Se estas pessoas se apresentassem fraudulentamente como médicas, enfrentariam um processo criminal. Por que o equivalente digital é tolerado?
“Quando alguém procura aconselhamento de saúde de um robô de IA, deve ser automaticamente encaminhado para o serviço de assistência do NHS para que possa obter o diagnóstico e o tratamento de que realmente necessita, com responsabilidade criminal para aqueles que beneficiam de desinformação médica.”
Um porta-voz do TikTok disse: “Removemos este conteúdo (relacionado a Taylor-Robinson e Selbie) por violar nossas regras contra desinformação prejudicial e comportamento que busca enganar nossa comunidade, como phishing.
“Conteúdo prejudicial e enganoso gerado por IA é um desafio para toda a indústria, e continuamos investindo em novas maneiras de detectar e remover conteúdo que viole nossas diretrizes da comunidade”.
O Departamento de Saúde e Assistência Social foi contatado para comentar.
