As autoridades eleitorais estão trabalhando “a toda velocidade” com o Ministério do Interior em um projeto piloto para combater o uso de deepfakes para atacar os candidatos concorrendo às eleições escocesas e galesas deste ano.
Funcionários da Comissão Eleitoral Escocesa disseram que eles e o Ministério do Interior esperavam que um software capaz de detectar vídeos e imagens falsos gerados por IA estivesse operacional antes do início da campanha eleitoral, no final de março.
Sarah Mackie, chefe da comissão na Escócia, disse que se o software detectasse um vídeo ou imagem enganosa, as autoridades contactariam a polícia, o candidato em questão e informariam o público, embora reconhecesse que nem sempre poderia fornecer 100% de certeza.
Eles então instariam a plataforma de mídia social a remover o conteúdo, disse ele. No entanto, como tal acção é actualmente voluntária, a comissão também pretende poderes de “remoção” legalmente executáveis que exigiriam que as plataformas de comunicação social removessem material falso.
Ele disse que a comissão instou o governo do Reino Unido a considerar a introdução de tais poderes.
“O que não temos agora, e o que queremos, são chamados de poderes de remoção: abordamos as empresas de mídia social e exigimos que algo seja removido”, disse Mackie.
Não há casos conhecidos de deepfakes emergentes durante as campanhas eleitorais no Reino Unido, mas a sua utilização aumentou em eleições no estrangeiro, uma tendência que se acelerou dramaticamente com a disseminação de ferramentas gratuitas de imagem de IA.
As eleições e os referendos britânicos têm sido repetidamente alvo de contas falsas, muitas vezes patrocinadas pelo Estado, nas redes sociais de países como a Rússia, o Irão e a Coreia do Norte, normalmente concebidas para espalhar a dissidência ou amplificar a controvérsia.
Num briefing pré-eleitoral para jornalistas em Edimburgo, Mackie disse que a comissão também estava a trabalhar com o parlamento escocês e a polícia num projecto de “segurança e confiança” para apoiar mulheres e candidatos negros, asiáticos e de minorias étnicas que sofrem abusos ou assédio com base no género ou raça.
Ela disse que um estudo de 2022 descobriu que cerca de metade de todas as candidatas eleitorais sofreram abusos e muitas disseram que não concorreriam novamente. Os candidatos de minorias étnicas também disseram que o abuso os deixou com muito medo de se candidatarem novamente, minando a diversidade em Holyrood.
Mackie disse que a ascensão da tecnologia pornográfica e de “stripping” baseada em IA, particularmente gerada pela plataforma Grok AI de Elon Musk, cairia nessa categoria se fosse usada durante uma eleição e denunciada à polícia.
As plataformas X e Grok de Musk foram criticadas por não conseguirem remover conteúdo falso, pornográfico e prejudicial, e políticos importantes em Westminster pediram uma ação urgente do governo e do regulador de mídia Ofcom.
Mackie disse que não havia um papel legal claro para a Comissão Eleitoral ou outras agências regularem os deepfakes durante as eleições, mas que tanto a comissão como o Ministério do Interior precisavam testar que medidas poderiam tomar.
Ele disse que o projeto piloto poderia ser implementado em todas as eleições no Reino Unido, se fosse bem-sucedido.
Ela disse: “Não regulamentamos campanhas, mas há um espaço vazio aqui onde parece que há muitas regulamentações à volta do ringue.
“Então o que estamos fazendo é simplesmente pular para o centro do ringue e dizer, bem, vamos ver o que aprendemos com isso e depois vamos compartilhar com outras pessoas.”
Um porta-voz do Ministério do Interior disse que a Lei de Segurança Online do Reino Unido exige que as empresas de mídia social removam conteúdo ilegal e evitem a disseminação de informações falsas que possam causar danos psicológicos ou físicos.
Dizia: “Proteger as eleições da ameaça de deepfakes sofisticados é vital para manter a confiança do público no nosso sistema democrático.
“Este piloto ajudará a detectar e abordar material deepfake e a proteger o público do impacto da desinformação.”
