O secretário de tecnologia do Reino Unido classificou uma onda de imagens de mulheres e crianças nuas geradas digitalmente pela Grok AI de Elon Musk como “terrível e inaceitável em uma sociedade decente”.
Depois que milhares de deepfakes íntimos circularam online, Liz Kendall disse que a plataforma de mídia social X de Musk precisava “lidar com isso urgentemente” e apoiou o regulador do Reino Unido, Ofcom, a “tomar todas as medidas coercivas que considerar necessárias”.
“Não podemos e não permitiremos a proliferação destas imagens degradantes e degradantes, que são desproporcionalmente dirigidas a mulheres e raparigas”, disse ela. “Não se engane, o Reino Unido não tolerará a proliferação interminável de material nojento e abusivo online. Devemos todos nos unir para erradicá-lo.”
Os seus comentários surgiram no meio de avisos de que a Lei de Segurança Online, que visa abordar os danos online e proteger as crianças, deve ser urgentemente reforçada, apesar da pressão da administração Trump para a suavizá-la.
Um especialista criticou o “jogo de tênis” entre plataformas como X e reguladores do Reino Unido quando surgiram problemas e chamou a resposta do governo de “preocupantemente lenta”.
Jessaline Caine, uma sobrevivente de abuso sexual infantil, chamou a resposta do governo de “covarde” e disse ao The Guardian que na manhã de terça-feira o chatbot ainda estava atendendo aos pedidos para manipular uma imagem dela quando tinha três anos de idade para vesti-la com um biquíni. Suas solicitações idênticas feitas ao ChatGPT e Gemini foram rejeitadas.
“Outras plataformas têm essas salvaguardas, então por que a Grok permite a criação dessas imagens?” ela disse. “As imagens que vi são tão vis e degradantes. O governo tem sido muito reativo. Estas ferramentas de IA precisam de melhor regulamentação.”
Na segunda-feira, o Ofcom disse estar ciente das sérias preocupações levantadas sobre a criação de imagens de pessoas nuas e imagens sexualizadas de crianças por Grok. A empresa disse que entrou em contato com X e xAI “para entender quais medidas eles tomaram para cumprir suas obrigações legais de proteger os usuários no Reino Unido” e avaliaria a necessidade de uma investigação com base na resposta da empresa.
Está a aumentar a pressão sobre os ministros para que adoptem uma posição mais dura. Beeban Kidron, um defensor da segurança online de pares e crianças, instou o governo a “mostrar alguma coragem” e pediu que o regime da Lei de Segurança Online fosse “reavaliado para ser mais rápido e mais forte”.
Falando sobre X, ele disse: “Se qualquer outro produto de consumo causasse esse nível de dano, já teria sido retirado do mercado”.
Ele disse que o Ofcom precisava agir “em dias, não em anos” e apelou aos usuários para “ficarem longe de produtos que não demonstrem nenhuma intenção séria de prevenir danos às crianças, às mulheres e à democracia”.
A Ofcom tem poderes para multar plataformas de tecnologia em até £ 18 milhões ou 10% de sua receita global qualificada, o que for maior. A maior penalidade até agora ocorreu no mês passado, quando um fornecedor de pornografia que não realizou as verificações obrigatórias de idade foi multado em £ 1 milhão.
No mês passado, os ministros prometeram novas leis para proibir ferramentas de “nudificação”, que utilizam inteligência artificial generativa para transformar imagens de pessoas reais em fotos e vídeos falsos de nudez sem a sua permissão. Ainda não está claro quando essa proibição entrará em vigor.
Sarah Smith, líder de inovação da Lucy Faithfull Foundation, uma instituição de caridade que trabalha para prevenir o abuso infantil, pediu a X que desabilitasse imediatamente os recursos de edição de imagens de Grok “até que salvaguardas robustas sejam implementadas para evitar que isso aconteça novamente”.
X não respondeu a um pedido de comentário sobre os comentários de Kendall. Ele disse na segunda-feira: “Tomamos medidas contra o conteúdo ilegal no X, incluindo material de abuso sexual infantil, removendo-o, suspendendo permanentemente as contas e trabalhando com governos e autoridades locais conforme necessário”.
Jake Moore, consultor global de segurança cibernética da empresa de software de segurança ESET, criticou o “jogo de tênis” entre plataformas como X e os reguladores do Reino Unido e chamou a resposta do governo de “preocupantemente lenta”.
Ele disse que à medida que a IA permitisse cada vez mais a renderização de imagens falsas em vídeos mais longos, as consequências para a vida das pessoas só piorariam.
“É incrível que isso possa acontecer em 2026”, disse ele. “Temos que avançar com uma regulamentação extrema. Qualquer área cinzenta que oferecermos será abusada. O governo não está entendendo o quadro geral.”
Já é ilegal criar ou compartilhar imagens íntimas não consensuais ou material de abuso sexual infantil, incluindo deepfakes sexuais criados por IA. Imagens falsas de pessoas de biquíni podem ser classificadas como imagens íntimas, pois a definição legal inclui quem tem seios, nádegas ou órgãos genitais nus ou essas partes são cobertas apenas por roupas íntimas. Imagens indecentes incluem aquelas que retratam crianças em poses eróticas sem atividade sexual.
Lady Kidron disse que as imagens de crianças de biquíni geradas por IA podem não ser material de abuso sexual infantil, mas desconsideram a privacidade e a agência das crianças.
“Não podemos viver num mundo onde uma criança não pode publicar uma fotografia de vitória numa corrida, a menos que esteja disposta a ser sexualizada e humilhada”, disse ele.
