Imagens degradantes de crianças e mulheres com roupas removidas digitalmente pela Grok AI continuam a ser compartilhadas no X de Elon Musk, apesar do compromisso da plataforma de suspender os usuários que as geram.
Depois de dias de preocupação com o uso do chatbot para alterar fotografias e criar imagens sexualizadas de mulheres e crianças reais, apenas de roupas íntimas, sem o seu consentimento, o órgão de vigilância de comunicações do Reino Unido, Ofcom, disse na segunda-feira que fez “contato urgente com X e xAI para entender quais medidas eles tomaram para cumprir suas obrigações legais para proteger os usuários no Reino Unido”. Ofcom acrescentou que avaliaria se uma investigação é necessária com base na resposta da empresa.
Entretanto, políticos e activistas dos direitos das mulheres acusaram o governo do Reino Unido de “arrastar os pés” ao não aprovar a legislação aprovada há seis meses que tornava ilegal a criação de tais imagens íntimas.
A tendência, que se tornou viral no ano novo, também levou a Comissão Europeia a dizer na segunda-feira que estava a investigar “muito seriamente” as denúncias de que Grok estava a ser usado para gerar e disseminar imagens de crianças sexualmente explícitas.
A preocupação começou a surgir depois que uma atualização de dezembro do assistente gratuito de IA de Musk, Grok, tornou mais fácil para os usuários postarem fotos e pedirem que tirassem a roupa. Embora o site não permita nudez total, ele permite que os usuários solicitem que as imagens sejam alteradas para mostrar pessoas em roupas íntimas minúsculas e reveladoras e em poses sexualmente sugestivas.
No domingo e na segunda-feira, os usuários do Grok continuaram a gerar imagens sexualmente sugestivas de menores, com imagens de crianças de até 10 anos criadas durante a noite. Ashley St Clair, mãe de um dos filhos de Musk, reclamou que a ferramenta de inteligência artificial gerou uma foto dela quando ela tinha 14 anos de biquíni.
Grok manipulou uma imagem da atriz de Stranger Things, Nell Fisher, no domingo, para colocá-la em um biquíni com estampa de banana. Fischer tem 14 anos. Muitas mulheres expressaram a sua fúria contra X depois de descobrirem que as suas imagens tinham sido retiradas sem o seu consentimento. Algumas imagens de mulheres e crianças que foram manipuladas pela ferramenta de IA parecem ter substâncias semelhantes ao sêmen espalhadas em seus rostos e peitos.
Pesquisadores da AI Forensics, uma organização sem fins lucrativos com sede em Paris, examinaram 50.000 menções ao @Grok no X e 20.000 imagens geradas pela ferramenta, encontradas durante um período de uma semana entre 25 de dezembro e 1º de janeiro. Pelo menos um quarto das menções ao @Grok foram solicitações para que a ferramenta criasse uma imagem. Dentro dessas solicitações de imagem, houve uma alta prevalência de termos incluindo “ela”, “vestir”, “tirar”, “biquíni” e “roupas”.
Descobriu-se que mais de metade das imagens eram de pessoas com “roupas mínimas”, como roupa interior ou biquínis, e a maioria eram mulheres que pareciam ter menos de 30 anos. Uma minoria das imagens, ou 2%, parece mostrar pessoas com 18 anos ou menos, acrescentou a AI Forensics, e algumas imagens retratam crianças menores de cinco anos. Os investigadores disseram que a maior parte do conteúdo ainda estava disponível online e incluía pedidos para gerar propaganda nazista e do Estado Islâmico.
Musk inicialmente expressou sua diversão com a tendência, postando o emoji chorando e rindo na sexta-feira em resposta a uma imagem de uma torradeira manipulada digitalmente de biquíni. Ele disse: “Não sei por que, mas não conseguia parar de rir disso”. Após protestos globais sobre a natureza prejudicial do conteúdo, ele postou mais tarde que “qualquer pessoa que usar Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal”.
Um porta-voz do X disse: “Tomamos medidas contra o conteúdo ilegal no X, incluindo material de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente as contas e trabalhando com governos e autoridades locais conforme necessário”.
Uma declaração anterior de Grok anunciando que tinha “identificado falhas de salvaguardas” e que as estava “corrigindo urgentemente” acabou por ter sido gerada por inteligência artificial; Não ficou claro se a empresa estava realmente tomando medidas para corrigir as lacunas de proteção.
Os reguladores têm trabalhado durante anos para proibir aplicativos de nudificação em telefones, com sucesso misto, mas as atualizações de Grok no mês passado generalizaram o problema, tornando mais simples criar e compartilhar imagens íntimas de pessoas com a maior parte de suas roupas removidas em uma das plataformas mais populares da Internet.
Embora a criação de imagens envolvendo crianças nuas já seja ilegal, a lei que envolve a criação de deepfakes de adultos é mais complicada. Os activistas do Reino Unido conseguiram aprovar legislação em Junho passado que torna ilegal a criação e solicitação da criação de imagens íntimas sem o consentimento de uma pessoa, mas as disposições relevantes ainda não foram implementadas, o que significa que a legislação não é actualmente aplicável. No entanto, agora é ilegal compartilhar essas imagens deepfake não consensuais.
Charlotte Owen, a colega conservadora que defendeu a legislação, disse: “O governo adiou repetidamente e recusou-se a fornecer um calendário para a entrada em vigor destas disposições vitais. Não podemos permitir mais atrasos. Os sobreviventes deste abuso merecem coisa melhor. Ninguém deveria ter de viver com medo de que o seu consentimento fosse violado desta forma terrível”.
Um porta-voz disse que o governo estava comprometido em implementar os novos crimes de criação ou solicitação de deepfake íntimo sem consentimento o mais rápido possível, acrescentando que deepfakes sexualmente explícitos “são degradantes e prejudiciais… é por isso que legislamos para proibir sua criação não consensual, garantindo que os infratores enfrentem punições apropriadas por esse dano terrível”.
Gabby Bertin, a colega conservadora que fez campanha para regulamentar a tecnologia de nudificação, disse que o governo precisava de agir rapidamente porque a legislação actual está “sempre a tentar recuperar o atraso”.
Jess Asato, a deputada trabalhista que tem feito campanha por uma melhor regulamentação da pornografia, disse: “Cabe a Elon Musk perceber que esta é uma forma de agressão sexual e tomar as medidas apropriadas.
