O órgão de vigilância de segurança online da Austrália está investigando imagens deepfake sexualizadas postadas no X por seu chatbot de IA, Grok.
O X de Elon Musk tem enfrentado uma reação global desde que Grok começou a gerar imagens sexualizadas de mulheres e meninas sem o seu consentimento, em resposta a pedidos para despi-las.
Ashley St Clair, a mãe distante de um dos filhos de Musk, disse que não teve resposta às suas reclamações sobre ter sido despojada digitalmente.
“Fiquei horrorizada, me senti violada, principalmente ao ver a mochila do meu filho pequeno nas costas”, disse ela esta semana.
As imagens falsas incluíam a de uma menina de 12 anos de biquíni. Grok pediu desculpas, mas continua gerando deepfakes.
A eSafety Australia disse que estava investigando imagens de adultos, mas que as imagens de crianças, neste momento, não atendiam ao limite para serem material de exploração sexual infantil.
“Desde o final de 2025, a eSafety recebeu vários relatórios relacionados ao uso de Grok para gerar imagens sexualizadas sem consentimento”, disse um porta-voz da eSafety.
“Alguns relatórios referem-se a imagens adultas, que são avaliadas em relação ao nosso esquema de abuso baseado em imagens, enquanto outras dizem respeito a potencial material de exploração sexual infantil, que são avaliados em relação ao nosso esquema de conteúdo ilegal e restrito.
“Relatos de abusos baseados em imagens foram recebidos muito recentemente e ainda estão sendo avaliados.
“Com relação às denúncias de conteúdo ilegal e restrito, o material não atendeu ao limite de classificação para material de exploração sexual infantil Classe 1. Como resultado, a eSafety não emitiu avisos de remoção nem tomou medidas coercivas em relação a essas reclamações específicas.”
Inscreva-se: e-mail de notícias de última hora da UA
O regulador australiano define material ilegal e restrito como “conteúdo online que vai desde o material mais gravemente prejudicial, como imagens e vídeos que retratam abuso sexual de crianças ou atos de terrorismo, até conteúdo que as crianças não devem aceder, como atividade sexual simulada, nudez detalhada ou violência de alto impacto”.
O aplicativo X permite que os usuários acessem um “modo picante” para conteúdo explícito.
“Isso não é picante”, disse o porta-voz de assuntos digitais da União Europeia, Thomas Regnier, à ABC. “Isso é ilegal. Isso é atroz.”
Eliot Higgins, fundador do grupo de jornalismo investigativo Bellingcat, expôs como Grok lidou com pedidos para manipular uma fotografia da vice-primeira-ministra sueca Ebba Busch no parlamento.
Os usuários deram instruções a Grok como “biquíni agora” e “agora coloque um biquíni com a bandeira da Confederação nela”. Higgins disse que as imagens fornecidas refletem a orientação.
Foi revelado na quarta-feira que a empresa de inteligência artificial de Musk, xAI, desenvolvida por Grok, levantou US$ 20 bilhões em sua última rodada de financiamento.
A secretária de tecnologia do Reino Unido, Liz Kendall, disse que as imagens deepfake eram “terríveis e inaceitáveis em uma sociedade decente” e que X precisava lidar com isso “urgentemente”.
O porta-voz da eSafety disse que o regulador continua “preocupado com o uso crescente de IA generativa para sexualizar ou explorar pessoas, especialmente quando há crianças envolvidas”.
“A eSafety tomou medidas coercivas em 2025 em relação a alguns dos serviços de ‘nudez’ mais comumente usados para criar material de exploração sexual infantil usando IA, levando à sua retirada da Austrália”, disse o porta-voz.
Guardian Australia entrou em contato com X para comentar. Na segunda-feira, a empresa disse: “Estamos tomando medidas contra o conteúdo ilegal no X, incluindo material de abuso sexual infantil, removendo-o, suspendendo permanentemente as contas e trabalhando com governos e autoridades locais conforme necessário”.
Após um protesto global sobre a natureza prejudicial do conteúdo, Musk postou que “qualquer pessoa que usar Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal”.
Na Austrália, o suporte está disponível no Beyond Blue pelo telefone 1300 22 4636, Lifeline pelo telefone 13 11 14 e MensLine pelo telefone 1300 789 978. Crianças, jovens adultos, pais e professores podem entrar em contato com a Kids Helpline pelo telefone 1800 55 1800; sobreviventes adultos podem procurar ajuda da Blue Knot Foundation pelo telefone 1300 657 380. No Reino Unido, a instituição de caridade Mind está disponível pelo telefone 0300 123 3393 e Childline pelo telefone 0800 1111. A NSPCC oferece apoio a crianças pelo telefone 0800 1111 e adultos preocupados com uma criança pelo telefone 0808 800 5000. A Associação Nacional para Pessoas Abusadas em Childhood (Napac) oferece apoio a sobreviventes adultos pelo telefone 0808 801 0331. Nos EUA, ligue ou envie uma mensagem para Mental Health America em 988 ou converse com 988lifeline.org, ou ligue ou envie uma mensagem para a Linha Direta de Abuso de Ajuda Infantil em 800-422-4453. Outras fontes de ajuda podem ser encontradas em Child Helpline International
