Isso incluía os riscos de propagação de conteúdos ilegais, como imagens sexualmente explícitas manipuladas, incluindo o que poderia ser material de abuso sexual infantil.
A comissão disse que os riscos “parecem ter se materializado, expondo os cidadãos da UE a danos graves”.
“Deepfakes sexuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, disse a vice-presidente executiva de Soberania Tecnológica, Segurança e Democracia, Henna Virkkunen.
“Com esta investigação, determinaremos se X cumpriu as suas obrigações legais ao abrigo da DSA (Lei dos Serviços Digitais) ou tratou os direitos dos cidadãos europeus, incluindo os das mulheres e crianças, como danos colaterais do seu serviço”.
“eSafety continua preocupado com o uso do Grok em
“Embora o número de relatórios que a eSafety recebeu permaneça pequeno, a eSafety viu um aumento recente de quase nenhum para vários relatórios nas últimas semanas relacionados ao uso de Grok para gerar imagens sexualizadas ou exploradoras.
“A eSafety usará seus poderes, incluindo avisos de remoção, quando apropriado e quando o material atender aos limites relevantes definidos na Lei de Segurança Online.”
A comissão disse que já havia tomado medidas coercivas em 2025 sobre alguns serviços de “nudificação” usados para criar material de exploração sexual infantil de IA.
A Comissão de Segurança Eletrônica não confirmou se recebeu uma resposta de X.
Cerca de uma semana depois, o proprietário do X, Musk, disse estar ciente de “literalmente zero” imagens de menores nus geradas por Grok.
“Obviamente, Grok não gera imagens espontaneamente, ele o faz apenas de acordo com as solicitações dos usuários”, disse ele em um post no X.
“Quando solicitado a gerar imagens, ele se recusará a produzir qualquer coisa ilegal, já que o princípio de funcionamento da Grok é obedecer às leis de qualquer país ou estado.
“Pode haver momentos em que adversários que invadem mensagens Grok fazem algo inesperado. Se isso acontecer, corrigimos o bug imediatamente.”
Ele também disse que deixaria de permitir que os usuários retratassem pessoas em “biquínis, roupas íntimas ou outras roupas reveladoras”, mas apenas em locais onde isso seja ilegal.
Desde então, o site de tecnologia The Verge descobriu que continua sendo “extremamente fácil despir as mulheres e editá-las em poses sexualizadas usando aplicativos ou sites móveis X e Grok”.
A Comissão Europeia disse que a sua investigação poderia incluir o envio de novos pedidos de informação a X, a realização de entrevistas ou inspeções e a imposição de medidas provisórias.
