A Comissão Europeia abriu uma investigação contra a empresa de tecnologia norte-americana X por causa do seu chatbot de inteligência artificial Grok, depois de ter criado imagens sexualizadas de mulheres e crianças.
“As falsificações sexuais não consensuais de mulheres e crianças são uma forma violenta e inaceitável de degradação”, disse a vice-presidente da Comissão Europeia, Henna Virkkunen, na segunda-feira.
A investigação irá investigar se
Receba as novidades do aplicativo 7NEWS: Baixe hoje
“Isto inclui riscos relacionados com a disseminação de conteúdos ilegais na UE, tais como imagens sexualmente explícitas manipuladas, incluindo conteúdos que podem constituir material de abuso sexual infantil”, afirmou.
“Estes riscos parecem ter-se materializado, expondo os cidadãos da UE a danos graves.”
A plataforma de mídia social de Elon Musk tem sido alvo de fortes críticas nas últimas semanas, depois que Grok permitiu que usuários substituíssem digitalmente roupas femininas por biquínis e, em alguns casos, criassem representações sexualizadas de menores.
Após prolongada indignação internacional, X introduziu algumas restrições em meados de janeiro.
Isso inclui impedir que Grok “permita a edição de imagens de pessoas reais revelando roupas como biquínis” e restringir o recurso de criação de imagens do chatbot de IA a assinantes pagos, disse X em um comunicado.
A comissão sublinhou que a abertura de uma investigação não prejudica o seu resultado.
O regulador de mídia britânico Ofcom também lançou uma investigação oficial sobre a plataforma online de Musk no início de janeiro sobre imagens sexualizadas criadas por Grok.
O primeiro-ministro britânico, Keir Starmer, chamou as imagens de IA de “absolutamente nojentas”.
As autoridades francesas também têm investigado Grok desde o ano passado.
A investigação original gira em torno de acusações de que os algoritmos da rede social foram alterados para dar mais atenção a conteúdos de extrema direita. Desde então, foram acrescentadas novas acusações de negação do Holocausto e de imagens sexuais.
Grok já foi proibido na Indonésia e na Malásia.
Na segunda-feira, Bruxelas também anunciou a prorrogação de uma investigação separada sobre X, iniciada em dezembro de 2023.
A comissão tem trabalhado para avaliar se o sistema de recomendação da plataforma, o algoritmo que sugere conteúdo aos usuários, “avaliou e mitigou adequadamente todos os riscos sistêmicos” no âmbito da Lei de Serviços Digitais (DSA) do bloco.
A investigação agora também cobriu “o impacto da mudança recentemente anunciada para um sistema de recomendação baseado em Grok”, disse a comissão.
