A Malásia juntou-se à França e à Índia em ações ameaçadoras contra Grok de Elon Musk depois que o chatbot de IA criou imagens sexualizadas de mulheres e crianças no X.
Grok, o chatbot de IA integrado do X, tem despido digitalmente mulheres e crianças até ficarem de biquíni em resposta às solicitações dos usuários.
A onda de nudez digital parece ter começado nos últimos dias, com base em pedidos de nudez concluídos postados por Grok e em reclamações de usuários.
As reclamações de abuso surgiram pela primeira vez no X no final de dezembro, depois que Grok implementou um botão “editar imagem”, permitindo aos usuários modificar qualquer imagem na plataforma.
Agora, a avalanche de imagens quase nuas de pessoas reais disparou alarmes em todo o mundo.
As autoridades malaias disseram no fim de semana que iniciaram uma investigação após alegações de que Grok estava sendo usado para manipular imagens de mulheres e menores em conteúdo indecente ou prejudicial.
A Comissão de Comunicações e Multimédia alertou que a criação ou transmissão de tal conteúdo prejudicial era um crime ao abrigo da lei malaia. Ele disse que o órgão de fiscalização da mídia investigaria os usuários X que supostamente infringiram a lei e convocaria representantes da empresa.
“Embora X não seja atualmente um fornecedor de serviços autorizado, tem o dever de impedir a propagação de conteúdo prejudicial na sua plataforma”, afirmou.
Além de deixá-las apenas de biquíni, o chatbot também produziu imagens adulteradas de mulheres malaias sem véu, de acordo com Novos tempos do estreito.
Musk pareceu zombar da polêmica na sexta-feira, postando emojis de riso e choro em resposta às edições de IA de pessoas famosas, incluindo ele mesmo, em biquínis.
Quando um usuário X disse que sua conta nas redes sociais parecia um bar cheio de mulheres de biquíni, Musk respondeu, em parte, com outro emoji de riso e choro.
No entanto, à medida que a reação crescia, Musk disse no domingo que a plataforma estava tomando medidas contra conteúdos ilegais, incluindo postagens relacionadas a crianças, removendo-os e suspendendo permanentemente as contas.
“Qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se tivesse carregado conteúdo ilegal”, disse ele em um post.
As autoridades indianas escreveram a X na sexta-feira, ordenando uma revisão completa do chatbot de IA para garantir que ele não gere conteúdo contendo “nudez, sexualização, conteúdo sexualmente explícito ou ilegal”.
Delhi ordenou que a plataforma apresentasse um relatório sobre as medidas corretivas tomadas ao Ministério de Eletrônica e Tecnologia da Informação dentro de 72 horas, alertando que o não cumprimento poderia levar a ações sob leis criminais e de TI.
O governo também disse que poderia considerar uma regulamentação mais rigorosa das plataformas de mídia social sobre conteúdo inadequado gerado por IA.
A França também acusou Grok de gerar conteúdo sexual “claramente ilegal” no X sem o consentimento das pessoas, acrescentando que as imagens criadas por Grok violavam potencialmente a Lei de Serviços Digitais da UE.
Enquanto isso, a promotoria de Paris ampliou a investigação sobre X com novas acusações de que Grok estava sendo usado para gerar e divulgar conteúdo sobre abuso infantil.
A investigação sobre o X foi lançada pela primeira vez em julho, depois que relatos afirmaram que o algoritmo da plataforma estava sendo manipulado para permitir interferência estrangeira.
Dani Pinter, diretora jurídica e diretora do Centro Jurídico do Centro Nacional de Exploração Sexual, disse que X não conseguiu extrair imagens abusivas de seu material de treinamento em inteligência artificial.
“Esta foi uma atrocidade totalmente previsível e evitável”, disse Pinter à Reuters.
