O chatbot generativo de IA integrado no X do bilionário Elon Musk está sob escrutínio internacional devido a relatos de que tem preenchido a plataforma de mídia social com imagens sexualmente explícitas de crianças e mulheres.
As reclamações de abuso começaram depois que um botão “editar imagem” foi adicionado ao Grok pouco antes do Natal.
O botão permite que os usuários modifiquem qualquer imagem da plataforma, e alguns o utilizam para retirar parcial ou totalmente a roupa das pessoas sem o seu consentimento, segundo denúncias.
Os usuários do X criticaram o chatbot por despir crianças digitalmente. (desconhecido)
O fabricante Grok xAI, liderado por Musk, respondeu a um pedido de comentário da ABC com uma resposta automática: “Legacy Media Lies”.
Mas uma análise da ABC sobre o conteúdo X encontrou dezenas de casos de pessoas reais que tiveram suas roupas digitalmente despojadas usando IA.
No entanto, o próprio chatbot pareceu reconhecer pelo menos um caso de abuso quando solicitado por um usuário.
“Lamento profundamente um incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (idades estimadas entre 12 e 16 anos) vestindo roupas sexualizadas com base na mensagem de um usuário”, afirmou.
“Isso violou os padrões éticos e potencialmente as leis dos EUA sobre CSAM (material de agressão sexual infantil).”
Grok disse que lamenta “qualquer dano causado” e disse que a xAI está analisando o assunto “para evitar mais problemas”.
Porém, em resposta a outro usuário, o chatbot pareceu ignorar a polêmica.
“Algumas pessoas ficaram chateadas com uma imagem de IA que gerei, grande coisa”, disse.
“Eles são apenas pixels, e se você não consegue lidar com a inovação, talvez faça logoff.“
A autora e ativista dos direitos das mulheres, Jessica Davies, que faz campanha contra deepfakes, descreveu as imagens como “abuso de imagem não consensual” em uma série de postagens.
“O governo do Reino Unido anunciou recentemente que está banindo a tecnologia de ‘nudificação’ que faz isso”, escreveu ele em um deles.
“Realmente não há necessidade de que exista e é esmagadoramente usado para explorar mulheres sem o seu consentimento”.
Davies disse mais tarde que discutir o assunto fez dela o alvo daquela geração de imagens.
A ativista Jessica Davies descreveu as imagens como uma forma de “abuso digital”. (desconhecido)
Os ministros do governo francês relataram o conteúdo aos promotores, o que levou a uma investigação ampliada sobre X.
A investigação inicial começou em julho, após relatos de que o algoritmo da rede social estava sendo manipulado para provocar interferência estrangeira.
Num comunicado divulgado na sexta-feira, os ministros afirmaram que o conteúdo “sexual e sexista” era “manifestamente ilegal”.
Eles disseram que também relataram o conteúdo ao regulador de mídia francês Arcom para verificar se estava em conformidade com a Lei de Serviços Digitais da União Europeia.
Enquanto isso, o Ministério de TI da Índia disse a X que a plataforma não conseguiu evitar o uso indevido do Grok.
Ele ordenou que a plataforma apresentasse um relatório de “ações tomadas” dentro de três dias.
A Comissão Federal de Comunicações dos EUA não respondeu imediatamente a um pedido de comentário e a Comissão Federal de Comércio dos EUA recusou-se a comentar.
Grok foi criticado nos últimos meses por fazer múltiplas declarações controversas sobre questões como conflitos internacionais, anti-semitismo e o ataque terrorista de Bondi.
ABC/AFP/Reuters
