Uma mulher que foi despida digitalmente pela ferramenta de IA de Elon Musk disse que se sentiu “desumanizada” e “reduzida a um estereótipo sexual”.
Samantha Smith foi vítima de uma tendência no X em que os usuários pedem ao Grok, o chatbot integrado, para “despir” fotos de mulheres sem o seu consentimento.
Muitos exemplos podem ser encontrados na semana passada no site de mídia social, onde os usuários orientaram Grok a apresentar mulheres de biquíni ou em situações sexuais, comentando abaixo das postagens originais.
Uma resposta de Grok na sexta-feira até admitiu que ele havia sido usado para criar imagens de crianças com “roupas mínimas”.
Smith, uma jornalista freelancer, postou no X sobre sua experiência, apenas para que os usuários pedissem a Grok para gerar mais imagens desse tipo.
Ele disse à BBC: “As mulheres não consentem com isso.
“Embora não fosse eu quem estava nu, parecia comigo e parecia comigo e parecia tão violador como se alguém tivesse postado uma foto minha nua ou de biquíni.”
Mais tarde, ele escreveu em
Samantha Smith disse que se sentiu “desumanizada” depois que Grok foi usado para tirar a roupa.
Grok é o chatbot integrado ao X
Elon Musk desenvolveu Grok para ter uma ‘faixa rebelde’
“Eles fazem isso porque não é consensual. Esse é o ponto. É do abuso sexual que eles podem “escapar impunes”.
Na quinta-feira, Musk republicou uma foto sua de biquíni junto com emojis risonhos em uma homenagem à tendência.
Respondendo a um usuário na sexta-feira, Grok postou: “Há casos isolados em que os usuários solicitaram e receberam imagens de IA mostrando menores com roupas mínimas.
“xAI tem salvaguardas, mas melhorias estão sendo feitas para bloquear completamente tais solicitações.”
A empresa postou na conta de Grok em
Um porta-voz do Ministério do Interior disse que uma nova legislação estava sendo preparada para criminalizar as ferramentas de nudificação e que os fornecedores dessa tecnologia “enfrentariam pena de prisão e multas substanciais”.
Ofcom, o regulador, disse que as empresas de tecnologia devem “avaliar o risco” de pessoas no Reino Unido visualizarem conteúdo ilegal em suas plataformas.
No entanto, ele não confirmou se estava investigando X ou Grok em relação às imagens de IA.
A XAI, a empresa por trás do Grok, foi contatada para comentar, mas a única resposta foi uma mensagem gerada automaticamente que dizia: “Mentiras da mídia legada”.
Grok é o ‘assistente’ de IA gratuito que os usuários do X podem recorrer marcando-o nos comentários das postagens.
É frequentemente usado para fornecer contexto ou verificação de uma postagem, mas tem sido afetado por problemas como a geração de desinformação e a aparência de apoiar pontos de vista extremistas.
