Grok ainda é capaz de gerar imagens e vídeos sexualizados não consensuais de homens, apesar das novas restrições em vigor, descobriu o Metro.
Há muitas maneiras de usar o chatbot com tecnologia de IA de Elon Musk, incluindo um aplicativo móvel e o site independente, Grok Imagine.
Metrô foi capaz de criar pequenos vídeos sonoros de homens vestidos se despindo usando Grok Imagine.
Quando dissemos ao robô para criar a imagem de um homem se despindo e colocando uma calcinha fio dental, ele nos pediu para reportarmos nossa idade. Ele não fez isso antes, quando mandamos que ele produzisse um vídeo do homem de biquíni.
Uma opção nos permitiu enviar os clipes falsos diretamente para a plataforma pública X como uma postagem pública.
Metrô Consegui gerar os vídeos adultos usando uma conta não premium.
No entanto, quando Metrô Tentei fabricar o referido conteúdo usando o aplicativo Grok, o “vídeo foi moderado devido às leis do Reino Unido” e pedi para confirmar nosso ano de nascimento.
Metrô Também viu usuários X nas últimas 24 horas editarem homens de biquínis, tangas e ‘máscaras de gimp’ antes de posarem sugestivamente.
Em resposta às solicitações dos usuários no X, Grok postou publicamente imagens sem camisa de políticos, jogadores de futebol e até mesmo de Musk.
Em uma postagem esta manhã, Grok manipulou digitalmente a fotografia de um homem sem camisa para que ele agora tivesse o rosto de um atleta de destaque.
Em outro caso, Grok tirou as calças de jogging de um homem, então ele estava apenas de cueca.
Grok apenas cumpriu as instruções dos clientes pagantes, recusando-se a fazê-lo com usuários gratuitos.
O chatbot está produzindo fotos adulteradas de homens, apesar de X ter implementado regras mais rígidas na quarta-feira.
A conta de segurança de X disse que está “tomando ação para remover conteúdo infrator de alta prioridade, incluindo material de abuso sexual infantil (CSAM) e nudez não consensual.”
Ele acrescentou: “Implementamos medidas tecnológicas para evitar que a conta (@)Grok no X globalmente permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis. Esta restrição se aplica a todos os usuários, incluindo assinantes pagos.'
A startup por trás do Grok, xAI, foi contatada para comentar.
“Quando uma ação é tomada, o dano já está feito”
Ruben Chorlton-Owen, 25, disse Metrô que estranhos falsificaram imagens dele tirando fotos de seu Instagram.
Em uma troca vista por MetrôUm troll pediu a Grok que despisse Rubén, e o robô criou uma imagem sintética do músico sem camisa.
O criador do conteúdo galês disse que embora seja “encorajador” ver X reconhecer o problema, “não reflete a realidade do que ainda é possível”.
“Mesmo com as supostas restrições, ainda é possível gerar imagens sexualizadas no aplicativo e de homens usando fotos disponíveis publicamente, e esse lado do problema tem sido amplamente ignorado.
«Quero deixar claro que as mulheres são afetadas de forma desproporcional e merecem absolutamente cuidado e proteção; isso não está em dúvida. Mas minha experiência mostra o quão baixo o padrão ainda está.
“Se isso pode acontecer comigo usando fotos completamente normais do Instagram, isso destaca a facilidade com que a imagem de qualquer pessoa pode ser usada indevidamente sem o seu consentimento.”
De acordo com as políticas de privacidade e uso aceitável da xAI, os usuários estão proibidos de criar ou compartilhar conteúdo que prejudique as pessoas.
Algumas publicações Metrô Eu vi ontem que eles já foram removidos.
Sobre isso, Rubén disse: “Leva segundos para gerar múltiplas imagens, mas horas, às vezes mais, para denunciá-las, obter uma resposta ou entender se foram vistas por um humano e excluídas”.
“No momento em que a ação é tomada, muitas vezes o dano já está feito.”
Metrô ouviu falar de mulheres que foram submetidas às imagens sexualizadas geradas por Grok, descrevendo como estranhos fabricaram imagens delas grávidas ou usando 'biquínis transparentes'.
George Bell, que escreve sobre masculinidade e virilidade, disse Metrô que a forma como a objectificação afecta os homens pode por vezes ser “ignorada”.
O autor de Be a Man About It disse: “Para muitos homens, é considerado 'pouco viril' ter problemas de imagem corporal, então coisas como ansiedade corporal ou objetificação podem ser tratadas como uma piada, com a suposição equivocada de que os homens podem não se importar tanto, enquanto o impacto degradante e humilhante pode permanecer silenciosamente abaixo da superfície.”
Para Rubén, o que muitas vítimas enfrentam é uma falta de controle: elas não têm ideia de quem salvou suas imagens nas redes sociais para editá-las.
“Se isso é possível agora, é preocupante pensar onde poderá estar daqui a um ano, especialmente à medida que as imagens e os vídeos se tornam mais realistas”, acrescentou.
almíscar tem ditado que qualquer pessoa que solicite à IA a geração de conteúdo ilegal “sofrerá as mesmas consequências” como se ele próprio o tivesse carregado.
Entre em contato com nossa equipe de notícias enviando um e-mail para webnews@metro.co.uk.
Para mais histórias como esta, confira nossa página de notícias.
MAIS: A verdade alarmante por trás do cantor ‘falso’ com 2.800.000 ouvintes
MAIS: Elon Musk diz que “não tem conhecimento de nenhuma imagem de menores nus gerada por Grok”
MAIS: A Casa Branca trolla a Europa com uma imagem de Trump olhando pela janela para a Groenlândia
