O X de Elon Musk impedirá que sua ferramenta de inteligência artificial Grok seja usada para editar imagens de pessoas reais para fazê-las aparecer em biquínis e outras roupas reveladoras, anunciou a plataforma.
A medida ocorreu no mesmo dia em que o estado da Califórnia anunciou que investigaria Grok como parte de um escândalo crescente alegando que a ferramenta de inteligência artificial está por trás de uma série de imagens sexuais não consensuais.
“Implementamos medidas tecnológicas para evitar que a conta de Grok permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis”, escreveu a equipe de segurança de X em um post na quarta-feira. “Esta restrição se aplica a todos os usuários, incluindo assinantes pagos.”
“Além disso, a criação de imagens e a capacidade de editar imagens através da conta Grok na plataforma X agora estão disponíveis apenas para assinantes pagos”, acrescentou a empresa. “Isso adiciona uma camada adicional de proteção, ajudando a garantir que as pessoas que tentam abusar da conta Grok para violar a lei ou nossas políticas possam ser responsabilizadas.”
Não está claro se estas alterações políticas se aplicam a pedidos de criação de imagens de pessoas nuas reais.
A investigação da Califórnia, anunciada pelo procurador-geral do estado, Rob Bonta, na quarta-feira, surge após a consternação global com o alegado fenómeno Grok, que levou países como a Malásia e a Indonésia a bloquear o chatbot nos últimos dias, enquanto outros, como o Reino Unido, iniciaram investigações.
“A avalanche de relatórios detalhando o material sexualmente explícito e não consensual que a xAI produziu e publicou online nas últimas semanas é chocante”, disse Bonta em comunicado. “Este material, que retrata mulheres e crianças nuas e em situações sexualmente explícitas, tem sido usado para assediar pessoas online. Peço à xAI que tome medidas imediatas para garantir que isto não vá mais longe.”
Bonta apontou para uma investigação da Reuters sobre exemplos de imagens explícitas não consensuais geradas no X, onde Grok está incorporado, bem como o chatbot que cria imagens sexualizadas de crianças.
A AI Forensics, uma organização sem fins lucrativos com sede em Paris, fez recentemente descobertas semelhantes e concluiu que mais de metade de todas as imagens geradas por IA em X são de adultos e crianças digitalmente despidos.
“Nossa análise de dezenas de milhares de imagens geradas por Grok quantifica a extensão do abuso”, disse Paul Bouchaud, pesquisador da AI Forensics, em comunicado compartilhado com o independente.
“As imagens sexuais não consensuais de mulheres, que por vezes parecem muito jovens, são mais difundidas do que excepcionais, juntamente com outros conteúdos proibidos, como o Estado Islâmico e a propaganda nazi, todos os quais demonstram uma falta de mecanismos de segurança significativos.”
As preocupações surgem à medida que os chatbots de IA se tornam mais prevalentes na vida diária e nas principais instituições. Esta semana, o Pentágono anunciou planos para integrar o Grok em seus fluxos de trabalho.
o independente entrou em contato com xAI para comentar.
“Não tenho conhecimento de nenhuma imagem de menores nus gerada por Grok”, escreveu Musk no X na quarta-feira. “Literalmente zero.”
“Quando solicitado a gerar imagens, ele se recusará a produzir qualquer coisa ilegal, pois o princípio de funcionamento da Grok é obedecer às leis de qualquer país ou estado”, acrescentou. “Pode haver momentos em que adversários que hackeam mensagens Grok produzam algo inesperado. Se isso acontecer, corrigimos o bug imediatamente.”
Um modo “NSFW” em Grok permitiu a nudez da parte superior do corpo de adultos imaginários, “consistente com o que pode ser visto em filmes censurados”, escreveu Musk em uma postagem separada, acrescentando que as regulamentações variam de acordo com o país. Não está claro se esse modo permanecerá com as mudanças anunciadas recentemente.
Musk acusou países que dirigem o escrutínio a X, como o Reino Unido, de quererem “suprimir a liberdade de expressão”.
Musk estava entre aqueles que desafiaram uma lei da Califórnia, que foi revogada em agosto passado, que exigiria que as plataformas de mídia social removessem deepfakes de candidatos políticos gerados por usuários durante a temporada eleitoral.
Musk há muito entra em conflito com legisladores estaduais e critica os líderes da Califórnia, e transferiu muitos de seus interesses comerciais para o Texas nos últimos anos.
