A xAI de Elon Musk anunciou que bloqueará a capacidade de sua ferramenta Grok AI de alterar imagens de pessoas reais e colocá-las em “roupas reveladoras como biquínis”, em meio a uma reação global sobre a ferramenta ser usada para gerar imagens explícitas.
A medida ocorreu poucas horas depois de o bilionário dizer que não tinha conhecimento de quaisquer “imagens de menores nus” tiradas por Grok.
O escrutínio de Grok intensificou-se em todo o mundo, com algumas pessoas a utilizá-lo para despir digitalmente mulheres e crianças sem o seu consentimento e publicar essas imagens no X. Milhares destas imagens sexualizadas de IA inundaram o X nas últimas semanas. xAI, que fabrica Grok, também possui X; ambos são liderados por Musk.
“Isso adiciona uma camada extra de proteção, ajudando a garantir que as pessoas que tentam abusar da conta Grok para violar a lei ou nossas políticas possam ser responsabilizadas”, postou a empresa no X na noite de quarta-feira. Afirmou também que tem “tolerância zero para qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”.
As mudanças anunciadas pela X na quarta-feira serão aplicadas a todos os usuários da plataforma de mídia social, até mesmo aos assinantes pagantes, disse a empresa. X não especificou, entretanto, se as pessoas ainda seriam capazes de criar esses tipos de imagens no aplicativo Grok independente.
Mais cedo na quarta-feira, Musk escreveu em um post no X: “Não tenho conhecimento de nenhuma imagem de menores nus gerada por Grok. Literalmente zero”. O XAI e o X de Musk têm enfrentado reações crescentes em todo o mundo, incluindo uma investigação do procurador-geral da Califórnia e apelos de legisladores e grupos de defesa para que Apple e Google removam Grok das lojas de aplicativos. Os reguladores do Reino Unido também lançaram uma investigação e países como a Malásia e a Indonésia lançaram proibições ou ações legais.
Musk disse que Grok foi programado para rejeitar solicitações ilegais e deve cumprir as leis de qualquer país ou estado.
“Obviamente, Grok não gera imagens espontaneamente. Ele o faz apenas com base nas solicitações dos usuários”, disse Musk na quarta-feira.
Musk já havia dito no X que qualquer pessoa que usasse o Grok para criar conteúdo ilegal sofreria as mesmas consequências que sofreria se carregasse conteúdo ilegal.
Três senadores democratas dos EUA pediram na semana passada que a Apple e o Google, da Alphabet, removessem o X e sua ferramenta de inteligência artificial Grok de suas lojas de aplicativos, citando a disseminação de imagens sexuais não consensuais de mulheres e menores na plataforma.
Uma coligação de grupos de mulheres, defensores da tecnologia e activistas progressistas também apelou aos gigantes da tecnologia para tomarem medidas semelhantes.
Na semana passada, X limitou a capacidade de Grok de gerar ou editar imagens publicamente para usuários que não eram assinantes pagantes. No entanto, especialistas da indústria e vigilantes disseram que Grok ainda era capaz de produzir imagens sexualmente explícitas e que restrições, como acesso pago a certos recursos, podem não bloquear completamente o acesso a ferramentas de imagem de IA mais profundas.
No Reino Unido, a lei vai mudar esta semana para criminalizar a criação de tais imagens, e o primeiro-ministro Keir Starmer disse na quarta-feira que X estava trabalhando para cumprir as novas regras. O regulador de comunicações Ofcom está investigando a ferramenta de inteligência artificial.
X e xAI não retornaram um pedido de comentário.
Relatórios contribuídos pela Reuters
