X de Elon Musk diz que a ferramenta de IA Grok não retirará mais fotos de pessoas reais após uma reação furiosa contra sua criação de deepfakes sexualizados.
O chatbot teria sido impedido de despir as pessoas até “roupas reveladoras”, enquanto Musk se curvava às crescentes críticas de governos e ativistas.
Um anúncio de
“Esta restrição se aplica a todos os usuários, incluindo assinantes pagos.”
Isso ocorre em meio à repulsa generalizada pela tendência em que Grok era usado para remover roupas femininas e até infantis sem o seu consentimento.
Muitas mulheres disseram que se sentiram violadas pela capacidade de estranhos criarem imagens comprometedoras delas contra a sua vontade, para que todos vissem.
O governo do Reino Unido, juntamente com outros, pressionou Musk para acabar com esta tendência repugnante, desencadeando um debate urgente sobre leis de segurança online e inteligência artificial.
Sir Keir Starmer chamou as imagens sexuais não consensuais produzidas de “nojentas” e “vergonhosas” e o regulador de mídia Ofcom lançou uma investigação.
Grok, o chatbot AI anexado ao X, não será mais capaz de produzir imagens sexualizadas de pessoas reais sem o seu consentimento
Musk cedeu à pressão de governos e ativistas, limitando as capacidades da sua ferramenta de inteligência artificial.
Parte da atualização sobre Grok que foi postada no X na noite de quarta-feira
Na semana passada, a capacidade de criar imagens com Grok foi limitada apenas aos usuários que pagaram uma assinatura mensal, mas mesmo eles não poderão produzir edições seminuas.
A redução total, anunciada ontem à noite, também ocorreu horas depois que o principal promotor da Califórnia disse que o estado estava investigando a recente disseminação de falsificações de IA.
Ontem, Grok começou a rejeitar tais pedidos, respondendo: “Infelizmente não consigo gerar esse tipo de imagem”.
Starmer saudou esse desenvolvimento nas Perguntas do Primeiro Ministro, mas insistiu que não foi suficientemente longe.
Ele insistiu que a investigação do Ofcom, que tem poderes para impor multas que chegam a bilhões de libras, iria adiante.
A secretária de tecnologia, Liz Kendall, disse esta semana que introduziria regulamentações para tornar mais rigorosa a lei sobre a chamada “remoção digital”.
Outros países agiram de forma mais decisiva, com a Malásia e a Indonésia bloqueando completamente Grok em meio ao fiasco.
Entretanto, o governo federal dos EUA recusou-se a condenar a criação de Musk, com o secretário da Defesa, Pete Hegseth, a dizer que Grok se juntaria ao motor gerador de inteligência artificial do Google para operar dentro da rede do Pentágono.
Falando aos deputados durante as perguntas do primeiro-ministro na terça-feira, Sir Keir disse que eram necessárias mais ações.
Depois que o primeiro-ministro exigiu que o bilionário americano da tecnologia parasse a criação de deepfakes, a ferramenta de mídia social começou a se recusar a atender às solicitações dos usuários.
O Departamento de Estado dos EUA até ameaçou o Reino Unido, alertando que “nada estava fora de questão” se X fosse banido.
Após os comentários do primeiro-ministro nos PMQs, Musk escreveu no X que “não tinha conhecimento de quaisquer imagens de menores nus geradas por Grok”, embora o próprio chatbot reconhecesse que havia criado imagens sexualizadas de crianças.
Musk continuou: “Obviamente, Grok não gera imagens espontaneamente, ele o faz apenas de acordo com as solicitações dos usuários”, disse ele.
'Quando solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, pois o princípio de funcionamento de Grok é obedecer às leis de qualquer país ou estado.
'Pode haver momentos em que a invasão de mensagens Grok por um adversário produza algo inesperado. Se isso acontecer, corrigiremos o erro imediatamente.”
Se for descoberto que X viola a Lei de Segurança Online no Reino Unido, o Ofcom pode impor uma multa de até dez por cento de sua receita global ou £ 18 milhões.
Você também tem o poder de tentar bloquear o site na Justiça.
O ex-chefe da Meta, Sir Nick Clegg, pediu uma regulamentação mais rígida das empresas de tecnologia, chamando as mídias sociais de um “cálice envenenado” e a ascensão da IA online de um “desenvolvimento negativo”.
O antigo vice-primeiro-ministro alertou que a interação com conteúdos “automatizados” parece ser “muito pior, especialmente para a saúde mental dos mais jovens” do que as interações com outros seres humanos.
