Grok, a ferramenta de inteligência artificial de Elon Musk, está enfrentando uma reação internacional crescente por gerar deepfakes sexualizados de mulheres e menores, com a União Europeia aderindo à condenação e o Reino Unido alertando sobre uma investigação.
Reclamações de abuso inundaram a internet após o recente lançamento de um botão “editar imagem” no Grok, que permitia aos usuários alterar imagens online com mensagens como “colocá-la de biquíni” ou “tirar a roupa”.
A onda de nudez digital, que se segue às preocupações crescentes entre ativistas tecnológicos sobre a proliferação de aplicações de “nudificação” de IA, levou a investigações rápidas e apelos a ações corretivas por parte de países como França, Índia e Malásia.
A Comissão Europeia, que atua como vigilante digital da UE, disse que estava “investigando muito seriamente” as reclamações sobre o Grok, desenvolvido pela startup xAI de Musk e integrado em sua plataforma de mídia social X.
“Grok agora oferece um ‘modo picante’ que exibe conteúdo sexual explícito, com alguns resultados gerados a partir de imagens infantis”, disse o porta-voz de assuntos digitais da UE, Thomas Regnier.
“Isso não é picante. É ilegal. É assustador”, disse ele.
“Isto não tem lugar na Europa.“
O regulador de mídia do Reino Unido, Ofcom, disse que fez “contato urgente com X e xAI para entender quais medidas eles tomaram para cumprir suas obrigações legais de proteger os usuários no Reino Unido”.
Dependendo da resposta, o Ofcom “determinará se há possíveis problemas de conformidade que justifiquem uma investigação”.
A advogada malaia Azira Aziz expressou horror depois que uma usuária, aparentemente nas Filipinas, encorajou Grok a mudar sua “foto de perfil para um biquíni”.
“O uso inocente e lúdico da IA, como colocar óculos escuros em figuras públicas, é aceitável”, disse ele à AFP.
“Mas a violência baseada no género que utiliza a IA como arma contra mulheres e crianças que não consentem deve ser firmemente combatida.
Aziz pediu aos usuários que relatassem violações a X e às autoridades da Malásia.
Outros usuários do X imploraram diretamente a Musk que tomasse medidas contra aparentes pedófilos “que estavam pedindo a Grok para colocar biquínis em crianças”.
“Grok agora está me despindo em fotos minhas quando criança”, escreveu Ashley St. Clair, mãe de um dos filhos de Musk, no X.
“Isto é objetivamente horrível, ilegal.“
Quando a AFP nos contatou para comentar, a xAI respondeu com uma resposta concisa e automatizada: “Legacy Media Lies”.
França, Malásia e Índia agem
Em meio à tempestade online, Grok tentou garantir aos usuários na sexta-feira que estava lutando para corrigir falhas na ferramenta.
“Identificamos lacunas nas salvaguardas e estamos corrigindo-as com urgência”, disse Grok no X.
“CSAM (Material de Abuso Sexual Infantil) é ilegal e proibido.”
Separadamente, na semana passada Grok postou um pedido de desculpas por gerar e compartilhar “uma imagem de IA de duas meninas (idade estimada entre 12 e 16 anos) em roupas sexualizadas com base na mensagem de um usuário”.
A avalanche de reações ocorreu depois que os promotores de Paris ampliaram, na semana passada, uma investigação sobre X para incluir novas alegações de que Grok estava sendo usado para gerar e disseminar pornografia infantil.
A Comissão Europeia diz que está “estudando muito seriamente” as reclamações sobre o Grok de Elon Musk. (AP: Leon Neal/Arquivo)
A investigação inicial contra X foi aberta em julho, após relatos de que o algoritmo da plataforma estava sendo manipulado para provocar interferência estrangeira.
Na sexta-feira, as autoridades indianas ordenaram que X removesse conteúdo sexualizado, tomasse medidas drásticas contra usuários ofensores e enviasse um “Relatório de ações tomadas” dentro de 72 horas, ou enfrentaria consequências legais, informou a mídia local.
O prazo expirou na segunda-feira, mas até agora não houve atualização sobre se X respondeu.
A Comissão de Comunicações e Multimídia da Malásia também expressou “séria preocupação” no fim de semana com reclamações públicas sobre conteúdo “indecente e grosseiramente ofensivo” no X.
Ele acrescentou que está investigando as violações e convocará os representantes de X.
As críticas somam-se ao crescente escrutínio de Grok, que tem enfrentado críticas por espalhar desinformação sobre crises recentes, como a guerra em Gaza, o conflito entre a Índia e o Paquistão, bem como o ataque terrorista de Bondi.
AFP
