A Indonésia bloqueou temporariamente o chatbot Grok de Elon Musk devido ao risco de conteúdo pornográfico gerado por IA, tornando-se o primeiro país a negar acesso à ferramenta de IA.
A medida ocorre depois que governos e reguladores da Europa à Ásia condenaram e alguns abriram investigações sobre conteúdo sexualizado no aplicativo.
xAI, a startup por trás do Grok, disse que estava restringindo a geração e edição de imagens a assinantes pagantes enquanto tentava corrigir falhas de proteção que permitiam resultados sexualizados, incluindo representações de crianças seminuas.
“O governo considera a prática de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse o Ministro das Comunicações e Digital Meutya Hafid num comunicado.
O ministério também convocou funcionários do X para discutir o assunto.
Musk disse no X que qualquer pessoa que usar o Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal. xAI respondeu ao e-mail da Reuters solicitando comentários com o que parecia ser uma resposta automática: “Legacy Media Lies”.
X não respondeu imediatamente a um pedido de comentário. A Indonésia, com a maior população muçulmana do mundo, tem regras rigorosas que proíbem a partilha de conteúdos considerados obscenos online.
A Comissão Europeia ordenou que X retenha todos os documentos relacionados ao seu chatbot de IA por mais tempo enquanto o bloco garante o cumprimento de suas regras, depois de condená-lo por produzir imagens sexualizadas, disse um porta-voz na quinta-feira.
A Suécia juntou-se ao coro de críticas dizendo que as imagens geradas por IA eram inaceitáveis, depois que o vice-primeiro-ministro do país foi atacado por um usuário Grok esta semana.
O primeiro-ministro sueco, Ulf Kristersson, descreveu as imagens como “uma espécie de violência sexualizada” e disse: “É nojento, inaceitável e ofensivo”.
xAI impôs algumas restrições ao recurso de imagem de seu chatbot Grok no X após reação generalizada. Os usuários puderam pedir a Grok diretamente no X para editar fotos de pessoas, incluindo remover peças de roupa e colocá-las em poses sexualizadas, muitas vezes sem o seu consentimento. Grok então postou essas imagens em respostas na plataforma de mídia social.
