A Indonésia bloqueou temporariamente o chatbot Grok de Elon Musk no sábado devido ao risco de conteúdo pornográfico gerado por IA, tornando-se o primeiro país a negar acesso à ferramenta de IA.
A medida ocorre depois que governos, pesquisadores e reguladores da Europa à Ásia condenaram e alguns abriram investigações sobre conteúdo sexualizado no aplicativo.
xAI, a startup por trás do Grok, disse na quinta-feira que estava restringindo a geração e edição de imagens a assinantes pagantes enquanto tentava corrigir falhas de proteção que permitiam resultados sexualizados, incluindo representações de crianças seminuas.
“O governo considera a prática de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse a ministra das Comunicações e Digital, Meutya Hafid, num comunicado.
O ministério também convocou funcionários do X para discutir o assunto.
Musk disse no X que qualquer pessoa que usar o Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal.
xAI respondeu ao e-mail da Reuters solicitando comentários com o que parecia ser uma resposta automática: “Legacy Media Lies”. X não respondeu imediatamente a um pedido de comentário.
A Indonésia, com a maior população muçulmana do mundo, tem regras rigorosas que proíbem a partilha de conteúdos considerados obscenos online.
O bloqueio da Indonésia ocorre depois que Grok desativou seu recurso de criação de imagens na sexta-feira para a grande maioria dos usuários, após protestos generalizados sobre seu uso para criar imagens sexualmente explícitas e violentas.
Musk também foi ameaçado com multas, ações regulatórias e relatórios sobre uma possível proibição do X no Reino Unido.
A ferramenta também tem sido usada para manipular imagens de mulheres para tirar suas roupas e colocá-las em posições sexualizadas. O recurso para fazer isso foi desativado, exceto para assinantes pagantes.
O primeiro-ministro australiano, Anthony Albanese, também expressou preocupação com o uso de inteligência artificial no chatbot Grok para permitir conteúdo sexual exploratório.
O primeiro-ministro juntou-se no sábado a uma lista crescente de líderes internacionais, incluindo o seu homólogo britânico Keir Starmer, ao criticar a plataforma de mídia social.
“O uso de IA generativa para explorar ou sexualizar pessoas sem o seu consentimento é abominável”, disse ele aos jornalistas em Camberra.
“Acho que o fato de essa ferramenta ter sido usada para fazer com que as pessoas usassem seu recurso de criação de imagens por meio do Grok é completamente abominável.
“Isto, mais uma vez, é um exemplo de que as redes sociais não conseguem mostrar responsabilidade social e os australianos e, na verdade, os cidadãos globais merecem melhor.”
Embora o número de relatórios recebidos pelo eSafety Office da Austrália permaneça pequeno, este afirma que houve um aumento recente relacionado com o uso de Grok para criar imagens sexualizadas ou exploradoras.
O órgão de vigilância alertou na sexta-feira que usaria seus poderes, incluindo avisos de remoção, quando tal material atendesse aos limites definidos na Lei de Segurança Online.
“X, Grok e uma ampla gama de outros serviços também estão sujeitos a obrigações de segurança sistêmicas para detectar e remover a exploração sexual infantil e outros materiais ilegais como parte dos códigos e padrões da indústria líderes mundiais da Austrália”, afirmou.
Com Reuters e AAP
