O chatbot de IA de Elon Musk, Grok, está impedindo a maioria dos usuários de gerar ou editar imagens depois que uma reação global eclodiu depois que ele começou a vomitar deepfakes sexualizados de pessoas.
O chatbot, acessado através da plataforma de mídia social X de Musk, atendeu nas últimas semanas uma onda do que os pesquisadores dizem serem pedidos de usuários mal-intencionados para modificar imagens, incluindo colocar mulheres em biquínis ou posições sexualmente explícitas.
Os investigadores notaram que, em alguns casos, algumas imagens pareciam representar crianças.
Receba as novidades do aplicativo 7NEWS: Baixe hoje
Governos de todo o mundo condenaram a plataforma e abriram investigações sobre a plataforma.
Na sexta-feira, Grok respondia aos pedidos de alteração de imagens com a mensagem: “A geração e edição de imagens estão atualmente limitadas a assinantes pagantes. Você pode se inscrever para desbloquear esses recursos.”
Embora a contagem de assinantes de Grok não esteja disponível publicamente, houve uma diminuição notável no número de deepfakes explícitos que Grok gera em comparação com os dias anteriores.
A União Europeia criticou Grok por comportamento “ilegal” e “terrível”, enquanto autoridades da França, Índia, Malásia e um legislador brasileiro pediram investigações.
Na quinta-feira, o primeiro-ministro britânico, Keir Starmer, ameaçou tomar medidas não especificadas contra X.
“Isso é vergonhoso. É nojento. E não deveria ser tolerado”, disse Starmer à rádio Greatest Hits.
“X tem que controlar isso.”
Ele disse que o regulador de mídia Ofcom “tem todo o nosso apoio para agir” e que “todas as opções” estão sobre a mesa.
“É nojento.
O Ofcom e o regulador de privacidade da Grã-Bretanha disseram esta semana que contataram X e a empresa de inteligência artificial de Musk, xAI, para obter informações sobre as medidas que tomaram para cumprir as regulamentações britânicas.
Grok é gratuito para usuários X, que podem fazer perguntas a ele na plataforma de mídia social.
Eles podem marcar você em postagens que criaram diretamente ou em respostas a postagens de outros usuários.
Grok será lançado em 2023. No verão passado, a empresa adicionou um recurso de geração de imagens, Grok Imagine, que incluía o chamado “modo picante” que pode gerar conteúdo adulto.
O problema é amplificado porque Musk apresenta o seu chatbot como uma alternativa mais ousada aos seus rivais com mais salvaguardas e porque as imagens de Grok são visíveis publicamente e podem, portanto, ser facilmente divulgadas.
