Uma reportagem revelou que criminosos usaram o chatbot de inteligência artificial de Elon Musk para criar imagens falsas de abuso infantil: a mãe de um de seus filhos alegou que fotos pornográficas dela quando adolescente também foram criadas e compartilhadas.
Ashley St Clair, uma das muitas pessoas com quem Elon Musk teve filhos, afirmou que a ferramenta de IA do bilionário Grok permitiu que as pessoas criassem pornografia falsa dela quando era adolescente.
O jovem de 31 anos criticou furiosamente o magnata da tecnologia sul-africano em meio a um escândalo crescente de que criminosos usaram o chatbot para criar imagens falsas de abuso infantil. St Clair, que atualmente está envolvido em uma batalha pela custódia de Musk por seu filho Romulus, de um ano, afirmou que Grok foi usado para criar imagens perturbadoras dela geradas por usuários quando ela tinha apenas 14 anos. A influenciadora disse que está se manifestando depois que seus amigos a alertaram sobre as imagens chocantes.
St Clair disse: “Descobri que Grok estava me despindo e tirou uma foto minha totalmente vestida, alguém me pediu para colocar um biquíni e ele o fez”.
O jovem de 31 anos, em declarações à Inside Edition, acrescentou: “Estas são fotos reais minhas que eles tiraram e me fizeram despir. Eles encontraram uma foto minha quando eu tinha 14 anos e me fizeram, que tinha 14 anos, me despir e me colocar de biquíni.
St Clair disse ao programa que relatou as imagens falsas a Grok e pediu ao chatbot de IA para removê-las. Ela afirmou que o serviço de IA voltou para ela com resultados mistos.
Ele acrescentou: “Alguns conseguiram, alguns levaram 36 horas e alguns ainda estão funcionando”. A furiosa mãe também alegou que sua conta X, na plataforma de propriedade de seu pai, foi afetada após a denúncia e ela teria recebido uma violação dos termos de serviço.
Sobre
Isso ocorre em meio à fúria de outros usuários do X depois que a Internet Watch Foundation (IWF) relatou que criminosos usaram Grok para criar imagens falsas de abuso infantil.
Algumas pessoas começaram a usar indevidamente o recurso de IA integrado no X, pedindo-lhe para retirar digitalmente imagens de outras pessoas sem o seu consentimento, colocando-as em biquínis e em situações sexuais. Grok é feito pela xAI, empresa de tecnologia fundada por Elon Musk. A empresa também possui a plataforma social X, anteriormente conhecida como Twitter.
Ngaire Alexander, chefe da linha direta da IWF, disse à Sky News: “Após relatos de que o chatbot de IA Grok gerou imagens sexuais de crianças, podemos confirmar que nossos analistas descobriram imagens criminosas de crianças com idades entre 11 e 13 anos que parecem ter sido criadas usando a ferramenta.”
Musk respondeu ao clamor tornando a criação de deepfakes um “serviço premium”. O governo do Reino Unido considerou a medida “um insulto às vítimas de misoginia e violência sexual” e disse que não era uma solução para o problema.
