Ashley St. Clair, 27, diz que as imagens lhe causaram humilhação e sofrimento emocional: ela entrou com uma ação judicial contra a empresa de inteligência artificial do pai de seu filho.
A mãe de um dos filhos de Elon Musk está processando sua empresa de inteligência artificial depois que imagens falsas de exploração sexual dela foram supostamente publicadas.
Ashley St. Clair, 27, diz que o chatbot Grok da empresa permitiu que os usuários gerassem imagens falsas e de exploração sexual dela que lhe causaram humilhação e sofrimento emocional.
Autodenominada escritora e estrategista política, as alegações apresentadas em um processo movido na quinta-feira na cidade de Nova York contra a xAI afirmam que as imagens incluem uma foto dela totalmente vestida aos 14 anos, que foi alterada para mostrá-la de biquíni, e outras mostrando-a adulta em posições sexualizadas e usando um biquíni com suásticas. St. Clair é judeu.
Grok está na plataforma de mídia social X de Musk. Os advogados da xAI não responderam imediatamente aos e-mails solicitando comentários na sexta-feira, relata a Associated Press. Na quarta-feira, após uma reação global contra imagens sexualizadas de mulheres e crianças, X anunciou que Grok não seria mais capaz de editar fotos para retratar pessoas reais em roupas reveladoras, em locais onde isso é ilegal.
Quando questionado sobre o processo e suas alegações, xAI respondeu apenas “Mentiras da mídia tradicional” em um e-mail para a Associated Press.
Clair disse que denunciou os deepfakes ao X depois que eles começaram a aparecer no ano passado e pediu que fossem removidos. Ele disse que a plataforma respondeu primeiro que as imagens não violavam suas políticas. Ela então prometeu não permitir que imagens suas fossem usadas ou alteradas sem o seu consentimento, disse ela.
St. Clair disse que a plataforma social então retaliou contra ela removendo seu prêmio
“Sofri e continuo a sofrer fortes dores e angústia mental como resultado do papel da xAI na criação e distribuição dessas imagens minhas alteradas digitalmente”, disse ele em um documento anexado ao processo. “Sinto-me humilhado e sinto que este pesadelo nunca terá fim enquanto Grok continuar a gerar estas imagens de mim.”
Ele também disse que vive com medo das pessoas que veem seus deepfakes.
Clair é mãe do filho de 16 meses de Musk, Romulus. Ele mora na cidade de Nova York, onde entrou com a ação perante a Suprema Corte estadual. Ela está buscando uma quantia não revelada de indenização por suposta inflição de sofrimento emocional e outras reivindicações, bem como ordens judiciais proibindo imediatamente a xAI de permitir quaisquer outros deepfakes dela.
Mais tarde na quinta-feira, os advogados da xAI transferiram o processo para o tribunal federal de Manhattan e pediram a um juiz para ouvir o caso lá. E no mesmo dia, a xAI também contra-atacou a St. Clair no tribunal federal do Distrito Norte do Texas, alegando que ela violou os termos de seu contrato de usuário xAI que exige que ações judiciais sejam movidas contra a empresa no tribunal federal do Texas. Ele busca um julgamento monetário não revelado contra ele.
X está sediado no Texas, onde Musk possui uma casa e sua fabricante de carros elétricos Tesla está sediada em Austin.
Carrie Goldberg, advogada de St. Clair, classificou a reconvenção como uma medida “surpreendente” que ela nunca tinha visto antes de um réu. “A Sra. St. Clair defenderá vigorosamente seu fórum em Nova York”, disse Goldberg em comunicado. “Mas, francamente, qualquer jurisdição reconhecerá a seriedade das alegações da Sra. St. Clair: que ao fabricar imagens não consensuais e sexualmente explícitas de meninas e mulheres, o xAI é um incômodo público e não um produto razoavelmente seguro.”
Em seu anúncio na quarta-feira, X disse que estava implementando outras salvaguardas na Grok, incluindo limitar a criação e edição de imagens a contas pagas, o que, segundo ele, melhoraria a responsabilidade. Afirmou que tem tolerância zero com a exploração sexual infantil, a nudez não consensual e o conteúdo sexual indesejado, e que removerá imediatamente esse conteúdo e denunciará às autoridades contas envolvidas em materiais de abuso sexual infantil.
