A mãe de um dos filhos de Elon Musk está processando sua empresa de inteligência artificial, dizendo que seu chatbot Grok permitiu aos usuários gerar imagens falsas e de exploração sexual dela que lhe causaram humilhação e sofrimento emocional.
Clair, 27, que se descreve como escritora e estrategista política, alega em uma ação movida na quinta-feira na cidade de Nova York contra a xAI que as imagens incluem uma foto dela totalmente vestida aos 14 anos, que foi alterada para mostrá-la de biquíni, e outras que a mostram adulta em posições sexualizadas e usando um biquíni com suásticas. St. Clair é judeu. Grok está na plataforma de mídia social X de Musk.
Os advogados e contatos da mídia da xAI não responderam imediatamente aos e-mails solicitando comentários na sexta-feira. Na quarta-feira, após uma reação global contra imagens sexualizadas de mulheres e crianças, X anunciou que Grok não seria mais capaz de editar fotos para retratar pessoas reais em roupas reveladoras, em locais onde isso é ilegal.
Clair disse que denunciou os deepfakes ao X depois que eles começaram a aparecer no ano passado e pediu que fossem removidos. Ele disse que a plataforma respondeu primeiro que as imagens não violavam suas políticas. Ela então prometeu não permitir que imagens suas fossem usadas ou alteradas sem o seu consentimento, disse ela.
St. Clair disse que a plataforma social então retaliou contra ela removendo seu prêmio
“Sofri e continuo a sofrer fortes dores e angústia mental como resultado do papel da xAI na criação e distribuição dessas imagens minhas alteradas digitalmente”, disse ele em um documento anexado ao processo. “Sinto-me humilhado e sinto que este pesadelo nunca terá fim enquanto Grok continuar a gerar estas imagens de mim.”
Ele também disse que vive com medo das pessoas que veem seus deepfakes.
Clair é mãe do filho de 16 meses de Musk, Romulus. Ele mora na cidade de Nova York, onde entrou com a ação perante a Suprema Corte estadual. Ela está buscando uma quantia não revelada de indenização por suposta inflição de sofrimento emocional e outras reivindicações, bem como ordens judiciais proibindo imediatamente a xAI de permitir quaisquer outros deepfakes dela.
Mais tarde na quinta-feira, os advogados da xAI transferiram o processo para o tribunal federal de Manhattan e pediram a um juiz para ouvir o caso lá. E no mesmo dia, a xAI também contra-atacou a St. Clair no tribunal federal do Distrito Norte do Texas, alegando que ela violou os termos de seu contrato de usuário xAI que exige que ações judiciais sejam movidas contra a empresa no tribunal federal do Texas. Ele busca um julgamento monetário não revelado contra ele.
X está sediado no Texas, onde Musk possui uma casa e sua fabricante de carros elétricos Tesla está sediada em Austin.
Carrie Goldberg, advogada de St. Clair, classificou a reconvenção como uma medida “surpreendente” que ela nunca tinha visto antes de um réu.
“A Sra. St. Clair defenderá vigorosamente seu fórum em Nova York”, disse Goldberg em comunicado. “Mas, francamente, qualquer jurisdição reconhecerá a seriedade das alegações da Sra. St. Clair: que ao fabricar imagens não consensuais e sexualmente explícitas de meninas e mulheres, o xAI é um incômodo público e não um produto razoavelmente seguro.”
Em seu anúncio na quarta-feira, X disse que estava implementando outras salvaguardas na Grok, incluindo limitar a criação e edição de imagens a contas pagas, o que, segundo ele, melhoraria a responsabilidade. Afirmou que tem tolerância zero com a exploração sexual infantil, a nudez não consensual e o conteúdo sexual indesejado, e que removerá imediatamente esse conteúdo e denunciará às autoridades contas envolvidas em materiais de abuso sexual infantil.
