A estrela do Strictly Come Dancing, Vicky Pattison, compartilhou suas preocupações sobre o aumento do abuso sexual de IA enquanto a OpenAI revela planos para lançar um recurso de 'modo adulto' para maiores de 18 anos.
O ChatGPT foi criado para permitir que os usuários gerem pornografia, em uma tentativa de competir com o chatbot explícito de Elon Musk, Grok. Grok permite que as pessoas gerem fotos e vídeos nus e sexualizados de avatares no estilo anime, chamados Companions.
OpenAI possui a plataforma de inteligência artificial ChatGPT. Em outubro, foi anunciado que um novo recurso erótico seria incluído no software. O conteúdo sexualizado de IA levantou preocupações em torno do consentimento.
Agora, a estrela do Strictly Come Dancing e lenda da TV, Vicky Pattison, está soando o alarme sobre o aumento do abuso sexual por IA. Anteriormente, ela mergulhou no mundo dos vídeos pornográficos deepfake para um documentário do Channel 4 chamado Vicky Pattison: My Deepfake Sex Tape. Ela disse que está “profundamente preocupada com a direção que esta tecnologia está tomando”.
LEIA MAIS: Modelo de IA ‘fazendo piadas’ em vídeo viral levanta preocupação à medida que os usuários questionam o que é realLEIA MAIS: ‘Um estranho se apaixonou por um vídeo meu de IA e desembolsou milhares de dólares em um cruel golpe de romance’
O chefe da Open AI, Sam Altman, proprietário do ChatGPT, disse em outubro que os usuários maiores de 18 anos terão que verificar sua idade para acessar a ferramenta de geração “erótica” do site.
Ele escreveu em
Altman não detalhou como seria, mas como o ChatGPT pode conduzir conversas e gerar imagens, o conteúdo erótico poderia ser baseado em texto e visual. A Open AI também possui Sora, o gerador de vídeo viral de IA que criou vídeos curtos falsos de Jake Paul e TikToker HSTikkyTokky, que pareciam tão realistas que enganaram muitos online.
Vicky, ex-aluna de Geordie Shore, deu o passo extremo ao enviar uma fita de sexo falsa criada por IA para destacar os perigos da situação como parte de seu programa no Channel 4.
“Tendo passado o último ano imersa nas realidades da pornografia deepfake e do abuso sexual de IA, estou profundamente preocupada com a direção que esta tecnologia está tomando”, disse ela ao The Mirror. “O problema não é o conteúdo adulto consensual, mas sim o facto de poderosas ferramentas de IA estarem a ser implementadas antes de termos abordado adequadamente o consentimento, as salvaguardas e a utilização indevida. As mulheres já são desproporcionalmente prejudicadas pelo abuso de deepfake, e isto corre o risco de piorar a situação.
“Também estou preocupado com a mensagem que essas ferramentas enviam sobre a intimidade”, continuou Pattison. “Quando a IA é projetada para flertar e obedecer, ela pode reforçar uma ideia distorcida de como são as interações com mulheres, especialmente para usuários mais jovens que já estão navegando em limites confusos em torno do consentimento.
“Até que os legisladores e as empresas de tecnologia se atualizem, cada nova ferramenta de IA sexualizada corre o risco de reforçar narrativas perigosas em vez de proteger as pessoas”.
No início deste mês, Fidji Simo, CEO de aplicativos da OpenAI, disse que espera que o “modo adulto” seja lançado no primeiro trimestre de 2026, já que a empresa planeja melhorar sua previsão de idade antes de introduzir o novo recurso. De acordo com o The Verge, Simo disse que a empresa já está testando o modelo em alguns países para avaliar sua capacidade de identificar adolescentes “e não identificar erroneamente adultos”.
Haverá alguns controles, já que Altman explicou que ninguém verá ou receberá conteúdo erótico a menos que solicite. Mas o pesquisador de políticas de IA Tolga Bilge criticou Altman por voltar atrás em uma declaração que fez anteriormente, quando disse a um entrevistador que estava orgulhoso de que a OpenAI não tenha tomado medidas táticas para engajamento e crescimento, como a criação de um “avatar sexbot”.
O discurso sobre o próximo conteúdo adulto do ChatGPT é misto, mas a preocupação parece necessária dada a trajetória atual do conteúdo sexual gerado por IA.
Em fevereiro, o Ministério do Interior do Reino Unido publicou um relatório quando o Reino Unido se tornou o primeiro país do mundo a criar novos crimes de abuso sexual utilizando IA. Eles descobriram que ferramentas de inteligência artificial estão sendo usadas para gerar imagens de abuso sexual infantil de várias maneiras repugnantes, como “retirar imagens de crianças da vida real ou anexar rostos de outras crianças a imagens existentes de abuso sexual infantil”.
“Vozes reais de crianças também são frequentemente usadas neste material repugnante, o que significa que sobreviventes inocentes de abusos traumáticos estão sendo vitimizados novamente.
“Os perpetradores também estão usando essas imagens falsas para chantagear crianças e forçar as vítimas a cometerem outros abusos horríveis, incluindo transmissão ao vivo de imagens. Ferramentas de inteligência artificial estão sendo usadas para ajudar os perpetradores a disfarçar sua identidade inicial e a preparar e abusar de crianças online de forma mais eficaz”.
Mas o conteúdo sexual gerado pela IA já se infiltrou nas salas de aula de todo o mundo. No ano passado, em Espanha, 15 rapazes foram condenados a um ano de liberdade condicional depois de serem considerados culpados de usar IA para produzir imagens falsas de nus dos seus colegas de escola. A maioria das meninas afetadas tinha 14 anos e a mais nova, 11. As imagens foram compartilhadas em grupos de WhatsApp.
Na Austrália, 50 estudantes relataram que as suas imagens “mutiladas” e “incrivelmente gráficas” foram falsificadas e partilhadas. Uma mãe disse que sua filha ficou tão horrorizada com as imagens que vomitou.
LEIA MAIS: O TikTok foi criado para dar aos usuários mais poder para limitar a quantidade de conteúdo de IA em seus feedsLEIA MAIS: Laura Hamilton de A Place In The Sun, vítima de deepfakes de IA
Nos Estados Unidos, mais de 30 estudantes de uma escola de Nova Jersey descobriram que imagens sexuais falsas tinham sido partilhadas entre os seus colegas do sexo masculino no Snapchat.
Aqui no Reino Unido, uma pesquisa realizada pelo Teacher Tapp em nome do The Guardian descobriu que um em cada 10 professores do ensino secundário sabia que os alunos da sua escola criavam “vídeos deepfake e sexualmente explícitos”. no último ano letivo.
A OpenAI está verificando seu modelo de verificação de idade, assim como o Ofcom como parte da Lei de Segurança Online. A lei exige que as empresas de pesquisa entre utilizadores tomem medidas proporcionais para minimizar o risco de os utilizadores encontrarem “conteúdo ilegal”, incluindo material de abuso sexual infantil, terrorismo, incentivo e assistência ao suicídio e incitação a outras violações da lei.
Todos os sites com conteúdo pornográfico devem ter um controle de idade altamente eficaz para evitar que crianças os acessem.
Um porta-voz do Ofcom disse: “A Lei (de Segurança Online) é clara que todos os sites e aplicativos que permitem pornografia, incluindo conteúdo gerado por IA, devem ter controles rígidos de idade para proteger as crianças.
