As crianças estão recorrendo ao NSPCC em busca de apoio depois de serem alvo de estranhos ou colegas que as falsificaram usando conteúdo gerado por IA.
As meninas, em particular, costumam ser o foco dessas ameaças: impressionantes 99% dos deepfakes de nudez apresentam mulheres e meninas.
Uma menina de 15 anos revelou que um estranho havia feito imagens falsas dela nua e ela estava preocupada que elas fossem enviadas para seus pais.
“Parece tão real, é meu rosto e meu quarto ao fundo. Eles devem ter tirado as fotos do meu Instagram e editado”, disse ela à instituição de caridade.
“Tenho muito medo que as mandem para os meus pais. As fotos são realmente convincentes e não acho que eles vão acreditar que são falsas.”
Outra menina de 14 anos revelou que os meninos de sua escola faziam pornografia falsa dela e de algumas outras meninas de sua turma e as enviavam para vários bate-papos em grupo.
“Ainda estou muito ansiosa com o que aconteceu na escola no ano passado”, disse ela.
“Eles foram excluídos por um tempo e tivemos uma grande assembleia sobre por que aquilo estava errado, mas depois disso (a) escola nos disse para esquecermos o que aconteceu.
“No entanto, não posso esquecer que as pessoas pensam que me viram nu e tenho que ver esses caras todos os dias”.
Não são apenas as meninas que são afetadas. Um menino de 14 anos disse que algumas das outras crianças de sua escola estavam usando IA para intimidá-lo.
“Um grupo de crianças na escola usou deepfake para fazer um vídeo meu dizendo que sou gay”, disse o adolescente.
“Eles fizeram capturas de tela falsas minhas em um bate-papo, dizendo que eu também quero fazer coisas sexuais com eles.
“Eu questionei minha sexualidade, mas não contei a ninguém; isso não impede os agressores. Quero contar a um professor, mas é a minha palavra na frente de todas essas outras crianças.”
Não evite essas conversas com seus filhos
Embora a IA possa por vezes ser utilizada como uma força positiva – ajudando as pessoas a encontrar rapidamente a informação de que necessitam – para as crianças e os jovens é cada vez mais claro que existem também muitos riscos preocupantes.
A ferramenta de IA do X, Grok, está enfrentando atualmente uma grande reação negativa por permitir que os usuários criem imagens digitais de mulheres e meninas nas quais suas roupas foram removidas.
A Internet Watch Foundation descobriu que algumas dessas imagens incluíam meninas com idades entre 11 e 13 anos.
Em resposta, X anunciou que a ferramenta de “nudificação” do Grok só estará disponível para quem pagar para assinar o app.
Ser atacada desta forma não é o único risco que as crianças enfrentam. Às vezes, as plataformas de IA também podem promover comportamentos prejudiciais e mostrar às crianças conteúdo impróprio.
Um relatório recente da Internet Matters revelou que crianças e adolescentes no Reino Unido também estão recorrendo cada vez mais aos chatbots de IA como substitutos de amigos humanos.
Dicas para pais sobre como conversar com seus filhos sobre IA
Como pais, não podemos simplesmente fingir que a IA não existe, mesmo que muitos de nós não a entendamos.
Aqui, a NSPCC partilhou alguns conselhos úteis sobre como os pais podem falar com os seus filhos sobre IA e como se manterem seguros online.
- Fale sobre onde a IA é usada: Um bom lugar para começar é ter conversas abertas com seu filho sobre onde ele vê ferramentas e conteúdos de IA online. Esta é uma oportunidade para falar sobre os riscos e benefícios que você está enfrentando.
- Lembrar aos jovens que nem tudo é real: É importante lembrá-los de que nem tudo online é real e que muito do que vemos pode ter sido editado. A IA está em constante evolução, mas pode haver indicadores comuns que mostram que algo é gerado pela IA, mas lembre-se que nem sempre é óbvio. Alguns desses indicadores podem ser uma aparência geral “perfeita”, partes do corpo ou movimentos que aparecem de forma diferente ou não parecem “verdadeiros”.
- Discutir o uso indevido da IA generativa: É importante abordar o uso indevido da IA generativa para criar conteúdos nocivos de uma forma adequada à idade. Certifique-se de que seu filho saiba que não é certo alguém criar conteúdo para prejudicar outras pessoas. Se você já passou por isso ou está preocupado com a possibilidade de alguém passar, você pode denunciar.
- Destaque 'Report Remove' – Este é um serviço on-line confidencial da Childline e da Internet Watch Foundation (IWF), projetado para jovens menores de 18 anos no Reino Unido denunciarem e solicitarem a remoção de imagens ou vídeos de nudez ou sexuais deles mesmos compartilhados on-line. Isso inclui quaisquer imagens criadas com IA. O relatório de remoção pode ser encontrado em childline.org.uk/report-remove. Se você está preocupado com o comportamento de alguém em relação a uma criança online, você pode denunciar isso em ceop.police.uk.
- Lembre-os de verificar as fontes: resumos de IA e chatbots podem ser ferramentas úteis para obter respostas rápidas a uma pergunta, mas é importante saber que vêm de uma fonte confiável. As fontes devem ser listadas e geralmente terão links para que você possa verificá-las. Se a fonte não estiver listada ou não for confiável, é bom incentivá-los a consultar um site confiável.
- Sinalize fontes seguras: Sabemos que os jovens usarão a Internet para obter conselhos e respostas a perguntas, o que pode significar que encontrarão conselhos de um bot de IA ou um resumo. É importante que eles acessem informações seguras de fontes confiáveis, por isso pode ser útil garantir que conheçam sites seguros e adequados para crianças.
- Certifique-se de que seu filho saiba que pode conversar com você ou com outro adulto seguro, como um professor, se algo o estiver preocupando online ou offline. Eles também podem entrar em contato com a Childline 24 horas por dia, 7 dias por semana, pelo telefone 0800 11 11 ou visitando childline.org.uk.
