Plataforma de mídia social de Elon Musk
Na sexta-feira, a Comissária Julie Inman Grant disse que a sua agência poderia usar os seus poderes regulamentares existentes para “investigar e tomar medidas apropriadas” contra produtos de inteligência artificial que não fornecem salvaguardas adequadas, à medida que crescem as evidências de que a controversa plataforma está a ser usada para gerar material de abuso infantil.
“Estou profundamente preocupado com o uso crescente de IA generativa para sexualizar ou explorar pessoas, especialmente quando há crianças envolvidas”, disse Inman Grant em comunicado no LinkedIn.
Inman Grant disse que os relatos de imagens sexualizadas geradas pela ferramenta de IA da X, Grok, duplicaram desde o final do ano passado, relacionadas com adultos e crianças, e que as empresas têm a capacidade de prevenir o uso indevido dos seus produtos.
“Entramos numa era em que as empresas devem garantir que os produtos de IA generativos tenham salvaguardas e proteções apropriadas incorporadas em todas as fases do ciclo de vida do produto”, disse ele.
“Ao adotar uma variedade de práticas de segurança de IA bem estabelecidas, eles podem efetivamente antecipar como os malfeitores explorarão recursos e criarão brechas antes que ocorram danos”.
X, anteriormente conhecido como Twitter, publicou milhares de imagens de pessoas que foram retratadas nuas pela IA sem o seu consentimento.
Starmer descreveu na quinta-feira as imagens como ilegais e intoleráveis e disse que seu governo tomaria medidas, inclusive por meio do Ofcom, o regulador de comunicações da Grã-Bretanha.
“Isso é vergonhoso, nojento e não deve ser tolerado. X tem que controlar isso”, disse Starmer.
“O Ofcom tem todo o nosso apoio para tomar medidas sobre isso.”
O regulador do Reino Unido disse no início desta semana que estava investigando alegações de material de abuso sexual infantil online na dark web supostamente gerado por Grok, e que havia entrado em contato com a empresa de Musk a respeito dos relatórios.
A agência eSafety disse em comunicado na sexta-feira que recebeu vários relatos nas últimas semanas sobre o uso de Grok para gerar imagens sexualizadas ou exploradoras e que entrou em contato com X para descobrir quais salvaguardas estava implementando para evitar o uso indevido.
Um porta-voz do governo albanês disse que o uso de IA generativa para produzir material sexualizado sem consentimento era “abominável” e prometeu restringir o acesso a ferramentas de nudificação na Austrália.
Os novos códigos que entrarão em vigor em 9 de março obrigarão os serviços de inteligência artificial, entre outros, a limitar o acesso das crianças a conteúdos sexualmente explícitos, bem como a materiais violentos e tópicos relacionados com automutilação e suicídio.
Estas regulamentações seguem a ação coerciva da comissão de eSafety contra uma empresa sediada no Reino Unido que oferecia dois serviços de nudificação amplamente utilizados que permitiam aos seus usuários manipular fotografias de pessoas reais.
Esses serviços atraíram cerca de 100 mil visitantes por mês na Austrália, e a eSafety disse que eles foram usados para gerar imagens explícitas e falsas de estudantes em escolas australianas. Os sites foram removidos da Austrália em novembro, após um aviso oficial da eSafety.
Um mês depois de a eSafety ter instituído a primeira proibição mundial das redes sociais para menores de 16 anos pelo governo albanês, Inman Grant ainda está sob ameaça de ser detida por desacato pelo Congresso dos Estados Unidos, a menos que testemunhe sobre as leis de segurança online até terça-feira, 13 de janeiro.
O congressista republicano Jim Jordan, que preside o Comitê Judiciário da Câmara, afirmou que a Lei de Segurança Online da Austrália ameaça a liberdade de expressão dos cidadãos americanos e responsabilizou duas vezes Inman Grant por suas tentativas anteriores de forçar as empresas de mídia social a remover conteúdo gráfico de suas plataformas.
O Congresso tem o poder de obrigar os cidadãos dos EUA que vivem no exterior a testemunhar e serem considerados desacatados pelo Congresso por não cumprirem. O desacato ao Congresso pode ser punido com multas ou penas de prisão.
Inman Grant entrou em confronto com Musk no ano passado, quando a eSafety exigiu que X removesse imagens gráficas de um esfaqueamento em uma igreja em Sydney, argumentando que a remoção global era necessária porque os australianos poderiam usar VPNs para acessar o conteúdo. O caso foi arquivado.
A Comissão Europeia ordenou
O regulador italiano disse que estava trabalhando com a Comissão Irlandesa de Proteção de Dados (a principal autoridade de privacidade da UE para X, com sede na Irlanda) e reservou-se o direito de tomar outras medidas.
A Suécia juntou-se na quinta-feira ao coro de críticas, dizendo que as imagens geradas por IA eram inaceitáveis depois que o vice-primeiro-ministro do país foi atacado por um usuário Grok esta semana.
com Bloomberg, Reuters
Seja o primeiro a saber quando notícias importantes acontecerem. Inscreva-se para receber alertas de notícias de última hora por e-mail ou ative as notificações no aplicativo.
Mike Foley é correspondente de clima e energia do The Age e do The Sydney Morning Herald.Conecte-se por e-mail.
