Mais de 100 deputados do Reino Unido apelam ao governo para que introduza regulamentos vinculativos para os sistemas de IA mais poderosos, à medida que crescem as preocupações de que os ministros estejam a agir demasiado lentamente para criar salvaguardas contra o lobby da indústria tecnológica.
Um antigo ministro da IA e um secretário da Defesa fazem parte de um grupo multipartidário de deputados de Westminster, pares e membros eleitos das legislaturas da Escócia, País de Gales e Irlanda do Norte, que apelam a controlos mais rigorosos nos sistemas fronteiriços, citando receios de que a IA superinteligente “comprometa a segurança nacional e global”.
A pressão por uma regulamentação mais rigorosa está sendo coordenada por uma organização sem fins lucrativos chamada Control AI, cujos patrocinadores incluem o cofundador do Skype, Jaan Tallinn. Insta Keir Starmer a mostrar independência da Casa Branca de Donald Trump, que se opõe à regulamentação da IA. Um dos “padrinhos” da tecnologia, Yoshua Bengio, disse recentemente que ela era menos regulamentada que um sanduíche.
Entre os ativistas está o colega trabalhista e ex-secretário de Defesa Des Browne, que disse que a IA superinteligente “seria o desenvolvimento tecnológico mais perigoso desde que ganhamos a capacidade de combater a guerra nuclear”. Ele disse que apenas a cooperação internacional “pode evitar uma corrida imprudente por vantagens que poderia colocar a todos nós em perigo”.
O seu colega conservador e antigo Ministro do Ambiente, Zac Goldsmith, disse que “embora figuras muito importantes e de alto nível na IA estejam a dar o alarme, os governos estão muito atrás das empresas de IA e permitem-lhes continuar o seu desenvolvimento praticamente sem regulamentação”.
A Grã-Bretanha organizou uma cimeira de segurança da IA em Bletchley Park em 2023, que concluiu que havia “potencial para danos graves, até mesmo catastróficos, sejam deliberados ou não intencionais” provenientes de sistemas de IA mais avançados. Ele criou o AI Safety Institute, agora denominado AI Security Institute, que se tornou um órgão respeitado internacionalmente. Contudo, foi dada menos ênfase ao apelo da cimeira para enfrentar os riscos através da cooperação internacional.
Goldsmith disse que o Reino Unido deveria “recuperar a sua liderança global na segurança da IA, defendendo um acordo internacional para proibir o desenvolvimento da superinteligência até sabermos o que estamos enfrentando e como contê-lo”.
Os apelos à intervenção estatal na corrida à IA surgem depois de um dos principais cientistas de IA do Vale do Silício ter dito ao The Guardian que a humanidade teria de decidir até 2030 se correria o “risco máximo” de permitir que os sistemas de IA se treinassem para se tornarem mais poderosos. Jared Kaplan, cofundador e cientista-chefe da empresa de inteligência artificial Anthropic, disse: “Nós realmente não queremos que seja uma situação como a do Sputnik, onde o governo de repente acorda e diz: Nossa, a IA é um grande negócio”.
O manifesto trabalhista elaborado em julho de 2024 dizia que iria legislar “para impor requisitos àqueles que trabalham para desenvolver os modelos de inteligência artificial mais poderosos”. Mas nenhum projeto de lei foi divulgado e o governo tem enfrentado pressão da Casa Branca para não inibir o desenvolvimento comercial da IA, grande parte dela iniciada por empresas americanas.
Um porta-voz do Departamento de Ciência, Inovação e Tecnologia disse: “A IA já está regulamentada no Reino Unido, com uma série de regras em vigor. Fomos claros sobre a necessidade de garantir que o Reino Unido e as suas leis estejam preparados para os desafios e oportunidades que a IA trará e essa posição não mudou”.
O bispo de Oxford, Steven Croft, que apoia a campanha Control AI, apelou à criação de um órgão de vigilância independente da IA para examinar minuciosamente a utilização do sector público e que as empresas de IA sejam obrigadas a cumprir padrões mínimos de testes antes de lançarem novos modelos.
“Existem todos os tipos de riscos e o governo não parece ter adotado um princípio de precaução”, disse ele. “Neste momento existem riscos significativos: a saúde mental das crianças e dos adultos, os custos ambientais e outros grandes riscos em termos do alinhamento da IA generalizada e (da questão) do que é bom para a humanidade.
após a promoção do boletim informativo
O primeiro ministro de IA do Reino Unido sob Rishi Sunak, Jonathan Berry, disse que estava chegando o momento em que regulamentações vinculativas deveriam ser aplicadas a modelos que representam riscos existenciais. Ele disse que as regras teriam que ser globais e criariam armadilhas, de modo que se os modelos de IA atingissem um certo poder, seus criadores teriam que provar que foram testados, projetados com interruptores de interrupção e poderiam ser treinados novamente.
“A segurança da IA na fronteira internacional não avançou como esperávamos”, disse ele. Ele citou casos recentes de chatbots incentivando o suicídio, pessoas que os utilizam como terapeutas e acreditam que são deuses. “Os riscos agora são muito sérios e devemos estar constantemente em guarda”, disse ele.
O executivo-chefe da Control AI, Andrea Miotti, criticou a atual “abordagem tímida”, dizendo: “Tem havido muito lobby por parte do Reino Unido e dos EUA. As empresas de IA estão pressionando os governos do Reino Unido e dos EUA para interromper a regulamentação, argumentando que é prematuro e esmagaria a inovação. Algumas dessas são as mesmas empresas que dizem que a IA poderia destruir a humanidade.”
Ele disse que a velocidade com que a tecnologia de IA estava avançando significava que padrões obrigatórios poderiam ser necessários nos próximos um ou dois anos.
“É bastante urgente”, disse ele.
