Esta história foi produzida em colaboração com a SBS Audio e como parte de uma viagem de pesquisa organizada pelo Ministério Federal das Relações Exteriores da Alemanha em cooperação com o Clube Nacional de Imprensa da Austrália.
O uso de grandes modelos de linguagem, como o Chat GPT, está se tornando cada vez mais popular, mas há uma preocupação crescente de que alguns chatbots de IA estejam, sem saber, gerando narrativas de desinformação.
Carl Miller é o fundador do Demos Social Media Analysis Center no Reino Unido.
“Estes modelos, estes chatbots que serão cada vez mais usados para interrogar a Internet e pintar imagens para as pessoas aprenderem sobre o mundo, são de vital importância e a forma como treinam e o que acabam por dizer será basicamente a espécie de cadinho para todo um novo tipo de influência e poder realmente poderoso e bastante invisível.”
Grandes modelos de linguagem são treinados usando enormes conjuntos de dados para prever e gerar texto semelhante ao humano.
Após a invasão em grande escala da Ucrânia pela Rússia em 2022, alguns especialistas alertam que os intervenientes pró-Rússia estão cada vez mais a inundar a Internet com notícias falsas para influenciar os chatbots.
Esta é Isis Blachez, analista da agência investigativa americana NewsGuard.
“Muitos sites diferentes repetirão a mesma afirmação falsa várias vezes em cada site e em sites diferentes. E a forma como os chatbots de IA e os dados de treinamento funcionam é que eles olham para as informações que estão por aí e verão esse grande fluxo de informações repetindo uma afirmação falsa e extrairão informações dela.
“Será a manipulação de grandes modelos linguísticos como uma futura guerra de informação”.
A Rede Pravda Pró-Kremlin é um exemplo disso.
Publicou mais de 6 milhões de artigos pró-russos, 5 milhões deles reutilizados em vários idiomas.
Guillaume Kuster é o CEO e cofundador da CheckFirst.
“Pode-se pensar nisso como uma máquina de lavagem de narrativas e propaganda russas. O que eles fazem é republicar. Poderia ser conteúdo proveniente de organizações de mídia sancionadas pela UE, como Sputnik ou Russia Today. Poderia ser conteúdo proveniente de canais de telegramas de propaganda bem conhecidos, de contas X, etc., etc.”
Na semana passada, o CEO da ASIO, Mike Burgess, revelou que influenciadores pró-Rússia na Austrália chamaram a atenção da agência.
“Os australianos publicam e promovem narrativas extremas online justificando a invasão da Ucrânia e condenando o apoio da Austrália a Kiev. Ao ocultar deliberadamente a sua ligação a Moscovo – e prováveis instruções de Moscovo – os propagandistas tentam sequestrar e inflamar o debate legítimo.”
Alguns especialistas sugerem que a crescente dependência de chatbots habilitados para IA destaca a necessidade de um melhor escrutínio e legislação dos meios de comunicação social, bem como de um foco na redução da desinformação.
Olivia Shen é Diretora do Programa de Tecnologias Estratégicas do Centro de Estudos dos EUA da Universidade de Sydney.
“O que temos visto é talvez um progresso mais lento na transformação de salvaguardas voluntárias, códigos de conduta e directrizes em regulamentos legalmente aplicáveis”.
De acordo com um porta-voz do Departamento do Interior, a sua estratégia de segurança cibernética visa criar “novas iniciativas para colmatar lacunas nas leis existentes”.
Também delineou um plano para desenvolver a primeira Estratégia Nacional de Alfabetização Midiática da Austrália… para “estabelecer as principais habilidades e competências que os australianos precisam para enfrentar os desafios e oportunidades apresentados pelo mundo digital”.
