Os desenvolvedores de IA foram informados de que devem colocar uma marca d'água no conteúdo para que as pessoas possam dizer claramente que ele é gerado por IA, enquanto o governo busca abordar as preocupações de que a tecnologia esteja sendo usada para enganar e prejudicar os australianos.
Não há exigência legal para identificar o conteúdo como gerado por IA, o que permitiu que o conteúdo gerado fosse confundido com real, o que é conhecido como deepfaking.
Como orientação para desenvolvedores e criadores de conteúdo, o governo federal aconselhou que o conteúdo de IA deve ser “claramente identificável”, incluindo tags indicando que o conteúdo é gerado por IA ou incorporando informações para rastrear as origens do conteúdo, um processo conhecido como marca d'água, que é mais difícil de manipular ou remover do que tags.
Ele observa que as ferramentas de transparência são particularmente importantes quando o conteúdo gerado pela IA pode ser usado para “afetar negativamente” as pessoas, e tornam-se mais importantes quanto mais a IA estiver envolvida na criação do conteúdo.
“A IA veio para ficar. Ao sermos transparentes sobre quando e como é usada, podemos garantir que a comunidade beneficie da inovação sem sacrificar a confiança”, disse o Ministro da Indústria, Tim Ayres, num comunicado.
“É por isso que o governo albanês está a exortar as empresas a adoptarem esta orientação. Trata-se de construir confiança, proteger a integridade e dar aos australianos confiança no conteúdo que consomem.”
Algumas empresas, incluindo o Google, já marcam conteúdo de IA.
Tim Ayres diz que o conteúdo de IA veio para ficar e os desenvolvedores devem ser transparentes sobre isso. (ABC Notícias: Matt Roberts)
A rápida disseminação da IA generativa alimentou receios de que a tecnologia pudesse ser utilizada para fraude, desinformação, chantagem ou para explorar pessoas através da criação de conteúdos falsos e convincentes que deturpam o que uma pessoa disse ou fez.
A Comissão de Segurança Eletrônica alertou que o abuso baseado em imagens falsas está ocorrendo pelo menos uma vez por semana nas escolas australianas.
Na segunda-feira, o senador independente David Pocock apresentou um projeto de lei para um senador privado para proibir conteúdo alterado digitalmente ou gerado artificialmente que retrate o rosto ou a voz de um indivíduo sem o seu consentimento.
O senador Pocock disse que o governo federal foi muito lento e não respondeu de forma abrangente desde que iniciou sua análise da IA responsável, há mais de dois anos.
Plano Nacional de IA prestes a ser publicado
As novas orientações sobre IA foram entregues à indústria antes da publicação pelo governo de um Plano Nacional de IA, que é o culminar de vários anos de consultoria e deverá introduzir “proteções obrigatórias” para proteção contra os piores impactos da IA.
O plano também responderá às ideias levantadas na mesa redonda de produtividade do governo em Agosto, onde a IA foi um foco central da discussão sobre como impulsionar a economia e aumentar os salários.
A Comissão de Produtividade alertou contra a introdução de barreiras obrigatórias naquela mesa redonda, dizendo que poderiam estrangular uma oportunidade de 116 mil milhões de dólares para a economia, e apelou a que qualquer resposta legislativa fosse pausada até que as lacunas na lei fossem devidamente identificadas.
Mas à medida que o governo procura encontrar um equilíbrio entre os riscos da IA e um potencial boom económico, as suas medidas recentes centraram-se na resposta às profundas preocupações da comunidade relativamente à segurança.
O senador Ayres anunciou na semana passada que o governo criaria um Instituto de Segurança de IA, que poderia monitorar e responder aos “riscos relacionados à IA” e ajudar a construir confiança na tecnologia.
O antigo Ministro da Indústria, Ed Husic, que iniciou consultas sobre uma resposta federal ao crescimento da IA, apelou a uma Lei dedicada à IA que poderia fornecer uma estrutura para responder de forma flexível à medida que a tecnologia se desenvolve.
