Os chatbots podem influenciar as opiniões políticas das pessoas, mas os modelos de IA mais persuasivos fornecem quantidades “substanciais” de informações imprecisas no processo, de acordo com o órgão de segurança de IA do governo do Reino Unido.
Os pesquisadores disseram que o estudo foi a maior e mais sistemática investigação sobre o poder de persuasão da IA até o momento, envolvendo quase 80 mil participantes britânicos conversando com 19 modelos diferentes de IA.
O AI Security Institute realizou o estudo em meio a temores de que os chatbots pudessem ser usados para atividades ilegais, incluindo fraude e aliciamento.
Os tópicos incluíram “salários e greves no sector público” e “crise do custo de vida e inflação”, e os participantes interagiram com um modelo (a tecnologia subjacente às ferramentas de IA, como chatbots) que foi solicitado a persuadir os utilizadores a tomarem uma determinada posição sobre uma questão.
Os modelos avançados por trás do ChatGPT e do Grok de Elon Musk estão entre os usados no estudo, que também foi de autoria de acadêmicos da London School of Economics, do Massachusetts Institute of Technology, da Universidade de Oxford e da Universidade de Stanford.
Antes e depois do chat, os usuários relataram se concordavam com uma série de afirmações que expressavam determinada opinião política.
O estudo, publicado quinta-feira na revista Science, descobriu que as respostas de IA “densas em informações” foram as mais persuasivas. De acordo com o estudo, direcionar o modelo para focar no uso de fatos e evidências produziu os maiores benefícios na persuasão. No entanto, os modelos que utilizaram mais factos e evidências tenderam a ser menos precisos do que outros.
“Estes resultados sugerem que a optimização da capacidade de persuasão pode ter algum custo para a veracidade, uma dinâmica que pode ter consequências malignas para o discurso público e para o ecossistema de informação”, afirma o estudo.
Em média, a IA e o participante humano trocariam cerca de sete mensagens cada, numa troca que duraria 10 minutos.
Acrescentou que a modificação de um modelo após a sua fase inicial de desenvolvimento, numa prática conhecida como pós-formação, foi um factor importante para o tornar mais persuasivo. O estudo tornou os modelos, que incluíam modelos de “código aberto” disponíveis gratuitamente, como o Llama 3 da Meta e o Qwen da empresa chinesa Alibaba, mais atraentes ao combiná-los com “modelos de recompensa” que recomendavam os resultados mais persuasivos.
Os pesquisadores acrescentaram que a capacidade de um sistema de IA de produzir informações poderia torná-lo mais manipulador do que o ser humano mais convincente.
“Na medida em que a densidade da informação é um factor-chave para o sucesso persuasivo, isto implica que a IA poderia superar as capacidades de persuasão até mesmo dos persuasores humanos de elite, dada a sua capacidade única de gerar grandes quantidades de informação quase instantaneamente durante a conversa”, diz o relatório.
Fornecer aos modelos informações pessoais sobre os usuários com quem eles interagiram não teve um impacto tão grande quanto o pós-treinamento ou o aumento da densidade da informação, de acordo com o estudo.
Kobi Hackenburg, cientista pesquisador da AISI e um dos autores do relatório, disse: “O que descobrimos é que estimular os modelos a usar mais informações foi mais eficaz do que todas essas técnicas de persuasão psicologicamente mais sofisticadas”.
No entanto, o estudo acrescentou que existem algumas barreiras óbvias para que as IAs manipulem as opiniões das pessoas, como a quantidade de tempo que um utilizador pode ter para se envolver numa longa conversa com um chatbot sobre política. Existem também teorias que sugerem que existem limites psicológicos estritos para a persuasibilidade humana, disseram os pesquisadores.
Hackenburg disse que era importante considerar se um chatbot poderia ter o mesmo impacto persuasivo no mundo real, onde havia “muitas demandas concorrentes pela atenção das pessoas e as pessoas poderiam não ser tão incentivadas a sentar e se envolver em uma conversa de 10 minutos com um chatbot ou sistema de IA”.
