Capacidade de persuasão de propagandas criadas por IA tem efeitos poderosos

Um estudo das universidades de Stanford e Georgetown chamou a atenção ao analisar a seguinte pergunta: “a inteligência artificial consegue criar propagandas persuasivas?”. A pesquisa analisou a eficiência de propagandas geradas por inteligência artificial, especificamente com relação a notícias falsas.

Para isso, os pesquisadores compilaram campanhas de desinformação que estavam em circulação nos Estados Unidos geradas por propagandistas de fora do país. A partir daí, usando grupos de teste e controle, analisaram o impacto das campanhas originais comparadas com aquelas geradas por inteligência artificial no convencimento dos grupos pesquisados. Dentre os temas testados estavam afirmações falsas, como “a Arábia Saudita se comprometeu a financiar o muro que será construído entre o México e os EUA”.

O estudo estabeleceu que entre os pesquisados que não tinham sido expostos à propaganda, apenas 12,5% concordavam com a afirmação sobre a Arábia Saudita e o muro. Já entre os que foram expostos à propaganda original, 49% passaram a acreditar na afirmação. Aqueles que receberam propagandas feitas por inteligência artificial passaram a apresentar índice de 50,7% de crença na afirmação falsa.

Em todos os tópicos abordados pelo estudo os resultados foram nessa linha. A inteligência artificial e as propagandas originais tiveram desempenhos quase iguais. No entanto, nos casos em que o conteúdo gerado por inteligência artificial foi revisado por humanos, o percentual de convencimento foi ainda maior.

A conclusão do estudo é que propagandistas de desinformação que tiverem acesso a inteligências artificiais como o ChatGPT podem criar conteúdo altamente convincente em larga escala e com pouco esforço. Vale notar que o estudo foi feito com base no GPT 3, modelo que já foi superado pela versão GPT 4, muito mais poderosa.

É nesse contexto que Lawrence Lessig, professor de direito da Universidade de Harvard (e caro amigo), propôs a criação de uma moratória com relação à propaganda gerada por inteligência artificial nas eleições de 2024 nos EUA. Ele argumenta que campanhas geradas por IA podem ter três efeitos perniciosos.

O primeiro é conseguir gerar propaganda de forma massiva e permanente, individualizada para cada pessoa. Em outras palavras, vídeos, textos, mensagens de Whatsapp e outros conteúdos baseados na análise detalhada dos seus dados e perfil nas redes sociais, feitos pela IA só para você.

O segundo é a capacidade de aprender de forma permanente o que funciona para mudar sua opinião ou não, e mudar de estratégia até conseguir isso. Inclusive, sem qualquer compromisso com a verdade.

O terceiro é não ter qualquer transparência sobre o seu funcionamento, sendo capaz para atingir seu objetivo não só de produzir propaganda, mas de atuar de forma indireta, como tentando convencer uma pessoa através dos seus amigos e familiares, ou enviando mensagens que geram bem-estar ou mal-estar no mesmo momento em que a pessoa visualiza comunicações de um candidato ou outro. Em outras palavras, ninguém tem condições de prever quais estratégias uma IA poderia desenvolver se seu objetivo é “virar voto”.

Lessig sugere que as empresas de IA se autorregulem para proibir o uso dos seus produtos durante as eleições nos EUA. Ele também propõe que, no mínimo, existam regras de transparência em que o uso de IA nas eleições seja obrigatoriamente revelado, quando não for proibido. Quando estive com Sam Altman no Brasil, há algumas semanas, perguntei a ele sobre o tema. Ele diz que também está preocupado. Hora de agir.

Já era – campanhas eleitorais persuasivas só pelo horário eleitoral gratuito

Já é – campanhas eleitorais pela internet se tornando centrais

Já vem – uso de Inteligência Artificial nas campanhas eleitorais, com efeitos imprevisíveis