Bemno conforto de sua cama, Jonathan Rinaldi, candidato político a uma cadeira no conselho municipal do Queens, Nova York, mexia em seu iPhone, fazendo um chatbot de inteligência artificial insultá-lo com notícias falsas e recomendações que ele nunca recebeu.

Durante a campanha em outubro passado, Rinaldi compartilhou uma dessas histórias, feita para parecer real com o logotipo da CNN, em seu Facebook e Instagram. Ele disse que Lynn Shulman, seu oponente e democrata em exercício, foi “forçado a desistir da disputa devido a uma série de erros críticos”. Mas Shulman não desistiu de sua campanha e, em novembro, venceu de forma esmagadora.

Rinaldi achava que essas postagens eram “arte” – e definitivamente protegiam o discurso político. “Fiz memes e sátiras políticas; nada do que fiz é falso”, disse ele. Mas as autoridades locais acusaram o homem de 47 anos cético em relação à vacina e doador de esperma em série por fraude eleitoral. No dia 24 de junho ele foi preso sobre acusações criminais de falsificação, no que parece ser uma das primeiras vezes em que um candidato a um cargo público pode enfrentar penalidades criminais após usar IA em suas mensagens políticas.

“As campanhas estão cheias de mentiras, certo”, disse Rinaldi numa entrevista ao Guardian. “O que estou dizendo é que não estou fazendo nada diferente de ninguém.”

Embora este tipo de aplicação seja raro e as leis utilizadas para acusar Rinaldi sejam anteriores e não exijam a utilização de IA, a alegada fraude no centro do caso é emblemática de um tenso debate nacional sobre a regulamentação da IA ​​nas comunicações políticas.

Rinaldi contesta ter violado quaisquer leis e preocupa-se com as implicações da sua prisão para a liberdade de expressão por actividade online. “É muito importante que a polícia não possa prendê-lo por causa de reclamações sobre postagens nas redes sociais geradas por IA”, disse ele.

Anúncios gerados por IA estão por toda parte neste período eleitoral. Na sua maioria, promovem candidatos ou zombam dos seus oponentes – muitas vezes pagos por grupos externos não relacionados com os candidatos. Mas a sua utilização generalizada — e a presença ocasional de maus actores — alimentam preocupações de que conteúdos políticos enganosos possam manipular os eleitores e espalhar desinformação antes das eleições intercalares de Novembro.

Nas primárias do Congresso em todo o país, anúncios gerados por IA que chamam a atenção já estão gerando polêmica. Um vídeo mostra James Talarico um candidato democrata ao Senado do Texas vestido como Maria de The Sound of Music e canta uma versão de My Favorite Things para crianças trans. Outro sugere que foi Thomas Massey, um congressista conservador de Kentucky “em três” com “membros do esquadrão” progressistas: mostrando legisladores de mãos dadas enquanto fazem check-in em um quarto de hotel. Spencer Pratt, candidato a prefeito de Los Angeles, assumiu o papel de Batman e retratou sua oponente Karen Bass como o Coringa em um estranho espetáculo digital que atraiu milhões de visualizações e ajudou a transformá-lo de um azarão marginal em um sério candidato.

“A maioria desses anúncios não tenta persuadir as pessoas”, disse Bruce Schneier, pesquisador e professor da Harvard Kennedy School. “São para sinalização social. O importante é: minha equipe pode interferir na sua equipe.”

Até o presidente é fã. Donald Trump vai duro com a IA”lindo”- retratando-se como um rei enfeitando a capa da revista Time, um papa e um Jedi empunhando um sabre de luz. Ele também compartilhou vídeo racista retratando o ex-presidente Barack Obama e sua esposa Michelle como macacos, provocando uma reação intensa. Mais tarde, Trump removeu a postagem. Durante as eleições presidenciais de 2024, ele e Elon Musk compartilharam imagens de Kamala Harris geradas por IA em comícios comunistas. Na semana passada, Trump publicado um vídeo de IA se passando por um médico com um estetoscópio no pescoço, alegando ter curado alguns de seus críticos mais proeminentes da “Síndrome de Perturbação de Trump”.

Alguns usos da IA ​​têm sido mais insidiosos. Nas primárias presidenciais de 2023 Ron DeSantis governador da Flórida publicado o que parecia ser uma imagem gerada por IA de Trump abraçando o Dr. Anthony Fauci – que se tornou alvo da ira republicana por causa de sua estratégia de resposta à pandemia. Em janeiro de 2024, um consultor político enviar chamadas automáticas geradas por IA personificar Joe Biden diante de milhares de eleitores dois dias antes das primárias presidenciais do estado; O falso Biden sugeriu que as pessoas deveriam votar nas eleições de novembro e que seu voto não teria importância em janeiro.

Os especialistas alertam que as novas e sofisticadas ferramentas de IA tornaram muito mais fácil a produção e a difusão de desinformação em grande escala. A sociedade também partilha destas preocupações. Pesquisa de março de 2026 PBS News, NPR e Maris descobriram que 85% dos americanos dizem que o conteúdo político gerado pela IA provavelmente espalhará informações erradas sobre as eleições de novembro. A escala da desconfiança mantém-se entre Democratas, Republicanos e independentes.

O Centro Brennan para a Justiça está instando a Comissão Eleitoral Federal a agir de forma decisiva sobre “conteúdo deliberadamente enganoso gerado por IA”, por medo de que falsificações profundas que se fazem passar por candidatos “provavelmente se tornem uma ferramenta cada vez mais eficaz para fraudar doadores”. A lei dos EUA proíbe os requerentes federais e seus agentes de se apresentarem fraudulentamente como “falar ou escrever ou qualquer outra ação” em nome de outro candidato ou partido político “sobre uma questão que é prejudicial” para a pessoa deturpada. Mas isto nem sempre se traduz em aplicação.

Embora geralmente haja um alto nível de proteção do discurso político, mais de 30 países aprovou leis que regulamentam o uso de deepfakes em mensagens políticas. A maioria focada em revelações, como apontar a inclusão de deepfakes e IA ou destacar quem pagou pelo anúncio. Minesota e Texas proibir deepfakes por um certo número de dias antes da eleição. Califórnia e no Havaí as proibições de deepfake foram rejeitadas pelos tribunais federais por serem excessivamente amplas e violarem a Primeira Emenda.

“Todo o quadro regulamentar existente que temos em torno da comunicação política está bastante confuso, e há uma longa história dessa confusão que leva à confusão e à aplicação muito fraca e negligente das regras”, disse Nathan Sanders, cientista de dados em Harvard.

Velho problema, novos desafios

Em sua candidatura à Câmara Municipal, Rinaldi, de acordo com a denúncia do promotor, levou AI a vestir seu oponente com uma camiseta “Hot Girls for Zokhran”. Ele também postou imagens e vídeos alegando falsamente ter o apoio de muitos grupos locais, incluindo uma delegacia de polícia, estudantes do ensino fundamental e um grupo de interesse judaico. Crianças maquiadas – algumas com os punhos erguidos – cantavam do lado de fora de um prédio marcado como PS 101 Queens: “Torne isso real. Faça isso, Rinaldi. Deixe nossas vozes brilharem.”

De acordo com o processo, Heather Bennett-Idels, fundadora da Queens Jewish Alliance, confrontou Rinaldi depois que ele compartilhou uma imagem promovendo o apoio do grupo a ele. O grupo realmente apoiou seu oponente. “É injusto ter algo falso”, ela disse a ele.

“É política”, respondeu Rinaldi.

Os especialistas concordam que a mentira dos candidatos é tão antiga quanto a própria política. “As coisas que tememos com a IA são coisas que fazem parte da política desde o início da política”, disse Peter Lodge, diretor do Projeto de Ética na Comunicação Política da Universidade George Washington. No século XVIII, Benjamim Franklin publicado um falso plug-in para um jornal de Boston com notícias falsas sobre os britânicos – “absurdo fascinante para fins políticos – nada a ver com IA”, diz Lodge. Ainda assim, a nova tecnologia apresenta desafios únicos. “A IA torna mais fácil do que nunca mentir em grande escala. Mas o problema não é a tecnologia, é a mentira”, acrescenta.

Os políticos que procuram enganar os eleitores já têm muitas maneiras de o fazer sem IA: podem filmar um ator com peruca ou recorrer ao Photoshop ou a imagens geradas por computador (CGI).

Muitos consultores políticos reconhecem os riscos de maus intervenientes utilizarem a IA, mas argumentam que as ferramentas podem ter um efeito democratizante. A publicidade e a mídia são tradicionalmente a parte mais cara de uma campanha política. Agora, o acesso a ferramentas de IA gratuitas ou de baixo custo significa que os candidatos com menos dinheiro podem criar conteúdo equivalente aos adversários que têm orçamentos muito maiores, dizem eles.

“A IA é uma ferramenta para criar conteúdo verdadeiro. Também pode ser uma ferramenta para criar conteúdo falso”, disse Julie Sweet, que lidera o trabalho da Associação Americana de Consultores Políticos (AAPC) sobre IA e comunicação política moderna.

AAPC criou o “uma estrutura significativa para divulgação“, que aconselha os membros a não postar conteúdo em que áudio ou vídeo sintético que seja realista o suficiente para ser confundido com uma gravação real gere palavras que o oponente nunca disse ou os retrate em uma reunião ou local onde nunca esteve. Vale a pena divulgar casos em que a IA recria um evento público documentado específico a partir de reportagens de notícias ou aprimora a foto de um oponente para parecer pouco lisonjeira, dizem eles. Sobre usos mais inócuos da IA, como traduzir a fala em inglês de um candidato para o espanhol ou uma leitura de clone de voz o roteiro aprovado pelo próprio candidato, o grupo diz que a divulgação pode não ser necessária.

embora as opiniões dos membros sobre a regulamentação divergemSweet diz que as isenções de responsabilidade impostas pelo Estado – especialmente aquelas que exigem as palavras “falso” ou “manipulado” para o uso de IA em comunicações políticas podem diminuição da confiança com o público, mesmo em casos que nada têm a ver com fraude.

Em vez disso, o grupo aconselha o uso de termos como “dramatização”, “simulação”, “reconstituição”, “voz sintética”, “traduzido” e “representação aprimorada ou alterada”.

Em meio a regulamentações em constante mudança, pelo menos uma ferramenta de IA incorporou leis estaduais em sua interface de usuário. IA do campo de batalha ajuda os usuários a criar anúncios em vídeo, gráficos e de texto para candidatos políticos que atendam às regulamentações atuais. (Isso inclui o número de segundos que o aviso de isenção de responsabilidade deve ser executado e tamanhos de fonte específicos).

“Talvez esta tecnologia dê aos maus atores um limite um pouco menor para mentir, mas não é absolutamente uma representação do coletivo”, disse Maya Hutchinson, fundadora da BattlegroundAI.

Pesquisadores políticos e especialistas esperam uma explosão de conteúdo político gerado por IA. À medida que as ferramentas gratuitas reduziram drasticamente as barreiras financeiras e técnicas, os candidatos podem agora produzir materiais de campanha polidos e hiperpersonalizados – no caso de Rinaldi, a partir da sua cama no Queens. Não se incomodando com a perda, ele agora está focado em uma nova campanha: concorrer à Assembleia Estadual.

“Utilizo as ferramentas à minha disposição para desafiar a estrutura de poder”, disse Rinaldi. “E eu tenho que fazer coisas que eles não esperam, porque se eu fizer a mesma coisa que todo mundo fez, não terei chance.”