Entre janeiro de 2025 e abril de 2026, pesquisa do Observatório IA nas Eleições — iniciativa da Data Privacy Brasil e do Aláfia Lab — identificou 18 avatares políticos gerados por inteligência artificial circulando nas redes brasileiras. Em 61% dos casos, não havia qualquer sinalização de que os conteúdos eram artificiais. Em 78%, os perfis difundiam desinformação sobre políticos e instituições democráticas.

Um desses casos é o da “Dona Maria”, personagem gerada por inteligência artificial que acumulou centenas de vídeos com comentários políticos e críticas a instituições públicas. O perfil chegou ao Tribunal Superior Eleitoral (TSE) após representação de partidos políticos. A discussão, porém, expôs um problema mais profundo do que a simples circulação de conteúdo falso: o Direito Eleitoral brasileiro ainda não possui categoria suficientemente precisa para descrever esse fenômeno.

O conceito de deepfake, hoje dominante no debate público sobre inteligência artificial e eleições, ajuda a explicar parte do problema, mas já não alcança toda a complexidade do que está surgindo nas redes. O deepfake tradicional pressupõe uma pessoa real artificialmente manipulada: um candidato dizendo o que nunca disse, uma voz clonada ou um vídeo adulterado digitalmente. O dano costuma estar associado a um conteúdo específico e identificável.

No caso da Dona Maria, a lógica é diferente. Não há pessoa real manipulada. Há uma identidade inteiramente fabricada, construída para operar continuamente no ambiente digital com aparência de autenticidade social. O que circula não é apenas um conteúdo falso sobre alguém existente. É uma personagem artificial que simula espontaneidade política, interação orgânica e presença legítima no debate democrático.

Manifestações dessa natureza exigem categoria própria: o perfil sintético persistente. A persistência é o elemento que altera a dimensão do dano, que deixa de estar associado a um episódio isolado e passa a decorrer de uma presença contínua no ambiente informacional em que a percepção política do eleitor é formada. A questão já não envolve apenas a disseminação de um vídeo falso. Envolve a fabricação gradual de confiança, familiaridade e identificação social em torno de uma identidade inexistente.

É precisamente essa capacidade de participar continuamente da formação da percepção política coletiva que confere ao fenômeno relevância democrática própria. O eleitor não está sendo enganado apenas sobre o que um candidato disse ou deixou de dizer. Está sendo exposto a uma percepção artificial sobre o comportamento, as opiniões e as emoções de outros supostos cidadãos.

Esse cenário expõe uma limitação importante do modelo regulatório atual

As resoluções do TSE já exigem que conteúdos sintéticos sejam identificados como produzidos por inteligência artificial e vedam deepfakes eleitorais. Análises técnicas conduzidas pelo Observatório IA nas Eleições indicam, contudo, que muitos avatares sintéticos políticos continuavam operando sem identificação explícita de sua natureza artificial.

A dificuldade não está apenas na existência da obrigação regulatória, mas no fato de que a identificação do conteúdo sintético ainda permanece fortemente concentrada na etapa de circulação do conteúdo, e não na própria arquitetura dos sistemas capazes de produzi-lo em escala.

O problema se torna ainda mais evidente nos casos de perfis sintéticos persistentes. Diferentemente de um conteúdo isolado, esses perfis dependem de uma infraestrutura tecnológica contínua de geração, adaptação e circulação de conteúdo sintético em larga escala. Em muitos episódios analisados pelo Observatório, a origem artificial dos conteúdos só pôde ser identificada posteriormente, por meio de análise técnica de inconsistências visuais, falhas de resolução e padrões característicos de geração automatizada.

Esse problema decorre não apenas da sofisticação técnica dos conteúdos, mas também da própria transformação da cadeia eleitoral digital provocada pela inteligência artificial generativa. O centro do problema já não está apenas na circulação do conteúdo artificial, mas também na infraestrutura tecnológica capaz de produzi-lo em escala. Entre o eleitor que recebe o conteúdo artificial e os agentes tradicionalmente envolvidos em sua circulação existem agora novos agentes juridicamente relevantes ligados ao desenvolvimento e à disponibilização dos sistemas capazes de gerar esse tipo de conteúdo.

Discussão sobre rastreabilidade ganha dimensão central

Quando conteúdos artificiais produzem dano eleitoral, o direito precisa conseguir percorrer o caminho completo da cadeia tecnológico-eleitoral: do usuário que publica o conteúdo aos diferentes agentes que desenvolvem, adaptam e disponibilizam os sistemas utilizados para produzi-lo.

Ferramentas generativas já fazem parte da comunicação contemporânea e possuem aplicações legítimas em campanhas, marketing e produção audiovisual. O problema surge quando sistemas capazes de fabricar autenticidade social em larga escala operam sem mecanismos proporcionais de identificação, rastreabilidade e salvaguardas técnicas.

Parte dessas soluções já começou a surgir. As resoluções do TSE exigem rotulagem de conteúdos sintéticos. Grandes empresas de tecnologia passaram a desenvolver mecanismos de proveniência digital e padrões técnicos capazes de registrar a origem e o histórico de edição de conteúdos artificiais. Algumas plataformas já restringem o uso eleitoral de sistemas generativos em determinadas hipóteses.

O que ainda falta é deslocar parte relevante dessas obrigações para a própria arquitetura tecnológica dos sistemas e ampliar a capacidade de rastreamento da cadeia tecnológico-eleitoral até os agentes responsáveis pelo desenvolvimento e disponibilização dessas ferramentas.

Essa discussão ganha especial relevância no contexto brasileiro. O país possui hoje uma das regulações eleitorais sobre inteligência artificial mais avançadas do mundo e, ao mesmo tempo, está entre os maiores usuários de inteligência artificial generativa. Isso significa que o país reúne não apenas capacidade institucional para impor obrigações regulatórias, mas também poder de barganha econômico suficiente para exigir adequações relevantes das plataformas e empresas de tecnologia que operam em seu mercado digital.

O surgimento dos perfis sintéticos persistentes indica que a próxima etapa dessa discussão já começou. O desafio não é proibir inteligência artificial na política. É desenvolver mecanismos proporcionais de governança compatíveis com o poder dessas tecnologias de fabricar autenticidade social em escala.

A Dona Maria não existe. As consequências democráticas de sua existência, contudo, já são reais.

Fonte: www.conjur.com.br