Justiça Eleitoral remove publicações irregulares com IA, e ‘deepfakes’ sexuais são investigados

O uso irregular de inteligência artificial (IA) nas eleições está na mira da Justiça Eleitoral, que já proferiu pelo menos cinco decisões considerando que houve uso irregular da tecnologia e ordenando a remoção de conteúdos ou mesmo perfis.

Além disso, alguns casos extrapolaram a esfera eleitoral e chegaram à área criminal: três candidatas já apresentaram denúncias por serem alvos de deepfakes — conteúdos manipulados ou inventados — com conteúdo pornográfico.

Em meio à dificuldade de conceituar o que é ou não IA, também há casos em que se alega o uso da ferramenta, mas a Justiça considera que a acusação é infundada — 12 pedidos tiveram liminar negada ou foram julgados improcedentes.

As decisões de remoção seguem a resolução do Tribunal Superior Eleitoral (TSE), aprovada em fevereiro, que proibiu o uso de deepfakes e determinou que outras aplicações de IA devem ser identificadas.

Um vídeo do presidente Luiz Inácio Lula da Silva (PT) foi adulterado para fazer parecer que ele criticava Welligton França (PP), candidato em Santa Luzia (MA), e a versão falsa circulou no WhatsApp. O tribunal ordenou a exclusão da peça.

“Não é preciso muito esforço cognitivo para concluir que o vídeo foi manipulado, dada a grosseira edição realizada no conteúdo”, avaliou o desembargador Bruno Barbosa Pinheiro.

Em Monsenhor Gil (PI), um perfil do Instagram foi suspenso até o primeiro turno das eleições, por publicar desinformação, inclusive com uso de deepfakes. Em uma delas, o vice-prefeito Evandro Abreu (PSD), candidato à prefeitura, aparece em um vídeo fazendo o número de um de seus adversários com as mãos.

Em outro post sobre Abreu, a página ironizou o uso da IA: “Vão reclamar do vídeo de inteligência artificial, mas não vão reclamar de deixar a garagem da prefeitura abandonada”.

Para o desembargador Silvio Valois Cruz Junior houve “desprezo” ao admitir o uso da tecnologia. “É importante ressaltar que deepfakes são simulações que levam as pessoas a acreditarem no que não existe, através da utilização de vídeos e áudios com montagens descontextualizadas, produzindo informações distorcidas sobre a realidade, exigindo alerta sobre o uso de IA na propaganda eleitoral, para informar à sociedade se a imagem veiculada é verdadeira ou não”, afirmou.

O trecho de um anúncio de horário eleitoral gratuito foi suspenso em Araguaína (TO) porque foi utilizada inteligência artificial, sem a devida identificação, para retratar um projeto de construção de uma Unidade de Pronto Atendimento (UPA).

A defesa do candidato Jorge Frederico (Republicanos) admitiu a utilização de IA no processo, mas afirmou que esta se “limitou a criar uma melhor visualização do projeto” e que “em nada afetou o conteúdo principal da mensagem ou a opinião do público”. entendendo que a imagem não era ilustrativa.”

Porém, para o juiz Deusmar Alves Bezerra, “a propaganda feita com essas irregularidades tem potencial para influenciar o eleitorado local, de forma a causar um desequilíbrio injusto na disputa eleitoral”.

Um vídeo de Golbery Lopes (União Brasil), candidato a vice-prefeito de Cupira (PE), foi editado para incluir um áudio em que outra pessoa diz: “Não sou de fazer coisas, sou de falar”. . O dono do perfil que publicou o vídeo foi multado em R$ 5 mil.

“O uso de montagem que distorce a realidade do acontecimento vai além da liberdade de expressão e pode causar desinformação e desconstrução de figuras políticas capazes de enganar os eleitores”, avaliou o juiz Cristiano Araújo.

Em Juruena (MT), um vídeo também foi removido porque não foi identificado o uso de IA. “O uso de IA para ocultar a autoria de conteúdo acusatório, como no presente caso, não é admissível”, afirmou a juíza Gezicler Luiza Sossanovicz Artilheiro.

‘Simplesmente colagens’

Por outro lado, também existem diversas ações em que os pedidos foram indeferidos. “Não há evidências do uso de inteligência artificial, mas simplesmente de colagens digitais que podem ser facilmente percebidas como tal”, escreveu a juíza Ana Carolina da Silva ao analisar um caso de Laguna Carapã (MS).

Em Dilermando de Aguiar (RS), a ação foi julgada improcedente porque o vídeo questionado era “de caráter infantil, sem qualquer indício de utilização de inteligência artificial para manipulação, distorção de informações ou ataques pessoais”.

O direito de resposta foi negado em Palmas (TO) porque se considerou que, sem perícia ou outro tipo de prova, não seria possível comprovar o uso de IA. “A mera alegação de manipulação digital, desacompanhada de provas técnicas ou periciais, não é suficiente para justificar a concessão de tutela de urgência”, alegou o magistrado. Luiz Zilmar dos Santos Pires.

Para o advogado Ticiano Gadelha, especialista em direito de propriedade intelectual, é preciso definir com mais clareza os usos permitidos e proibidos da IA.

— Me parece que o TSE foi muito intenso em termos de punição, mas foi muito leve em conceitos. Então o que acho que temos como desafio este ano é esse, o que é regulamentado, o que você pode fazer e o que não pode fazer — diz ele, acrescentando: — Minha preocupação é que vocês enganem os eleitores. O resto, não vejo problema.

Carla Rodrigues, coordenadora do projeto IA com Direitos, do Data Privacy Brasil, alerta para tentativas de burlar a fiscalização, com conteúdo circulando em plataformas menos direcionadas:

— Existe uma estrutura de comunicação para contornar essas normas, utilizando plataformas como o Kwai, como o Discord, plataformas pouco rastreáveis,

Investigações abertas

Ainda há pelo menos três casos envolvendo deepfakes de cunho sexual. A prefeita de Bauru, Suéllen Rosim (PSD), e a candidata a vereadora no Rio de Janeiro Letícia Arsenio (Podemos) registraram boletins de ocorrência por imagens pornográficas, utilizando o restante delas enquanto a candidata a prefeita de São Paulo Tabata Amaral (PSB) apresentou uma denúncia de crime pelo mesmo motivo. Os três casos ainda estão sob investigação.

No caso de Arsênio, foi descoberta dentro de um site pornográfico uma pasta com 21 fotos e um vídeo com seu rosto. O caso foi registrado na Polícia Federal (PF), que avaliou que a ocorrência pode se enquadrar no crime de difamação eleitoral.

As fotos de Tabata foram encontradas na rede social X, após sua suspensão no Brasil. A campanha pediu ao TRE paulista que identificasse os responsáveis ​​pela publicação. Uma montagem com o rosto de Suéllen Rosim foi compartilhada no WhastApp. A denúncia foi registrada na Polícia Civil.