As eleições vêm aí. Tem alguém checando os tutoriais de checagem?

Imagem: TikTok demonstra sistema de detecção de IA automático em posts na rede social

Texto: Raniê Solarevisky - Nodus/UFG

Outubro vem aí e, antes mesmo do início do período de propaganda eleitoral no último dia 16, já havia uma lista de vídeos de IA mirando as urnas. Saímos dos vídeos da Dona Maria, que nunca existiu, viralizando indignação com o governo federal lá em abril, até o deepfake recente de um ex-presidente para anúncio de candidatura do filho.

Tudo isso já soava previsível e provável para qualquer pessoa que tenha usado o ChatGPT lá em 2022 para fazer mais do que escrever e-mails. O que realmente preocupa são os antídotos prometidos para o veneno de peças sintéticas  de todo tipo -- ou a constatação de que, na verdade, nenhuma das vacinas contra a desinformação parecem ter passado nem na fase de testes clínicos.

Não sei como está o seu, mas o meu feed tem sido inundado com vídeos ensinando a colar o adesivo de IA em todo post com sombras estranhas, iluminação perfeita ou lábios fora de sincronia com o áudio. Sim, tudo isso costuma -- veja bem, costuma -- indicar que é possível -- o que é bem diferente de provável -- que o vídeo seja sintético. Parece custar muito a essas instruções lembrar da própria fragilidade técnica, da diversidade dos perfis e da formação dos usuários (eu não sei você, mas eu não sou especialista em computação forense) e, talvez o mais importante, do fato comprovado, vastamente documentado em qualquer base de periódicos séria, de que não há ferramenta na Terra em nosso tempo que garanta, com absoluta certeza, que um post tenha sido gerado com IA.

Há iniciativas nessa linha, como a marcação de conteúdo gerado pelo Gemini com o SynthID, as melhorias contínuas de programas de monitoramento como o GPTZero, iniciativas brasileiras como o HoraLab, ou o movimento recente da Antrophic de deixar rastros que comprovam o uso do Claude em um texto. Não há ainda, no entanto, um método à prova de remoção de marcas d'água ou assinaturas deixadas pela criação ou manipulação de conteúdo com IA. E é esse fato que muitos jornais, jornalistas e acadêmicos do ramo têm ignorado.

Se seu amigo que é mecânico, engenheiro ou pintor lhe disser que o vídeo que você mandou para ele no WhatsApp parece feito com IA, tudo bem se ele estiver errado. Mas no caso de um jornal ou um repórter, a precisão é um pressuposto do ofício. Afirmar que um conteúdo legítimo é falso -- ou ensinar a classificar como sintético algo que não necessariamente é sintético -- seria dar mais volume à onda da desinformação, e não servir como barreira para o seu avanço.

Se a preocupação parece extremada, basta lembrar-se da foto impossível de Gabriel Medina flutuando no ar com sua prancha, ou do corpo carbonizado de um bebê morto em ataques do Hamas em uma imagem erroneamente classificada como sintética. Quando o jornalismo erra, todos perdemos. E mesmo quando se corrige, o print do erro original já fez muitas outras vítimas. Em tempos de eleições, a acurácia das assertivas da imprensa deve preocupar mais, já que cada impressão construída por pixels muda o movimento dos dedos na cabine de papelão da Justiça Eleitoral, em um ou dois fatídicos domingos no próximo mês.