INTELIGÊNCIA ARTIFICIAL: QUANDO VOZ E ROSTO JÁ NÃO BASTAM MAIS

Imagine receber uma ligação de alguém conhecido. A voz é familiar, o jeito de falar parece correto e a pessoa pede ajuda com urgência. Ou assistir a um vídeo em que uma figura pública aparentemente faz uma declaração importante. Tudo parece verdadeiro.

Mas pode não ser.

A evolução da inteligência artificial generativa tornou possível produzir áudios, imagens e vídeos com elevado grau de realismo. Os chamados deepfakes já são objeto de preocupação de autoridades brasileiras justamente porque podem ser utilizados para fraudes, desinformação, manipulação de imagens e outras práticas capazes de causar prejuízos.

Em julho, a Agência Nacional de Proteção de Dados (ANPD) publicou um estudo específico sobre deepfakes, explicando o funcionamento da tecnologia e seus desafios para a proteção de dados pessoais e a construção de ambientes digitais seguros.

A questão deixou de pertencer apenas ao universo da tecnologia.

Ela chegou à vida cotidiana.

Hoje, uma fotografia, uma gravação de voz ou um vídeo já não devem ser considerados, isoladamente, provas suficientes de que determinada pessoa realmente disse ou fez aquilo que aparece na tela.

Isso não significa viver desconfiando de tudo. Significa aprender a verificar antes de acreditar, compartilhar ou agir.

Como a inteligência artificial consegue imitar pessoas

A inteligência artificial generativa é capaz de produzir novos conteúdos a partir de grandes volumes de dados e padrões aprendidos por sistemas computacionais. Esses conteúdos podem assumir a forma de textos, imagens, áudios e vídeos.

Quando essa tecnologia é utilizada para criar ou modificar a aparência, a voz ou a manifestação de uma pessoa de maneira realista, surge o que se convencionou chamar de deepfake.

A tecnologia, por si só, não é necessariamente negativa.

Ela pode ser utilizada em educação, acessibilidade, comunicação, pesquisa, entretenimento e inúmeras outras atividades. O problema aparece quando ferramentas legítimas são utilizadas para enganar, fraudar ou prejudicar alguém.

Um exemplo simples ajuda a compreender o risco.

Uma pessoa recebe uma mensagem de voz aparentemente enviada por um familiar. O interlocutor pede uma transferência financeira urgente. A voz parece autêntica e a história é convincente.

O problema é que a voz pode ter sido artificialmente reproduzida.

Em outro cenário, um consumidor encontra na internet um vídeo em que uma pessoa conhecida recomenda determinado investimento ou produto. O material parece profissional e verdadeiro, mas a imagem ou a fala pode ter sido manipulada.

A tecnologia, nesse caso, passa a explorar uma característica humana fundamental: a confiança naquilo que nossos olhos e ouvidos reconhecem.

É justamente por isso que os cuidados precisam mudar.

A confiança digital exige uma nova forma de verificar

Durante muito tempo, a recomendação era simples: desconfie de mensagens estranhas e de links desconhecidos.

Essa orientação continua válida, mas já não é suficiente.

Agora, também é necessário verificar quem está falando, mesmo quando a voz parece familiar.

Uma das medidas mais simples é criar mecanismos de confirmação. Se um parente ligar pedindo dinheiro, por exemplo, a pessoa pode desligar e retornar pelo número que normalmente utiliza. Se houver uma solicitação urgente feita por uma empresa, o consumidor pode procurar diretamente o canal oficial da instituição.

O objetivo não é transformar o cidadão em especialista em inteligência artificial.

É desenvolver um hábito: não tomar decisões importantes apenas porque uma imagem, uma voz ou um vídeo parecem convincentes.

Também é recomendável observar o contexto.

Uma informação extraordinária, especialmente quando acompanhada de pedido urgente de dinheiro, senha, código ou transferência, merece verificação adicional. O mesmo vale para conteúdos que provocam reação emocional imediata.

A ANPD destaca que o uso de inteligência artificial envolve desafios relacionados à proteção de dados pessoais, transparência e direitos fundamentais. Em nota técnica, a autoridade também reconheceu que conteúdos sintéticos que reproduzam ou simulem pessoas identificáveis podem envolver tratamento de dados pessoais e, em determinadas circunstâncias, dados biométricos.

A proteção, portanto, não depende apenas da tecnologia.

Depende também de informação, educação digital e responsabilidade de quem produz e distribui conteúdo.

Eleições mostram por que o problema ultrapassa os golpes

O desafio ganha dimensão ainda maior durante períodos eleitorais.

Nas Eleições 2026, o Tribunal Superior Eleitoral estabeleceu regras específicas para conteúdos produzidos ou modificados por inteligência artificial. A regulamentação exige que a utilização de conteúdo sintético multimídia na propaganda eleitoral seja informada de maneira explícita, destacada e acessível.

Em setembro, o TSE também definiu critérios para caracterizar deepfake no contexto eleitoral, considerando conteúdos produzidos ou manipulados por IA que apresentem grau de realismo ou verossimilhança e criem, reproduzam ou alterem imagem, voz ou manifestação de pessoas.

Há ainda uma restrição temporal importante: novas peças sintéticas que utilizem imagem, voz ou manifestação de candidatos ou pessoas públicas não podem ser publicadas, republicadas ou impulsionadas no período que vai de 72 horas antes até 24 horas depois do término da votação, mesmo quando rotuladas conforme as regras.

Essas normas mostram que o problema não se limita à possibilidade de alguém perder dinheiro em um golpe.

A autenticidade das informações também interfere na confiança social, no debate público e na própria capacidade de cada cidadão formar sua opinião a partir de fatos.

Por isso, a resposta à inteligência artificial não pode ser simplesmente rejeitar a tecnologia.

A sociedade precisa aprender a utilizá-la com responsabilidade.

Empresas, plataformas, autoridades, profissionais de comunicação, escolas e cidadãos possuem papéis diferentes nessa tarefa. Cabe também às instituições aperfeiçoar mecanismos de identificação, transparência e responsabilização, respeitando os direitos fundamentais e a legislação de proteção de dados.

Para o cidadão, talvez a principal mudança seja cultural.

Ver não será mais suficiente. Ouvir também não. Será necessário verificar.

Essa não é uma razão para ter medo da inteligência artificial. É uma razão para desenvolver uma nova competência para o século XXI: a capacidade de distinguir aparência de realidade.

A tecnologia continuará avançando. Seus benefícios podem ser enormes, mas seus riscos também precisam ser compreendidos.

No futuro digital, informação confiável será um patrimônio cada vez mais importante.

E, diante de uma voz perfeita, de um rosto convincente ou de um vídeo aparentemente verdadeiro, uma pergunta simples poderá evitar muitos problemas:

“Como posso confirmar que isso realmente aconteceu?”

Pauta Brasil — Redação