O inimigo já tem o teu rosto

O inimigo já tem o teu rosto

‍

Durante muito tempo, aprendemos a confiar naquilo que vemos e ouvimos. Se víamos alguém numa videochamada, assumíamos que essa pessoa estava realmente presente. Se reconhecíamos a voz de um familiar, acreditávamos que era realmente essa pessoa. Se recebíamos uma mensagem ou uma instrução acompanhada de uma voz ou imagem familiar, a nossa reação natural era confiar.

‍

Essa premissa está a deixar de ser válida.

‍

A Inteligência Artificial já consegue gerar imagens, vídeos e vozes capazes de imitar pessoas reais com um nível de realismo que, em muitos casos, torna extremamente difícil distinguir o que é verdadeiro do que é sintético. O fenómeno dos deepfakes deixou de ser apenas uma curiosidade tecnológica ou uma ferramenta utilizada para criar conteúdos humorísticos. Tornou-se uma ameaça real para indivíduos, empresas e instituições.

‍

O problema não está apenas na capacidade de criar um rosto falso. Está na possibilidade de combinar diferentes tecnologias para construir uma identidade digital completa. Um atacante pode utilizar uma fotografia disponível online, clonar uma voz a partir de alguns segundos de áudio e gerar uma interação capaz de simular uma pessoa real.

A partir desse momento, o ataque deixa de depender exclusivamente de malware, exploração de vulnerabilidades ou acesso não autorizado a sistemas.

‍

Pode depender simplesmente da confiança.

‍

Imagine receber uma chamada de alguém que parece ser o seu superior e que utiliza a sua voz. Imagine receber uma videochamada de um executivo da sua organização a solicitar uma transferência urgente. Imagine receber uma chamada de um familiar a pedir ajuda financeira, utilizando uma voz praticamente indistinguível da sua voz real.

‍

O que faria?

‍

A reação natural de muitas pessoas seria acreditar. É precisamente essa reação que torna os deepfakes tão perigosos.

A engenharia social sempre explorou a confiança, a autoridade, a urgência e o medo. A Inteligência Artificial permite agora tornar essas técnicas muito mais convincentes. A mensagem pode ser personalizada. A voz pode parecer familiar. O rosto pode ser reconhecido. A situação pode parecer completamente legítima.

‍

E, no entanto, tudo pode ser falso.

‍

Esta realidade obriga-nos a repensar alguns dos nossos mecanismos tradicionais de validação. Durante décadas, a voz foi utilizada como uma forma de confirmar a identidade de alguém. As videochamadas acrescentaram uma camada adicional de confiança. Hoje, nem sempre podemos considerar nenhum desses elementos como prova suficiente.

‍

Pedidos sensíveis devem ser confirmados através de canais independentes. Transferências financeiras devem ter mecanismos de validação adicionais. Alterações de informação crítica devem exigir confirmação. E os processos de segurança devem ser desenhados assumindo que, no futuro, uma identidade pode ser perfeitamente simulada.

‍

A questão não é deixar de utilizar a tecnologia ou desconfiar de todas as interações digitais. Isso seria impossível e contraproducente, é sim desenvolver uma cultura em que a confiança seja acompanhada por verificação. A Inteligência Artificial não é, por si só, o inimigo. As mesmas tecnologias utilizadas para criar conteúdos sintéticos podem também ser utilizadas para os detetar, melhorar a segurança e preparar organizações e indivíduos para novas ameaças.

‍

O verdadeiro desafio está na velocidade com que estas tecnologias estão a evoluir. A capacidade de criar um deepfake está a tornar-se cada vez mais acessível, enquanto os nossos comportamentos, processos e mecanismos de validação ainda não evoluíram ao mesmo ritmo.

‍

A Inteligência Artificial já consegue imitar pessoas.

‍

A próxima pergunta é:

Estamos preparados para verificar quem está realmente do outro lado?

‍

‍