A confiança é a base da cooperação, do comércio e da tomada de decisões corporativas. Na era digital, a confiança é estabelecida por meio de assinaturas, vozes e interações virtuais. Mas, à medida que a tecnologia de deepfake avança rapidamente, essa confiança se desgasta, criando novos riscos que contornam décadas de investimento em segurança cibernética.
Neste episódio do The AI Forecast, Paul Muller conversa com Jim Brennan, diretor de produto e tecnologia da GetReal Security, sobre como as ameaças à autenticidade impulsionadas por IA mudam a equação da segurança corporativa. A conversa deles revela por que os deepfakes são a nova face da engenharia social, por que a tecnologia, e não o olho humano, deve liderar a defesa e como os líderes podem proteger seus negócios e suas pessoas.
A camada humana se tornou o elo mais fraco
Paul: Décadas de transformação digital nos deram a capacidade de colaborar instantaneamente. Mas agora justamente aquilo em que confiamos, a pequena janela nas nossas telas, se tornou a nova superfície de ataque. Se eu não puder confiar no que vejo, a única alternativa são interações físicas caras e lentas.
Jim: Um CIO me disse: "Essa pequena janela é onde administro meus negócios e agora não posso confiar em nada que passe por ela." Isso é profundo. O olho humano não consegue detectar esse nível de sofisticação. A maioria das pessoas está chutando 50/50. É por isso que a tecnologia, e não o instinto, precisa liderar a defesa.
A confiança impulsiona a cooperação, e a cooperação impulsiona os negócios. Mas os deepfakes minam essa confiança em seu nível mais pessoal, as conversas diárias e as chamadas de vídeo das quais os líderes dependem. Jim descreve isso como uma nova camada de interação voltada para humanos, que ele chama de “camada de exibição”, e que Paul apelidou em tom de brincadeira de “Liar 8”, uma superfície de ataque totalmente nova. Ao contrário de firewalls e sistemas de detecção de intrusão, esta não é uma camada técnica, mas humana. O meio que os executivos usam para se comunicar e tomar decisões agora está aberto à manipulação.
Os conselhos respondem a ameaças reais, não a tramas de Hollywood
Paul: Os conselhos correm o risco de descartar os deepfakes como algo que nunca poderia acontecer com eles?
Jim: Basta ver uma vez para acreditar que é real. No entanto, o verdadeiro desafio é mostrar aos conselhos o que isso significa para seus negócios. Se você se apoiar em grandes histórias sensacionalistas, eles podem simplesmente ignorá-las. A realidade é que incidentes menores do dia a dia já estão acontecendo, e eles repercutem muito mais.
Ele aponta a contratação fraudulenta como um excelente exemplo. Os invasores estão usando deepfakes para se passar por candidatos e passar pelos processos de RH. Às vezes, o motivo é um ganho financeiro simples, como embolsar um bônus de contratação. Em outras vezes, é muito mais grave: agentes estatais infiltrando impostores em empresas para espionagem ou fraude em grande escala.
Jim: Nos últimos três meses, todas as empresas da Fortune 500 e da Fortune 1000 com as quais conversei nos disseram que estão tendo problemas com contratação fraudulenta. As equipes de RH não são preparadas para pensar como invasores, o que torna a contratação um alvo fácil.
A Tecnologia Deve Liderar a Luta pela Autenticidade Digital
Paul: Sempre usamos tecnologia para combater tecnologia, firewalls, antivírus, detecção de intrusão. Podemos fazer o mesmo contra os deepfakes?
Jim: Você não pode simplesmente resolver esse problema com treinamento. Criar um modelo de caixa-preta e alimentá-lo com exemplos reais e falsos não vai resolver. A melhor abordagem é usar perícia digital para estudar os artefatos que os deepfakes deixam para trás, sejam distorções faciais, ruído de áudio ou inconsistências de iluminação, e depois usar machine learning para encontrar esses sinais em escala.
Jim explicou que defesas eficazes precisam ir além da IA genérica, entrando nos bastidores das ferramentas de geração para identificar traços e artefatos sutis. Na prática, as empresas podem implementar essas proteções por meio de APIs de plataformas como Zoom ou Teams, evitando instalações em endpoints e mantendo as defesas escaláveis. Ao mesmo tempo, a conscientização é fundamental. Webinars, demonstrações e simulações dão aos funcionários o contexto para parar e pensar antes de agir. Tecnologia e treinamento formam as duas camadas necessárias para proteger a confiança digital.
Considerações finais para líderes corporativos
Jim: Vivemos em uma era em que você não pode confiar em nada nesta janela ou tela. São necessárias novas políticas para as organizações, assim como novas formas de operar.
O cenário de ameaças mudou. Os deepfakes não são apenas um risco futurista. Eles já estão aqui, minando tanto a tomada de decisões corporativas quanto a segurança pessoal. De contratações fraudulentas a chamadas de resgate com clonagem por IA, a confiança digital não é mais garantida.
O caminho a seguir é triplo:
- Eduque os conselhos com exemplos confiáveis e relevantes que se encaixem nos frameworks de risco existentes
- Capacite os funcionários com a conscientização de que “ver” e “ouvir” não são mais suficientes para estabelecer a verdade
- Implemente tecnologia capaz de detectar e responder a ameaças à autenticidade em tempo real
Confira a conversa completa com Jim Brennan no The AI Forecast no Spotify, Apple Podcasts e YouTube.
