Reprodução
Afonso Morais é advogado especialista em Direito Digital e fraudes digitais, da Pardi e Morais Consultores Jurídicos, e host do podcast Falando de Fraudes.
AFONSO MORAIS
A inteligência artificial acaba de ganhar mais uma função nas mãos dos fraudadores: fabricar evidências para tentar obter dinheiro público. A Prefeitura de Ribeirão Preto identificou tentativas irregulares no pré-cadastro para o Saque Calamidade do FGTS, incluindo fotografias geradas por inteligência artificial e imagens retiradas da internet. Segundo informações divulgadas pela CBN Ribeirão Preto, cerca de 20% dos pedidos apresentaram inconsistências e não deverão ser aprovados.
O episódio merece atenção menos pelo número de solicitações envolvidas e mais pelo que ele revela. A fraude digital está entrando em uma etapa em que não basta mais falsificar documentos ou roubar dados. Agora, criminosos podem tentar fabricar a própria realidade que será apresentada como prova.
>>> Receba as principais notícias de Mato Grosso em primeira mão. Clique aqui!
Uma imagem de um imóvel alagado, de uma parede destruída ou de um telhado danificado pode parecer, à primeira vista, uma evidência objetiva de que uma pessoa foi atingida por uma calamidade. Mas, com as atuais ferramentas de inteligência artificial, produzir uma fotografia aparentemente convincente deixou de exigir conhecimento técnico avançado. Isso representa um desafio importante para governos e instituições responsáveis pela distribuição de recursos emergenciais.
A fotografia deixou de ser uma prova suficiente
Durante décadas, uma fotografia foi tratada como um elemento relativamente confiável para demonstrar determinado fato. Evidentemente, imagens já podiam ser adulteradas, mas a manipulação exigia ferramentas e conhecimentos que não estavam ao alcance da maioria das pessoas.
A inteligência artificial mudou esse cenário. Hoje, é possível produzir ou modificar imagens com um grau de realismo que dificulta a identificação de uma fraude apenas pela observação humana. E isso cria uma situação particularmente delicada quando a fotografia é utilizada para comprovar um prejuízo financeiro.
O problema não está apenas na imagem falsa. Está na possibilidade de ela ser inserida dentro de um conjunto aparentemente coerente de informações: nome, endereço, documentos, fotografias e relatos.
Quanto mais elementos falsos conseguem ser combinados, mais difícil se torna a identificação da fraude por meio de uma conferência convencional. Por isso, a pergunta feita por um sistema de controle precisa mudar. Em vez de simplesmente verificar se a fotografia parece verdadeira, é necessário verificar se a informação apresentada é compatível com outras evidências disponíveis.
O endereço corresponde à área efetivamente atingida? O imóvel aparece em registros anteriores? Existem informações da Defesa Civil compatíveis com o relato? A localização da imagem faz sentido? Os documentos apresentados são coerentes entre si? É esse cruzamento que pode transformar uma fotografia isolada em apenas uma peça de um processo de validação muito mais robusto.
O problema não é a inteligência artificial
É importante fazer uma distinção. A inteligência artificial não criou as fraudes. Falsificadores já produziam documentos, adulteravam fotografias e inventavam histórias muito antes da existência das ferramentas generativas.
O que mudou foi a capacidade de produção. A tecnologia reduziu o custo, o tempo e o conhecimento necessário para produzir determinados tipos de conteúdo falso. Uma fraude que antes exigia conhecimento técnico pode hoje ser realizada com ferramentas disponíveis ao público.
Esse fenômeno já é percebido em golpes envolvendo clonagem de voz, falsos vídeos, perfis fraudulentos e documentos manipulados. O próximo passo natural é utilizar essas mesmas ferramentas para tentar enganar sistemas que concedem benefícios, indenizações ou recursos financeiros.
É uma mudança importante porque coloca a administração pública diante de um dilema: ao mesmo tempo em que precisa digitalizar seus serviços para ganhar velocidade e facilitar o acesso da população, precisa criar novas camadas de segurança para impedir que a digitalização seja explorada por fraudadores.
Calamidades aumentam a vulnerabilidade
Situações de emergência tornam esse desafio ainda maior. Quando ocorre uma enchente, uma tempestade ou outro desastre natural, o poder público precisa agir rapidamente. Famílias precisam de assistência, documentos precisam ser regularizados e recursos precisam chegar às pessoas afetadas.
A urgência, entretanto, também pode ser explorada por criminosos. Quanto maior o número de pessoas que precisam ser atendidas e quanto maior a pressão por respostas rápidas, maior pode ser a oportunidade para quem tenta inserir informações falsas no sistema.
Existe ainda um segundo tipo de fraude: aquela que não tenta convencer diretamente o governo, mas a própria vítima. Criminosos podem aproveitar a divulgação de benefícios para enviar mensagens por WhatsApp, SMS ou redes sociais prometendo antecipação de valores, liberação mais rápida do dinheiro ou facilidades mediante pagamento.
A regra é simples: benefícios públicos não devem exigir pagamentos a intermediários para serem liberados. O cidadão deve sempre procurar os canais oficiais da instituição responsável pelo benefício. Em momentos de vulnerabilidade, a desconfiança precisa ser redobrada.
O combate também precisa usar inteligência artificial
Se os fraudadores utilizam tecnologia para produzir conteúdos falsos, o poder público também precisa utilizar tecnologia para identificá-los. Isso não significa confiar cegamente em sistemas automáticos de detecção de deepfakes. Nenhuma ferramenta deve ser tratada como uma espécie de "detector infalível" de imagens falsas.
A resposta mais eficiente tende a estar na combinação de diferentes mecanismos.
Análise de imagens, metadados, geolocalização, cruzamento de informações cadastrais, bases da Defesa Civil, registros públicos e histórico dos imóveis podem criar uma rede de verificação muito mais difícil de ser burlada.
Em situações de maior dúvida ou risco, a análise automatizada pode ser complementada por perícia digital ou verificação presencial. O princípio é semelhante ao adotado em outras áreas de prevenção a fraudes: quanto maior o risco, maior deve ser a quantidade de evidências independentes exigidas.
A velocidade não pode eliminar o controle
Há uma tentação natural, especialmente em períodos de emergência, de tratar qualquer mecanismo de fiscalização como um obstáculo à liberação de recursos.
Essa é uma falsa escolha. Controle eficiente não precisa significar burocracia. Ao contrário, sistemas capazes de cruzar automaticamente grandes volumes de informação podem tornar a fiscalização mais rápida e, ao mesmo tempo, mais precisa.
O objetivo deve ser reduzir a necessidade de análise manual dos casos de baixo risco e concentrar os esforços humanos nas situações que apresentem sinais de inconsistência. É justamente nesse ponto que a inteligência artificial pode deixar de ser um problema e passar a fazer parte da solução.
A tecnologia utilizada para fabricar uma fotografia falsa também pode ajudar a identificar alterações. Um sistema utilizado para analisar milhares de solicitações pode encontrar padrões que seriam invisíveis em uma conferência individual. A questão, portanto, não é escolher entre tecnologia e fiscalização. É utilizar tecnologia para tornar a fiscalização mais inteligente.
O custo de uma fraude vai além do dinheiro
Fraudar um benefício destinado às vítimas de uma calamidade não representa apenas um prejuízo financeiro para o Estado. Existe uma consequência social. Cada recurso desviado indevidamente é um recurso que pode deixar de atender alguém que realmente sofreu perdas. Cada fraude bem-sucedida também aumenta a necessidade de controles futuros, tornando os processos potencialmente mais complexos para todos os cidadãos.
Há, portanto, um efeito perverso: o fraudador não prejudica apenas o governo. Prejudica principalmente quem depende de uma política pública e precisa comprovar sua situação de maneira legítima.
É por isso que o episódio de Ribeirão Preto deve ser encarado como um sinal de alerta. Não se trata de um problema restrito ao FGTS ou a uma determinada cidade. A mesma lógica pode ser aplicada a diferentes benefícios, indenizações, seguros e programas públicos que dependam de documentos e imagens para comprovar situações específicas.
A inteligência artificial tornou a falsificação mais acessível. A resposta precisa ser tornar a verificação mais sofisticada. O desafio dos próximos anos não será apenas descobrir se um documento é verdadeiro. Será verificar se a história contada por aquele documento corresponde à realidade.
Em uma sociedade cada vez mais digital, essa talvez seja uma das fronteiras mais importantes do combate às fraudes. Porque, quando uma fotografia pode ser fabricada em segundos, provar que algo realmente aconteceu passa a exigir muito mais do que uma imagem.
Afonso Morais é advogado especialista em Direito Digital e fraudes digitais, da Pardi e Morais Consultores Jurídicos, e host do podcast Falando de Fraudes.
