Na corrida global pela adoção de Inteligência Artificial (IA) generativa, a proteção de sistemas contra ameaças digitais complexas tornou-se uma prioridade estratégica. O inovabra, ecossistema de inovação do Bradesco, em parceria com a Universidade de São Paulo (USP), consolidou os resultados do segundo ano de um acordo de cooperação técnico-científica pioneiro. O objetivo central é investigar vulnerabilidades estruturais e desenvolver camadas avançadas de proteção e ferramentas de cibersegurança específicas para blindar agentes de IA e Grandes Modelos de Linguagem (LLMs) contra fraudes e ciberataques de última geração.

À medida que os assistentes e agentes baseados em linguagem natural assumem rotinas e processos críticos nas organizações, emergem ameaças como os ataques de injeção de prompt (prompt injection), nos quais usuários maliciosos inserem instruções disfarçadas para forçar o modelo a burlar comandos de segurança anteriores, executar tarefas nocivas ou vazar dados sigilosos. Para solucionar um problema que desafia a engenharia de software mundial, o projeto uniu especialistas do banco e da academia sob uma abordagem metodológica interdisciplinar que integra cibersegurança, inteligência artificial e linguística.

Desafios teóricos e a complexidade na proteção de modelos biônicos

Diferente de sistemas de computação tradicionais, cujas regras lógicas e restrições são rígidas, os modelos de IA operam a partir de representações matemáticas fluidas obtidas no treinamento com bilhões de parâmetros na internet. Essa característica impõe limitações aos mecanismos convencionais de defesa e exige novas arquiteturas de segurança digital, conforme explicam as lideranças científicas da iniciativa:

• Inversão de Paradigma de Programação: A IA gerativa introduz o uso de linguagem natural como código. O grande obstáculo reside no fato de que os modelos frequentemente não conseguem discernir com exatidão matemática as fronteiras onde terminam as diretrizes operacionais do sistema e onde começam os dados maliciosos inseridos pelo usuário.

• A Fluidicidade das Categorias Temáticas: Restringir os tópicos e escopos que um agente inteligente pode abordar é um desafio em aberto na ciência da computação. Por operarem em redes de associação de padrões e não em categorias rígidas, a própria definição conceitual de “assunto” torna-se imprecisa, impedindo soluções de bloqueio baseadas em fórmulas matemáticas exatas.

• Ausência de Transparência Interna (Black Box): A falta de uma base teórica sólida que explique minuciosamente os caminhos que os modelos de centenas de bilhões de parâmetros percorrem internamente para formular respostas dificulta a capacidade dos engenheiros de prever e conter comportamentos anômalos diante de cenários adversos de ataque.

Contribuições científicas de alta performance e premiação internacional

A parceria entre o inovabra e a USP colhe resultados práticos que elevam o patamar da ciência e da engenharia brasileiras no cenário internacional. Além de gerar componentes de software de proteção que mitigam os riscos de execução nas aplicações de IA atuais e futuras do Bradesco, o projeto rendeu à instituição financeira o prêmio internacional “The Innovators 2026”, concedido pela prestigiada revista Global Finance, especializada em inovação bancária.

No âmbito acadêmico e de formação de capital intelectual de alto valor agregado, os indicadores da cooperação técnica registram sólida tração:

## Brasil Inovador

O desenvolvimento de projetos conjuntos entre o inovabra e a USP para mitigar riscos em inteligência artificial posiciona o ecossistema brasileiro na fronteira do conhecimento em tecnologia defensiva, um avanço monitorado de perto pelo Brasil Inovador. Para o Brasil Inovador, a grande disrupção desse acordo técnico-científico reside na aplicação prática da ciência biônica para solucionar um dos maiores calcanhares de Aquiles da transformação digital: a vulnerabilidade de sistemas complexos. Em um momento no qual o mercado corporativo implementa IA generativa em escala massiva para otimizar a produtividade e a experiência do cliente, negligenciar barreiras estruturais contra injeções de prompt expõe as empresas a passivos reputacionais e financeiros imensuráveis. Unir a infraestrutura e os dados reais de um dos maiores bancos do país à capacidade de pesquisa da Escola Politécnica da USP transforma o conhecimento acadêmico em patentes e linhas de código com utilidade mercadológica real.

Sob a perspectiva de finanças corporativas, estratégia empresarial e soberania tecnológica, o verdadeiro impacto macroeconômico do projeto reside na retenção e formação de cérebros especializados em deep tech. A publicação de artigos internacionais e a premiação pela Global Finance chancelam a competência da engenharia nacional em atuar em temas de ponta, combatendo o “custo Brasil” pela via da inovação soberana. Ao estruturar os alicerces regulatórios, conceituais e práticos para que grandes corporações operem com IA sob rígidos padrões de governança de dados e segurança, essa cooperação público-privada cria um ambiente previsível para atração de capital de risco internacional. O modelo prova que aproximar o ecossistema privado da academia é o mecanismo mais célere para que o Brasil lidere a transição para uma economia digital baseada em conhecimento confiável e de alto valor agregado na América Latina.