A adoção foi rápida. E a segurança?
Se eu perguntar agora quantos modelos de IA rodam na sua empresa, você responde sem consultar ninguém? Quando faço essa pergunta em reuniões, o silêncio costuma ser mais revelador do que a resposta. Na maioria das vezes, ele vem acompanhado de um “deixa eu verificar com o time”; e na segurança, “deixa eu verificar” costuma ser o primeiro capítulo de um incidente.
A quinta edição do Cyber Resilience Global Survey, da Cohesity, que ouviu 3.200 líderes de TI e segurança em 11 países, só colocou número no que a gente na Scunna vê todos os dias. No Brasil, 51% das organizações não têm inventário das aplicações de IA em uso, e 55% não têm plano de recuperação que cubra ataque a sistemas de IA. Repare: mais da metade das empresas sequer sabe quais aplicações de IA seus colaboradores estão usando. É a institucionalização do Shadow AI.
A IA foi adotada sem avaliação de risco, sem passar pela TI. A sombra da nuvem virou a sombra da IA; e ela é pior, porque a ferramenta não está só guardando dados, está lendo e-mails, resumindo contratos, respondendo clientes e, em alguns casos, decidindo. Cada agente conectado a uma caixa corporativa e cada modelo plugado numa base sensível é um vetor novo que nenhum firewall conhece pelo nome. E é exatamente aqui que a fatura dessa adoção desenfreada começa a ser cobrada. Segundo o Gartner, até 2030, um terço de todo o esforço da TI será gasto apenas remediando a “dívida de dados de IA” para conseguir, de fato, torná-la segura.
Há um agravante que quase ninguém discute: a integridade dos sistemas pós-ataque. Quase 50% das organizações admitem que não conseguem verificar se seus modelos de IA foram adulterados após uma invasão. Imagine um atacante que não sequestra seus dados para pedir resgate, mas envenena o algoritmo que precifica produtos, aprova contratos ou analisa riscos. A empresa pode operar meses sangrando dinheiro e tomando decisões erradas sem gerar um único alerta no painel de segurança.
O dado mais gritante do estudo é a distância entre o discurso e a ação. 99% dos líderes brasileiros afirmam que precisarão modificar os planos de resposta para lidar com IA avançada. 99%! Isso, muito mais que falta de informação, é falta de responsabilização, pois todo mundo sabe que precisa mudar, mas quase ninguém mudou. E o tempo para essa mudança está se esgotando: o Gartner projeta que, até 2028, 50% de todos os esforços de resposta a incidentes de cibersegurança corporativa estarão concentrados justamente em ataques envolvendo aplicações de IA customizadas. O espaço entre o saber e o fazer é onde o incidente acontece.
O mercado corporativo precisa de um choque de realidade. A velha ideia de blindar completamente o perímetro serve apenas para gerar uma falsa sensação de segurança no conselho. No mundo real, a eficácia de uma arquitetura cibernética se resume à capacidade técnica de sustentar a operação principal sem interrupções críticas, absorvendo o impacto e isolando o incidente sem que o cliente ou o mercado percebam.
O caminho é ingrato, e é exatamente por isso que pouca gente percorre. Ele começa pelo inventário, um levantamento demorado, que exige conversa com cada área e que não gera nenhuma entrega visível no curto prazo. Depois vem o mapa de dependências, e é aqui que a conversa costuma ficar desconfortável, porque aparecem os modelos que consomem bases sensíveis sem aprovação de ninguém, as aplicações que conversam entre si por caminhos que a área de segurança nunca mapeou e os acessos privilegiados atravessando o meio de tudo isso. Por fim, a etapa que ninguém faz por vontade própria: derrubar componentes em ambiente controlado e observar o que a operação faz quando uma peça crítica some, quanto tempo a resposta leva e onde o plano de contingência trava. O resultado desse exercício é quase sempre o mesmo, o documento que parecia completo no papel não resiste aos primeiros minutos de crise. A diferença é que, no ambiente controlado, você descobre isso sem o negócio parado e sem o conselho na sua frente.
Se o seu Plano de Resposta a Incidentes não contempla o isolamento rápido de agentes de IA, verificação de integridade de modelos e mitigação de envenenamento de dados, ele é apenas teoria. Plugar IA em tudo é fácil, mas garantir que a empresa continue existindo após um ataque direcionado a esses mesmos sistemas é o verdadeiro desafio da liderança.
