Quando os modelos de IA de ponta começaram a ganhar destaque na mídia, a maior parte do debate girou em torno de uma pergunta: o que acontece quando invasores conseguem acessá-los? É uma pergunta pertinente. Modelos capazes de detectar vulnerabilidades mais rapidamente, encadear exploits e operar a uma velocidade sem precedentes naturalmente suscitam preocupações para qualquer CISO.
Mas, depois de passar algum tempo conversando com clientes nos últimos meses – e na minha conversa com Tim Zonca, vice-presidente de Marketing de Portfólio da Commvault, neste episódio do STRIVE –, acredito que está surgindo uma questão ainda mais importante.
O que acontece com a própria resiliência? Pois, embora a IA de ponta, sem dúvida, acelere as ameaças cibernéticas, ela também está acelerando outra coisa: a complexidade das empresas. Assista ao episódio completo.
Pontos principais
- A IA de ponta não está apenas acelerando os ataques cibernéticos — ela também está aumentando a complexidade das empresas.
- O gerenciamento de vulnerabilidades não está desaparecendo, mas a velocidade e a escala com que elas são identificadas estão mudando drasticamente.
- Os sistemas de IA introduzem dependências de recuperação totalmente novas, incluindo agentes, bancos de dados vetoriais, embeddings e estado distribuído.
- As organizações precisam ter uma compreensão coerente de seus ambientes antes de poderem recuperá-los.
- A próxima geração de resiliência dependerá de sistemas de registro confiáveis que expliquem o que aconteceu, por que aconteceu e como se recuperar com segurança.
A conversa mudou
Uma coisa que o Tim e eu discutimos logo no início do episódio é como as organizações estão reagindo de maneiras tão diferentes à IA de ponta.
- Alguns veem nisso uma categoria totalmente nova de desafios à segurança cibernética.
- Outros veem isso simplesmente como a próxima etapa na evolução do gerenciamento de vulnerabilidades.
O interessante é que nenhuma das duas perspectivas está necessariamente errada. Os processos que as organizações utilizam para identificar, priorizar e corrigir vulnerabilidades continuam sendo os mesmos de sempre. Mas a velocidade com que a IA consegue descobrir essas vulnerabilidades — e revelar cadeias de ataque totalmente novas — é algo sem precedentes. Essa é a mudança.
O trabalho não é fundamentalmente diferente. O que muda é a velocidade.
Quando a IA transforma a forma da Recovery
A maioria das discussões sobre IA concentra-se na segurança e na prevenção:
- Como protegemos os modelos?
- Como protegemos os prompts?
- Como nos defendemos contra ataques assistidos por IA?
Essas são questões importantes. Mas a resiliência levanta outra questão: o que exatamente estamos recuperando? Os aplicativos corporativos tradicionais já envolvem relações complexas entre infraestrutura, aplicativos e dados. A IA amplia consideravelmente esse panorama. Agora, há agentes operando em vários sistemas. Bancos de dados vetoriais. Embeddings. Modelos interagindo com diferentes fontes de dados simultaneamente. Isso se tornou muito mais do que uma pilha de aplicativos tradicional. A recuperação não se resume mais a restaurar um aplicativo. Trata-se de restaurar um ecossistema.
Prévia: Confira isso
Nesta edição do nosso STRIVE, Tim e eu discutimos a crescente complexidade das pilhas de IA, o que é a recuperação coerente (e por que ela é importante) e como a Commvault está ajudando nossos clientes com a recuperação completa da pilha de IA.
Por que a coerência é importante
Uma ideia que vem surgindo repetidamente ao longo de nossa conversa é a coerência. Há anos, as organizações vêm se empenhando em mapear as dependências das aplicações, compreender as relações entre os componentes da infraestrutura e identificar serviços críticos. A IA torna esse desafio significativamente mais difícil. As aplicações não interagem mais com um único banco de dados ou serviço. Elas podem depender de vários modelos, agentes, repositórios de dados e camadas de orquestração — todos em constante mudança.
Compreender essas relações já não é mais apenas um exercício de arquitetura. É um requisito para Recovery. Pois, se você não entender como o sistema funciona, fica difícil saber se realmente conseguiu recuperá-lo.
Um novo sistema de registro
Outro conceito do Tim que achei convincente é a ideia de um sistema de registro para a era da IA. Historicamente, os sistemas de registro proporcionavam às organizações confiança nos dados de negócios. Os registros de clientes ficavam nas plataformas de CRM. Os registros financeiros ficavam nos sistemas de ERP.
A IA muda essa expectativa.
As organizações precisam cada vez mais de uma visibilidade confiável sobre como os dados são utilizados, quais agentes interagem com eles, por que as decisões são tomadas e se os ambientes restaurados representam um estado comprovadamente correto. Isso não substitui a resiliência. Isso a fortalece. Porque a confiança na recuperação depende da confiança no que você está recuperando.
A IA também pode ajudar a resolver o problema
À medida que as organizações enfrentam dificuldades para compreender ambientes cada vez mais distribuídos, a IA se torna uma ferramenta poderosa para a descoberta, a classificação e a recomendação de políticas. Em vez de identificar manualmente as relações em ambientes extensos, as organizações podem utilizar a IA para ajudar a identificar dependências, recomendar políticas de proteção e atualizar continuamente essas relações à medida que os ambientes evoluem. Essa é uma mudança importante.
A mesma tecnologia que está aumentando a complexidade organizacional também pode se tornar uma das melhores ferramentas para gerenciá-la.
Por que essa discussão é importante
A Frontier AI não está simplesmente apresentando mais um desafio à segurança cibernética. Ela está forçando as organizações a repensarem sua própria resiliência. A recuperação está deixando de se concentrar em sistemas individuais para se voltar cada vez mais para a restauração de operações comerciais confiáveis em ambientes cada vez mais inteligentes. Isso significa que as estratégias de resiliência devem evoluir em paralelo às tecnologias que protegem.
As organizações que se prepararem para essa mudança não apenas se recuperarão mais rapidamente. Elas se recuperarão com maior confiança.
Assista ao episódio completo
Nesta conversa, Tim e eu exploramos:
- Como a IA de ponta está transformando o risco corporativo.
- Por que o gerenciamento de vulnerabilidades está entrando em uma nova fase.
- O que a IA significa para as arquiteturas modernas de recuperação.
- O papel da recuperação consistente em ambientes que utilizam IA.
- Por que os sistemas de registro confiáveis se tornarão cada vez mais importantes.
Perguntas frequentes
P: O que são modelos de IA de ponta? R: Os modelos de IA de ponta são a última geração de sistemas de IA altamente capazes, projetados para resolver tarefas cada vez mais complexas de raciocínio e segurança cibernética. P: Por que as organizações estão preocupadas com eles? R: Eles aceleram drasticamente a descoberta de vulnerabilidades, a sequência de explorações e a pesquisa em segurança, aumentando tanto as capacidades defensivas quanto as ofensivas.
P: Como a IA altera a resiliência cibernética? R: A IA introduz novas dependências — incluindo agentes, modelos, bancos de dados vetoriais e estados distribuídos — que tornam a recuperação mais complexa. P: O que é uma estratégia de recuperação coerente?
R: É uma abordagem que restaura não apenas os dados, mas também os aplicativos, a infraestrutura, as dependências e os componentes de IA necessários para operações comerciais confiáveis. P: O que é um sistema de registro na era da IA? R: É uma fonte confiável que ajuda as organizações a entender o que aconteceu, por que aconteceu e se os sistemas recuperados estão em um estado comprovadamente correto.
P: O que as organizações devem fazer agora? R: Comece a mapear as dependências da IA, entenda como a IA altera os requisitos de recuperação e desenvolva estratégias de resiliência que levem em conta ambientes de aplicativos cada vez mais inteligentes. Chris Mierzwa é diretor sênior de marketing de portfólio da Commvault.
