Pontos principais
- A confiança na era da IA não está desaparecendo — está evoluindo.
- As organizações precisam avaliar a IA continuamente, em vez de confiar nela por padrão.
- A adoção da IA deve capacitar os funcionários, e não levá-los a recorrer a uma IA paralela.
- O modelo “zero trust” não significa desconfiar das pessoas. Trata-se de validar continuamente identidades, dispositivos e ações.
- A adoção responsável da IA exige que a tecnologia, a governança e as pessoas trabalhem em conjunto.
Quando lançamos o “Ready. Or Not.”, queríamos criar uma série que tornasse mais fáceis de entender algumas das principais discussões atuais sobre IA. Ao reunir o comediante Nathan Macintosh com especialistas do setor, estamos explorando tudo, desde IA autônoma e resiliência cibernética até gerenciamento de dados — e adicionando um pouco de humor ao longo do caminho.
Se você assistiu ao nosso primeiro episódio sobre as oportunidades e os riscos da IA autônoma, acho que vai gostar deste também. Desta vez, vamos abordar um tema que está no centro de todas as discussões sobre IA: a confiança.
Nathan conversa com Diana Kelley, diretora de segurança da informação da Protect AI, sobre o que significa confiar na tecnologia em um momento em que a IA é capaz de gerar conteúdo falso convincente, tomar decisões e até mesmo imitar pessoas. De deepfakes e alucinações até o modelo “zero trust” e a IA oculta, eles exploram como as organizações podem adotar a IA sem perder a confiança em seu pessoal e em seus sistemas.
Assista ao episódio completo no Readiverse. Saí desse episódio me sentindo mais otimista do que esperava. Não porque a IA tenha se tornado, de repente, mais confiável, mas porque Diana nos mostra que a confiança cresce quando as organizações implementam as políticas, as medidas de proteção e a tecnologia adequadas. Aqui estão alguns temas da conversa que colocam a IA sob uma nova perspectiva.
Confiança e tecnologia podem coexistir
Diana acredita que a confiança é possível na era da IA, mas terá uma forma diferente. Sempre construímos confiança por meio de relacionamentos com pessoas. Agora, estamos aprendendo a estender essa confiança aos sistemas. Isso não significa confiar cegamente na tecnologia. Significa entender como a IA funciona, reconhecer suas limitações e adotar as medidas de segurança adequadas para que as pessoas e a tecnologia possam trabalhar juntas com confiança.
“A confiança precisa evoluir para se adequar ao novo mundo.” – Diana Kelley
O que me chamou a atenção foi a ideia de que confiança e tecnologia não precisam estar em conflito uma com a outra. Com a abordagem certa, elas podem se fortalecer mutuamente.
Estamos nos tornando mais experientes em IA
Os deepfakes se tornaram um dos riscos da IA mais comentados, e é fácil entender por quê. A IA agora é capaz de gerar vozes, imagens e vídeos convincentes que nos fazem questionar o que é real. Mas Diana destacou que, embora a IA esteja se tornando mais sofisticada, as pessoas estão ficando mais espertas. Estamos mais propensos a questionar uma ligação inesperada, examinar com mais atenção uma postagem nas redes sociais ou parar para pensar diante de algo que não parece totalmente certo.
As organizações também estão se tornando mais experientes. À medida que a IA se aperfeiçoa na imitação, as empresas estão investindo em novas formas de verificar continuamente as identidades e validar as informações. Minha conclusão é a seguinte: a tecnologia continuará a melhorar, mas o mesmo acontecerá com nossa capacidade de reconhecê-la e reagir de forma responsável.
“Hoje é um bom dia para começar a fazer um deepfake?” – Nathan Macintosh
A IA responsável é boa para os negócios
Diana compartilhou um exemplo que provavelmente soará familiar para muitas organizações. Uma funcionária a quem ela chama de “Karen, do Departamento Financeiro”, começa a usar IA porque isso a ajuda a concluir uma tarefa em minutos, em vez de horas. Karen não está tentando contornar a política da empresa — ela está tentando ser mais produtiva.
Os funcionários utilizam a IA porque reconhecem seu valor real, e isso representa uma oportunidade para as organizações. Quando os funcionários têm acesso a ferramentas de IA aprovadas, respaldadas por políticas claras e orientações práticas, eles podem trabalhar com mais eficiência e, ao mesmo tempo, ajudar a proteger os dados e os sistemas da empresa.
Prévia: Adoção mais inteligente da IA
O objetivo não é impedir que os funcionários utilizem a IA. É garantir que eles a utilizem da maneira correta. Diana explica como as organizações podem incentivar a adoção da IA sem criar riscos desnecessários.
A abordagem “Zero Trust” é mais importante do que nunca
“Quando você entende como as coisas funcionam, é aí que começa a entender como administrá-las.” – Diana Kelley
O “Zero Trust” é um daqueles conceitos que fica muito mais fácil de entender com uma analogia. Diana tem uma excelente. Ela descreve isso como se mover por um prédio. Só porque você foi autorizado a entrar pela porta da frente não significa que todas as outras portas se abram automaticamente para você. Cada vez que você acessa uma nova sala, há outra verificação rápida para confirmar se você realmente deve estar ali.
É basicamente assim que o “Zero Trust” funciona. É basicamente assim que funciona o modelo “zero trust”. Em vez de presumir que uma pessoa ou dispositivo é confiável após um único login, as organizações verificam continuamente identidades, dispositivos e ações, à medida que a tecnologia se torna cada vez mais conectada. A maioria dessas verificações ocorre discretamente nos bastidores. Uma das coisas que mais gostei na explicação da Diana é que o “zero trust” não parece ser apenas mais um chavão da área de segurança. Parece uma maneira prática de pensar sobre a confiança em um mundo em que a IA e as identidades digitais estão se tornando parte do dia a dia dos negócios.
A confiança tem a ver com as pessoas
No fim das contas, não é a tecnologia que gera confiança — são as pessoas. São as pessoas que definem as políticas, os processos e os limites éticos que orientam o uso da IA, enquanto a tecnologia ajuda a verificar se essas medidas de proteção estão funcionando conforme o esperado. É essa parceria entre pessoas e tecnologia que torna possível uma IA responsável.
A confiança vai além de nossas próprias organizações. As empresas precisam confiar nos parceiros com quem trabalham, nos sistemas aos quais se conectam e nas tecnologias que adotam. É por isso que a transparência, os padrões compartilhados e a verificação contínua estão se tornando tão importantes quanto a própria inovação. Quanto mais a IA se torna parte do dia a dia dos negócios, mais a confiança se torna uma responsabilidade de todos.
Olhando para o futuro
A IA continuará a evoluir, assim como a forma como interagimos com ela. As organizações que terão sucesso não serão aquelas que confiam cegamente na IA ou que a evitam por completo. Serão aquelas que estabelecerem políticas sólidas, adotarem as tecnologias adequadas e verificarem continuamente os sistemas dos quais dependem.
A confiança não é algo que perdemos à medida que a tecnologia avança. É algo que construímos e desenvolvemos intencionalmente. Esse é exatamente o tipo de conversa que esperamos continuar em cada episódio de Ready. Or Not. Assista ao episódio completo no Readiverse.
Perguntas frequentes
P: O que é confiança digital?
R: A confiança digital é a certeza de que pessoas, sistemas e organizações são quem afirmam ser e agem da maneira esperada e segura. Ela combina tecnologia, governança e verificação para ajudar as organizações a interagirem com segurança.
P: O que são deepfakes?
R: Deepfakes são imagens, vídeos ou gravações de áudio gerados por IA, criados para imitar fielmente pessoas reais. Embora tenham usos legítimos, também podem ser utilizados para se passar por outras pessoas ou cometer fraudes.
P: O que é o modelo “zero trust”?
R: O modelo “zero trust” é um modelo de segurança baseado na verificação contínua, em vez da confiança automática. Em vez de presumir que um usuário ou dispositivo é confiável após um único login, as organizações validam continuamente as identidades e as ações.
P: O que é a IA de sombra?
R: O termo “Shadow AI” refere-se ao uso, por parte dos funcionários, de ferramentas de IA que não foram aprovadas nem estão sujeitas à regulamentação da organização. Embora muitas vezes seja bem-intencionado, isso pode acarretar riscos à segurança, à privacidade e à conformidade.
P: Por que as organizações não deveriam simplesmente bloquear as ferramentas de IA?
R: Os funcionários geralmente adotam a IA porque ela os ajuda a trabalhar com mais eficiência. Em vez de proibir totalmente o uso da IA, as organizações devem fornecer ferramentas aprovadas, estabelecer políticas claras e orientar os funcionários sobre o uso responsável.
P: Qual é a principal lição deste episódio?
R: A confiança não está desaparecendo por causa da IA — ela está evoluindo. As organizações que combinam pessoas, políticas e tecnologia com monitoramento contínuo estarão mais bem posicionadas para adotar a IA com confiança e responsabilidade.
Katherine Demacopoulos é diretora sênior de Estratégia e Programas de Conteúdo Global da Commvault.
