É fácil falar sobre IA como se o futuro já estivesse definido. A IA vai transformar o trabalho. A IA vai substituir empregos. A IA vai remodelar os setores. Parte-se do pressuposto de que a tecnologia simplesmente avança, e o resto de nós apenas acompanha essa jornada. Mas e seo futuro da IAE se não fosse tão predeterminado quanto parece?
Neste episódio de“Pronto. Ou não.”(2ª T: E3), Nathan Macintosh conversa com Camille Stewart Gloster, estrategista de segurança cibernética e IA, cuja experiência abrange a Casa Branca, o Departamento de Segurança Interna, o Google e a política nacional de segurança cibernética. Juntos, eles exploram uma perspectiva diferente, que desafia algumas das principais suposições atuais em torno da IA.
Assista ao episódio completo no Readiverse.
Pontos principais
- As organizações têm mais influência sobre o futuro da IA do que podem imaginar.
- A IA está avançando rapidamente, mas as organizações ainda têm voz ativa sobre como ela é implementada, governada e vista com confiança.
- A segurança não é algo separado de uma estratégia de IA. É o que ajuda a tornar a IA confiável, governável e eficaz.
- Os agentes de IA devem ser gerenciados mais como funcionários digitais do que como ferramentas de software.
- Muitas organizações têm dificuldade em obter resultados significativos com a IA porque a estão incorporando aos processos existentes, em vez de redesenhá-los.
Reformulando o debate sobre IA
Camille argumenta que, embora as tecnologias de IA continuem avançando, os resultados que elas geram estão longe de ser predeterminados. As escolhas que as organizações fazem em relação aà governança, segurança e responsabilidadeajudarão a definir o que virá a seguir.
Como Nathan observa no início da conversa:
“Você é a única pessoa, até agora, em toda essa série que usou a frase ‘a IA não é inevitável’.”– Nathan Macintosh
É uma observação simples, mas que reformula a discussão sobre o futuro da IA. Em vez de perguntar o que a IA fará conosco, Camille pergunta qual papel queremos desempenhar na definição do que está por vir.
Suas decisões são importantes
No cerne dessa conversa está a convicção de Camille de que A IA não é inevitável. O que isso significa não é que as tecnologias de IA possam desaparecer. Na verdade, muitos recursos de IA já estão incorporados nos softwares e serviços que usamos todos os dias.
O que não é inevitável, argumenta ela, são as suposições que já começamos a fazer sobre o futuro.
“Você tem muito mais controle do que imagina.”
– Camille Stewart Gloster
As discussões sobre IA costumam se concentrar no que a tecnologia pode fazer, enquanto dedicam muito menos atenção às escolhas que as pessoas, as organizações e os governos podem fazer. Para os líderes de segurança e tecnologia, isso significa mudar o foco da conversa da previsão para a responsabilidade. Em vez de se perguntar como a IA se tornará, as organizações devem se concentrar nos sistemas que estão construindo, nos riscos que estão introduzindo e em quem será responsabilizado quando algo der errado.
A perspectiva de Camille nos lembra que as decisões mais importantes sobre IA podem ter menos a ver com algoritmos e mais com as pessoas responsáveis por colocá-las em prática.
A segurança torna a IA possível
Camille destaca que a segurança e a estratégia de IA estão profundamente interligadas. Não apenas no sentido tradicional de proteger sistemas contra hackers ou impedir vazamentos de dados, mas também no sentido de compreender como os agentes se comportam, quais informações estão utilizando e quais ações têm permissão para realizar.
A implantação da IA não se resume apenas à adição de um novo recurso. Trata-se de compreender como esse recurso altera o perfil de risco da organização.
“Qualquer organização que esteja pensando em como maximizar seu investimento em IA precisa investir em sua equipe de segurança.”
– Camille Stewart Gloster
Como explica Camille, as organizações estão introduzindo novos atores em seus ambientes e devem encarar esses agentes de IA mais como funcionários do que como software. Quando uma empresa contrata uma pessoa, ela define responsabilidades, estabelece supervisão e cria medidas de prestação de contas. O mesmo deve se aplicar aos agentes de IA.
Ao longo da conversa, Camille não considera a segurança como algo que retarda a inovação. Em vez disso, ela a vê como o que torna a inovação sustentável. À medida que os agentes assumem mais responsabilidades, as organizações precisam de uma maneira de compreendê-los e governá-los. Nesse sentido, a segurança não se resume apenas à redução de riscos. É o que dá às organizações a confiança necessária para adotar a IA em grande escala.
Prévia: A Nova Mentalidade de Segurança
Camille deseja ampliar o escopo da segurança para além da prevenção de violações. Neste vídeo, ela explica por que controlar e compreender os sistemas de IA é tão importante quanto implementá-los.
A IA não é uma solução rápida
Muitas organizações estão investindo pesadamente em IA, mas esse investimento não se traduz automaticamente em resultados. Segundo Camille, uma das razões é que as empresas costumam sobrepor novas tecnologias às antigas formas de trabalho, em vez de adotarem uma abordagem mais ponderada.
“A melhor maneira de obter retorno do investimento em IA é, provavelmente, redesenhar um processo.”
– Camille Stewart Gloster
Camille enfatiza que a IA é mais eficaz quando faz parte de um esforço de transformação mais amplo. Em vez de buscar oportunidades para incorporar a IA em tarefas individuais, as organizações devem analisar como o trabalho flui e identificar onde o próprio processo pode ser redesenhado e aprimorado.
Ela também observa que as organizações frequentemente subestimam o trabalho necessário para adotar a IA com sucesso. O valor real não vem apenas da tecnologia em si, mas das mudanças operacionais que a sustentam.
Talvez a maior lição seja que a IA raramente é a resposta completa. A verdadeira oportunidade vem da combinação de novas tecnologias com mudanças bem planejadas nos processos e fluxos de trabalho, para que a IA possa se tornar parte de algo maior do que a própria IA.
Pronto para um pouco de otimismo?
As discussões sobre IA costumam oscilar entre extremos. Ou a IA vai resolver tudo, ou vai virar de cabeça para baixo a maneira como vivemos e trabalhamos. Camille oferece uma perspectiva positiva.
Ao longo do episódio, ela enfatiza que as organizações têm mais influência sobre o futuro da IA do que podem imaginar. O futuro da IA será moldado pelas decisões que as organizações tomarem sobre segurança, governança, responsabilidade e confiança. O futuro da IA será moldado pelas decisões que as organizações tomarem sobre segurança, governança, responsabilidade e confiança.
Isso também está em consonância com um tema recorrente de“Pronto. Ou não”.Manter-se preparado não significa prever o futuro. Significa tomar decisões ponderadas que ajudem você a lidar com ele.
A IA continuará avançando, e novas oportunidades e riscos surgirão. Mas, como Camille nos lembra, as organizações têm mais influência sobre o que está por vir do que às vezes imaginam. E essa é uma maneira muito mais empoderadora de pensar sobre o futuro da IA.
Assista ao episódio completo no Readiverse.
Perguntas frequentes
P: O que Camille quer dizer quando afirma que “a IA não é inevitável”?
R:O que Camille quer dizer é que, embora as tecnologias de IA continuem avançando, os resultados sociais, econômicos e organizacionais associados à IA não estão predeterminados. Líderes, formuladores de políticas e empresas ainda exercem influência significativa sobre como a IA é implantada, governada e regulamentada. O futuro está sendo moldado por decisões humanas, não apenas pela tecnologia.
P: Por que Camille compara agentes de IA a funcionários?
R: Os agentes de IA realizam, cada vez mais, ações, acessam sistemas, processam informações e tomam decisões em nome das organizações. Por isso, eles exigem muitas das mesmas medidas de proteção que as empresas aplicam aos trabalhadores humanos, incluindo definição de funções, supervisão, gerenciamento de permissões, prestação de contas e monitoramento contínuo.
P: Por que a segurança se torna mais importante à medida que a adoção da IA aumenta?
R:À medida que os sistemas de IA ganham acesso a dados, aplicativos e processos de negócios, as organizações precisam de formas de controlar e monitorar seu comportamento. As equipes de segurança ajudam a estabelecer governança, implementar medidas de proteção, gerar visibilidade sobre a atividade dos agentes e verificar se os sistemas de IA operam dentro dos limites definidos. Sem esses controles, os riscos associados a sistemas autônomos podem aumentar significativamente.
P: Por que algumas organizações não estão obtendo resultados significativos com a IA?
R:De acordo com Camille, muitas empresas estão simplesmente sobrepondo a IA aos processos existentes, em vez de redesenhar os fluxos de trabalho em torno de novos recursos. O valor real geralmente advém de repensar como o trabalho é realizado, identificar oportunidades para ampliar práticas bem-sucedidas impulsionadas pela IA e investir nas mudanças operacionais necessárias para apoiar a adoção a longo prazo.
P: O que são barreiras de segurança em tempo de execução e por que elas são importantes?
R: As barreiras de segurança em tempo de execução são controles que permitem às organizações monitorar e avaliar o comportamento dos agentes enquanto as ações estão ocorrendo. Em vez de depender exclusivamente de regras estáticas, essas barreiras oferecem oportunidades para revisar decisões, intervir quando necessário e encaminhar ações para seres humanos antes que os problemas ocorram. Elas ajudam as organizações a equilibrar autonomia e responsabilidade.
P: Qual é a principal lição deste episódio?
R: A estratégia de IA e a estratégia de segurança não podem mais ser tratadas como questões separadas. As organizações que obtêm sucesso com a IA são, muitas vezes, aquelas que combinam inovação com governança, capacitando os profissionais a gerar valor e, ao mesmo tempo, garantindo que os seres humanos continuem responsáveis pelos resultados. Não se trata apenas de reduzir riscos. É assim que se constrói confiança na própria tecnologia.
Katherine Demacopoulos é diretora sênior de Estratégia e Programas de Conteúdo Global da Commvault.