Ao longo da série “Ready. Or Not.”, exploramos temas como IA autônoma, confiança digital, o fator humano e a codificação de vibrações. Neste quinto e último episódio da primeira temporada, a conversa se concentra na única constante por trás de todas as discussões sobre IA: os dados.
Nathan Macintosh conversa com Ben Lorica, ex-cientista-chefe de dados da O’Reilly Media e fundador da Gradient Flow, para discutir como realmente se define a Readiness para a IA. A conversa vai além de algoritmos e aplicações, abordando o trabalho que as organizações precisam realizar para que a IA seja bem-sucedida. Eles exploram por que a IA está mudando a forma como pensamos sobre governança, por que coletar mais dados nem sempre é a resposta e por que a preparação é tão importante quanto a adoção. Assista ao episódio completo no Readiverse.
Pontos principais
- Readiness para a IA começa com a compreensão e a organização dos dados que você já possui.
- A governança agora se aplica aos sistemas de IA, não apenas às pessoas.
- Mais dados nem sempre são melhores. Busque dados de melhor qualidade.
- A IA traz novos riscos que exigem novos processos, não apenas novas tecnologias.
- As organizações mais bem preparadas para a IA estão construindo bases de dados sólidas neste exato momento.
As organizações estão gerando e gerenciando mais dados do que nunca. É fácil supor que o próximo passo seja simplesmente coletar mais dados. Ben explica por que preparar e governar os dados que você já possui pode ser uma base muito mais sólida para a IA.
Uma coisa que apreciei na perspectiva de Ben é que ele nunca apresenta a Readiness para a IA apenas como um problema tecnológico. Trata-se de um desafio organizacional que começa muito antes de as equipes começarem a colocar a IA em prática.
Aqui estão algumas ideias que ficaram na minha memória.
A IA é tão boa quanto os dados por trás dela
“Concentre-se nos dados que você já tem… e prepare-os para a IA.”
– Ben Lorica
Um dos primeiros pontos levantados por Ben desafiou uma suposição comum. Quando as organizações falam em se tornarem “prontas para a IA”, o instinto geralmente é coletar mais dados. Ben vê isso de maneira diferente. Em vez de priorizar a quantidade, ele incentiva as organizações a se concentrarem na qualidade e a prepararem seus dados existentes para a IA.
Isso começa com a compreensão dos dados que você possui, organizando-os e garantindo que sejam precisos e bem gerenciados. À medida que a IA se torna parte de mais processos de negócios, as organizações passarão a contar com muitos tipos diferentes de informações, desde planilhas até textos, imagens, áudio e vídeo. Se esses dados não forem confiáveis, a IA não resolverá o problema – e pode até tornar mais difícil identificá-lo.
Existe uma pressão compreensível para avançar rapidamente com a IA. Essa conversa me lembrou que dedicar tempo para construir uma base sólida de dados pode ser um dos investimentos mais inteligentes que podemos fazer. Dados limpos e bem gerenciados ajudam as organizações a tomar melhores decisões hoje, ao mesmo tempo em que as preparam para o que vier a seguir.
A IA muda o papel da governança
Ben destaca que a governança tem uma função mais ampla a cumprir. Não se trata mais apenas de gerenciar como as pessoas acessam e utilizam as informações. As organizações também precisam pensar em como a IA interage com essas informações e nas ações que ela realiza.
À medida que a IA se torna parte do trabalho cotidiano, ela pode acessar, analisar e agir com base nas informações em uma escala e velocidade difíceis de serem igualadas por pessoas. Isso significa que as organizações precisam entender a que a IA tem acesso, como ela está utilizando essas informações e quais medidas de proteção devem ser implementadas para proteger dados confidenciais.
O interessante é que os fundamentos da governança não mudaram. Políticas claras sobre acesso, segurança e prestação de contas continuam tão importantes quanto sempre foram. O que está mudando é o número de sistemas que interagem com os dados organizacionais e o ritmo com que as informações circulam pela empresa.
Para mim, essa é uma das principais lições deste episódio. A IA não substitui a boa governança. Ela a torna ainda mais importante.
Prévia: Quando os dados começam a se multiplicar
O que acontece quando a IA permite que cinco pessoas façam o trabalho de 100? Ben explica por que o verdadeiro desafio não é a produtividade. É a explosão de dados que vem junto com ela.
IA responsável começa com pessoas responsáveis
Uma coisa que Ben enfatiza ao longo da conversa é que as organizações não podem confiar apenas na tecnologia para tornar a IA responsável. As pessoas que utilizam a IA também desempenham um papel importante.
Seja inserindo comandos, enviando documentos ou ajustando modelos, os funcionários precisam entender quais informações estão compartilhando e como elas podem ser utilizadas. As medidas de proteção não se limitam apenas a restringir o acesso. Elas também servem para ajudar as pessoas a tomar decisões informadas ao trabalhar com IA.
Ben destaca que as organizações devem pensar além do que é inserido em um sistema de IA. Elas também devem prestar atenção ao que é gerado. A IA pode, sem intenção, gerar informações confidenciais, tornando a revisão e a supervisão dos resultados tão importantes quanto as instruções que deram início à interação.
Isso é mais um lembrete de que a IA responsável não é apenas um desafio tecnológico. É uma responsabilidade compartilhada entre as pessoas que utilizam a IA e as políticas que as orientam.
Prepare-se para o desconhecido
Existe uma pressão compreensível para adotar a IA rapidamente. Novas ferramentas estão surgindo quase diariamente, e as organizações não querem ficar para trás. Mas Ben argumenta que “Readiness” não significa apenas agir com rapidez. Trata-se de ter os processos certos em vigor antes que eles sejam necessários.
No final da conversa, Ben destaca que muitas equipes de IA ainda não consideraram plenamente o que farão quando as coisas derem errado. Adorei a resposta de Nathan, porque foi exatamente o que eu estava pensando:
“Por que eles não pensariam nisso? É nisso que eu só penso.” – Nathan Macintosh
Na segurança cibernética, organizações resilientes não esperam que ocorra um incidente para decidir como vão reagir. Elas estabelecem funções, definem processos e se preparam para diferentes cenários muito antes de que sejam necessários. Ben argumenta que a IA merece o mesmo nível de preparação.
Isso significa fazer perguntas que muitas organizações ainda não consideraram plenamente, como:
- A quais dados a IA deve ter acesso?
- Quem deve ser envolvido se um resultado gerado pela IA causar um problema?
- Como as decisões serão tomadas se algo inesperado acontecer?
Essas conversas podem não ser tão empolgantes quanto o lançamento de uma iniciativa de IA, mas são igualmente importantes.
Uma reflexão final
À medida que esta temporada de “Ready. Or Not.” chega ao fim, uma coisa ficou clara para mim. Cada episódio explorou um conceito ou tendência diferente de IA, mas todos reforçaram a mesma ideia: a adoção bem-sucedida da IA não se resume apenas à tecnologia. Trata-se das pessoas, dos processos e da preparação que tornam isso possível.
As organizações não precisam ter todas as respostas antes de adotar a IA. Mas quanto mais deliberadas forem na construção de bases sólidas hoje, mais preparadas estarão para o que vier a seguir. Assista ao episódio completo no Readiverse.
Perguntas frequentes
P: O que significa “Readiness” para a IA?
R: A “Readiness” para a IA começa com a compreensão, organização, governança e proteção dos dados que sua organização já possui. Práticas sólidas de gestão de dados criam a base da qual a IA depende.
P: As organizações devem coletar mais dados para a IA?
R: Não necessariamente. Ben recomenda focar primeiro em melhorar a qualidade e a organização dos dados existentes antes de ampliar os esforços de coleta de dados.
P: Qual é o papel dos funcionários no uso responsável da IA?
R: Os funcionários desempenham um papel importante na governança da IA. Eles precisam entender quais informações são adequadas para serem compartilhadas com a IA, revisar cuidadosamente os resultados gerados pela IA e seguir as políticas organizacionais para o uso responsável da IA.
P: Por que a IA muda a governança de dados?
R: Os sistemas de IA acessam, analisam e agem cada vez mais com base nos dados organizacionais. Isso significa que as políticas de governança precisam se aplicar tanto às máquinas quanto às pessoas.
P: Por que as organizações devem se preparar para problemas inesperados relacionados à IA?
R: A IA pode trazer novos riscos, desde a exposição de informações confidenciais até a produção de resultados indesejados. Preparar-se com antecedência, definindo responsabilidades e processos de resposta, ajuda as organizações a lidar com essas situações com mais confiança.
P: Qual é a principal lição deste episódio? R: A Readiness para a IA não se resume apenas à adoção de novas tecnologias. Trata-se de construir uma governança sólida, boas práticas de dados e processos organizacionais resilientes que ajudem a garantir que a IA seja utilizada de forma responsável e eficaz. Katherine Demacopoulos é diretora sênior de Estratégia e Programas de Conteúdo Global da Commvault.
