A lo largo de la serie «Ready. Or Not.», hemos abordado temas como la IA agentiva, la confianza digital, el factor humano y la programación basada en la intuición. En este quinto y último episodio de la primera temporada, la conversación se centra en la única constante que subyace a todo debate sobre la IA: los datos.
Nathan Macintosh se sienta a charlar con Ben Lorica, antiguo científico jefe de datos de O’Reilly Media y fundador de Gradient Flow, para analizar en qué consiste realmente la «Readiness» para la IA. Su conversación va más allá de los algoritmos y las aplicaciones para centrarse en el trabajo que las organizaciones deben realizar antes de que la IA pueda tener éxito. Analizan por qué la IA está cambiando nuestra forma de pensar sobre la gobernanza, por qué recopilar más datos no siempre es la solución y por qué la preparación es tan importante como la adopción. Mira el episodio completo en Readiverse.
Puntos clave
- La «Readiness» para la IA empieza por comprender y organizar los datos de los que ya se dispone.
- La gobernanza se aplica ahora a los sistemas de IA, no solo a las personas.
- Más datos no siempre es mejor. Hay que aspirar a datos de mejor calidad.
- La IA introduce nuevos riesgos que requieren nuevos procesos, no solo nueva tecnología.
- Las organizaciones mejor preparadas para la IA están sentando hoy unas bases sólidas en materia de datos.
Las organizaciones están generando y gestionando más datos que nunca. Es fácil dar por sentado que el siguiente paso consiste simplemente en recopilar más datos. Ben explica por qué preparar y gestionar los datos de los que ya dispones puede constituir una base mucho más sólida para la IA.
Una cosa que me gustó de la perspectiva de Ben es que nunca presenta la Readiness para la IA como un problema exclusivamente tecnológico. Se trata de un reto organizativo que comienza mucho antes de que los equipos empiecen a poner en práctica la IA.
Estas son algunas ideas que me han llamado la atención.
La IA es tan buena como los datos en los que se basa
«Céntrate en los datos que tienes… y prepáralos para la IA».
– Ben Lorica
Uno de los primeros puntos que planteó Ben cuestionaba una suposición habitual. Cuando las organizaciones hablan de estar «ready para la IA», el instinto suele ser recopilar más datos. Ben lo ve de otra manera. En lugar de dar prioridad a la cantidad, anima a las organizaciones a centrarse en la calidad y a preparar sus datos existentes para la IA.
Eso empieza por comprender qué datos se tienen, organizarlos y asegurarse de que sean precisos y estén bien gestionados. A medida que la IA se vaya integrando en más procesos empresariales, las organizaciones recurrirán a muchos tipos diferentes de información, desde hojas de cálculo hasta texto, imágenes, audio y vídeo. Si esos datos no son fiables, la IA no solucionará el problema, y puede incluso hacer que sea más difícil de detectar.
Existe una presión comprensible por avanzar rápidamente con la IA. Esta conversación me ha recordado que dedicar tiempo a construir una base de datos sólida puede ser una de las inversiones más inteligentes que podemos hacer. Unos datos limpios y bien gestionados ayudan a las organizaciones a tomar mejores decisiones hoy, al tiempo que las preparan para lo que venga después.
La IA cambia el papel de la gobernanza
Ben señala que la gobernanza tiene una función más amplia que desempeñar. Ya no se trata solo de gestionar cómo las personas acceden a la información y la utilizan. Las organizaciones también deben pensar en cómo interactúa la IA con esa información y en las acciones que lleva a cabo.
A medida que la IA se integra en el trabajo diario, puede acceder a la información, analizarla y actuar en consecuencia a una escala y velocidad que a las personas les resulta difícil igualar. Eso significa que las organizaciones deben comprender a qué puede acceder la IA, cómo utiliza esa información y qué medidas de seguridad deben implantarse para proteger los datos sensibles.
Lo interesante es que los fundamentos de la gobernanza no han cambiado. Unas políticas claras en materia de acceso, seguridad y rendición de cuentas son tan importantes como siempre lo han sido. Lo que está cambiando es el número de sistemas que interactúan con los datos de la organización y el ritmo al que la información circula por toda la empresa.
Para mí, esa es una de las conclusiones más importantes de este episodio. La IA no sustituye a una buena gobernanza. La hace aún más importante.
Avance: Cuando los datos empiezan a multiplicarse
¿Qué ocurre cuando la IA permite que cinco personas hagan el trabajo de 100? Ben explica por qué el verdadero reto no es la productividad, sino la explosión de datos que conlleva.
Una IA responsable empieza por personas responsables
Una cosa en la que Ben hace hincapié a lo largo de la conversación es que las organizaciones no pueden confiar únicamente en la tecnología para que la IA sea responsable. Las personas que utilizan la IA también desempeñan un papel importante.
Tanto si los empleados introducen instrucciones, suben documentos o ajustan modelos, deben comprender qué información están compartiendo y cómo podría utilizarse. Las medidas de seguridad no solo sirven para restringir el acceso, sino también para ayudar a las personas a tomar decisiones informadas al trabajar con la IA.
Ben señala que las organizaciones deben ir más allá de lo que se introduce en un sistema de IA. También deben prestar atención a lo que sale de él. La IA puede generar información sensible de forma involuntaria, por lo que la revisión y la supervisión de los resultados son tan importantes como las instrucciones que iniciaron la interacción.
Es otro recordatorio de que la IA responsable no es solo un reto tecnológico. Es una responsabilidad compartida entre las personas que utilizan la IA y las políticas que las guían.
Planificar para lo desconocido
Existe una presión comprensible por adoptar la IA rápidamente. Cada día surgen nuevas herramientas y las organizaciones no quieren quedarse atrás. Pero Ben sostiene que la «Readiness» no consiste solo en actuar con rapidez. Se trata de contar con los procesos adecuados antes de que sean necesarios.
Hacia el final de la conversación, Ben señala que muchos equipos de IA no han tenido plenamente en cuenta qué harán cuando las cosas salgan mal. Me encanta la respuesta de Nathan porque era exactamente lo que yo estaba pensando:
«¿Por qué no se les ocurre eso? Es lo único en lo que pienso». – Nathan Macintosh
En ciberseguridad, las organizaciones resilientes no esperan a que se produzca un incidente para decidir cómo van a responder. Establecen funciones, definen procesos y se preparan para diferentes escenarios mucho antes de que sean necesarios. Ben sostiene que la IA merece el mismo nivel de preparación.
Eso significa plantearse preguntas que muchas organizaciones aún no han considerado en profundidad, como:
- ¿A qué datos debería tener acceso la IA?
- ¿Quién debería intervenir si un resultado generado por la IA crea un problema?
- ¿Cómo se tomarán las decisiones si ocurre algo inesperado?
Puede que estas conversaciones no sean tan emocionantes como poner en marcha una iniciativa de IA, pero son igual de importantes.
Una reflexión final
Ahora que esta temporada de «Ready. Or Not.» llega a su fin, hay algo que me ha quedado claro. Cada episodio ha explorado un concepto o una tendencia diferente de la IA, pero todos han reforzado la misma idea: la adopción exitosa de la IA no se reduce únicamente a la tecnología. Se trata de las personas, los procesos y la preparación que la hacen posible.
Las organizaciones no tienen por qué tener todas las respuestas antes de adoptar la IA. Pero cuanto más decididas estén a la hora de sentar unas bases sólidas hoy, mejor preparadas estarán para lo que venga después. Mira el episodio completo en Readiverse.
Preguntas frecuentes
P: ¿Qué significa «Readiness para la IA»?
R:
Readiness para la IA empieza por comprender, organizar, gestionar y proteger los datos que tu organización ya tiene. Unas prácticas sólidas en materia de datos crean los cimientos de los que depende la IA.
P: ¿Deberían las organizaciones recopilar más datos para la IA?
R: No necesariamente. Ben recomienda centrarse primero en mejorar la calidad y la organización de los datos existentes antes de ampliar los esfuerzos de recopilación de datos.
P: ¿Cuál es el papel de los empleados en el uso responsable de la IA?
R: Los empleados desempeñan un papel importante en la gobernanza de la IA. Deben comprender qué información es adecuada para compartir con la IA, revisar cuidadosamente los resultados generados por la IA y seguir las políticas de la organización para utilizar la IA de forma responsable.
P: ¿Por qué cambia la IA la gobernanza de los datos?
R:
Los sistemas de IA acceden, analizan y actúan cada vez más sobre los datos de la organización. Eso significa que las políticas de gobernanza deben aplicarse tanto a las máquinas como a las personas.
P: ¿Por qué deben las organizaciones prepararse para problemas inesperados relacionados con la IA?
R: La IA puede acarrear nuevos riesgos, desde la exposición de información sensible hasta la generación de resultados no deseados. Prepararse con antelación, definiendo responsabilidades y procesos de respuesta, ayuda a las organizaciones a afrontar esas situaciones con mayor confianza.
P: ¿Cuál es la idea principal de este episodio? R: La Readiness para la IA no consiste solo en adoptar nuevas tecnologías. Se trata de establecer una gobernanza sólida, buenas prácticas en materia de datos y procesos organizativos resilientes que permitan utilizar la IA de forma responsable y eficaz. Katherine Demacopoulos es directora sénior de Estrategia y Programas de Contenidos Globales en Commvault.
