Es fácil hablar de la IA como si el futuro ya estuviera escrito. La IA transformará el mundo laboral. La IA sustituirá puestos de trabajo. La IA redefinirá los sectores. Se da por sentado que la tecnología simplemente avanza y que el resto de nosotros nos limitamos a seguirla. Pero, ¿y si…el futuro de la IA¿Y si no estuviera tan predeterminado como parece?
En este episodio de«Listo. O no.»(T2:E3), Nathan Macintosh conversa con Camille Stewart Gloster, estratega en ciberseguridad e inteligencia artificial, cuya experiencia abarca la Casa Blanca, el Departamento de Seguridad Nacional, Google y la política nacional de ciberseguridad. Juntos, exploran una perspectiva diferente que cuestiona algunas de las principales suposiciones que rodean a la inteligencia artificial en la actualidad.
Mira el episodio completo en Readiverse.
Puntos clave
- Las organizaciones tienen más influencia sobre el futuro de la IA de lo que podrían imaginar.
- La IA avanza rápidamente, pero las organizaciones siguen teniendo voz y voto a la hora de decidir cómo se implementa, cómo se regula y cómo se genera confianza en ella.
- La seguridad no es un aspecto independiente de una estrategia de IA. Es lo que contribuye a que la IA sea fiable, gestionable y eficaz.
- Los agentes de IA deberían gestionarse más como empleados digitales que como herramientas de software.
- Muchas organizaciones tienen dificultades para obtener resultados significativos con la IA porque la están incorporando a los procesos existentes en lugar de rediseñarlos.
Replantear el debate sobre la IA
Camille sostiene que, aunque las tecnologías de IA seguirán avanzando, los resultados que generan distan mucho de estar predeterminados. Las decisiones que tomen las organizaciones en materia degobernanza, seguridad y responsabilidadayudarán a dar forma a lo que vendrá después.
Como señala Nathan al principio de la conversación:
«Eres la única persona, hasta ahora, en toda esta serie que ha utilizado la frase “la IA no es inevitable”».Nathan Macintosh
Es una observación sencilla, pero replantea el debate sobre el futuro de la IA. En lugar de preguntarse qué nos deparará la IA, Camille se pregunta qué papel queremos desempeñar a la hora de dar forma a lo que vendrá después.
Tus decisiones importan
En el centro de esta conversación se encuentra la convicción de Camille de que La IA no es inevitable. Su argumento no es que las tecnologías de IA puedan desaparecer. De hecho, muchas capacidades de IA ya están integradas en el software y los servicios que utilizamos a diario.
Lo que no es inevitable, sostiene, son las suposiciones que ya hemos empezado a hacer sobre el futuro.
«Tienes mucho más control del que crees».
– Camille Stewart Gloster
Los debates sobre la IA suelen centrarse en lo que la tecnología puede hacer, mientras que prestan mucha menos atención a las decisiones que pueden tomar las personas, las organizaciones y los gobiernos. Para los responsables de seguridad y tecnología, eso significa cambiar el enfoque de la conversación, pasando de la predicción a la responsabilidad. En lugar de preguntarse en qué se convertirá la IA, las organizaciones deberían centrarse en los sistemas que están creando, en los riesgos que estos conllevan y en quién será responsable cuando algo salga mal.
La perspectiva de Camille nos recuerda que las decisiones más importantes sobre la IA pueden tener menos que ver con los algoritmos y más con las personas encargadas de ponerlos en práctica.
La seguridad hace posible la IA
Camille señala que la seguridad y la estrategia de IA están estrechamente relacionadas. No solo en el sentido tradicional de proteger los sistemas frente a los piratas informáticos o prevenir fugas de datos, sino también a la hora de comprender cómo se comportan los agentes, qué información utilizan y qué acciones se les permite realizar.
La implantación de la IA no consiste únicamente en añadir una nueva capacidad. Se trata de comprender cómo esa capacidad modifica el perfil de riesgo de la organización.
«Cualquier organización que se plantee cómo sacar el máximo partido a su inversión en IA debe invertir en su equipo de seguridad».
– Camille Stewart Gloster
Tal y como explica Camille, las organizaciones están incorporando nuevos actores a sus entornos, y deberían considerar a estos agentes de IA más como empleados que como software. Cuando una empresa contrata a una persona, define sus responsabilidades, establece una supervisión y crea medidas de rendición de cuentas. Lo mismo debería aplicarse a los agentes de IA.
A lo largo de la conversación, Camille no presenta la seguridad como algo que frena la innovación. Al contrario, la ve como lo que hace que la innovación sea sostenible. A medida que los agentes asumen más responsabilidad, las organizaciones necesitan una forma de comprenderlos y gestionarlos. En ese sentido, la seguridad no se limita a reducir el riesgo. Es lo que da a las organizaciones la confianza necesaria para adoptar la IA a gran escala.
Avance: La nueva mentalidad en materia de seguridad
Camille quiere ampliar el alcance de la seguridad más allá de la prevención de brechas. En este vídeo, explica por qué controlar y comprender los sistemas de IA es tan importante como implementarlos en primer lugar.
La IA no es una solución rápida
Muchas organizaciones están invirtiendo mucho en IA, pero esa inversión no se traduce automáticamente en resultados. Según Camille, una de las razones es que las empresas suelen superponer la nueva tecnología a las antiguas formas de trabajar, en lugar de adoptar un enfoque más reflexivo.
«Probablemente, la mejor forma de sacar partido a la inversión en IA sea rediseñar un proceso».
– Camille Stewart Gloster
Camille destaca que la IA es más eficaz cuando forma parte de un esfuerzo de transformación más amplio. En lugar de buscar oportunidades para introducir la IA en tareas concretas, las organizaciones deberían analizar cómo fluye el trabajo e identificar en qué puntos se puede rediseñar y mejorar el proceso en sí.
También señala que las organizaciones suelen subestimar el trabajo necesario para implementar con éxito la IA. El valor real no proviene únicamente de la tecnología en sí, sino de los cambios operativos que la respaldan.
Quizá la lección más importante sea que la IA rara vez es la respuesta completa. La verdadera oportunidad surge al combinar la nueva tecnología con cambios bien meditados en los procesos y flujos de trabajo, de modo que la IA pueda formar parte de algo más amplio que la propia IA.
¿Listos para un poco de optimismo?
Los debates sobre la IA suelen oscilar entre dos extremos: o bien la IA lo va a resolver todo, o bien va a trastocar por completo nuestra forma de vivir y trabajar. Camille ofrece una perspectiva positiva.
A lo largo del episodio, se destaca que las organizaciones tienen más influencia sobre el futuro de la IA de lo que podrían creer. El futuro de la IA vendrá determinado por las decisiones que tomen las organizaciones en materia de seguridad, gobernanza, responsabilidad y confianza. El futuro de la IA vendrá determinado por las decisiones que tomen las organizaciones en materia de seguridad, gobernanza, responsabilidad y confianza.
Esto también concuerda con un tema recurrente de«Ready. Or Not».Estar preparado no consiste en predecir el futuro, sino en tomar decisiones meditadas que te ayuden a afrontarlo.
La IA seguirá avanzando y surgirán nuevas oportunidades y riesgos. Pero, como nos recuerda Camille, las organizaciones tienen más influencia sobre lo que está por venir de lo que a veces creen. Y esa es una forma mucho más empoderadora de pensar en el futuro de la IA.
Mira el episodio completo en Readiverse.
Preguntas frecuentes
P: ¿A qué se refiere Camille cuando afirma que «la IA no es inevitable»?
R:Lo que Camille quiere decir es que, aunque las tecnologías de IA seguirán avanzando, los resultados sociales, económicos y organizativos asociados a la IA no están predeterminados. Los líderes, los responsables políticos y las empresas siguen teniendo una influencia significativa sobre cómo se implementa, se gestiona y se regula la IA. El futuro lo determinan las decisiones humanas, no solo la tecnología.
P: ¿Por qué Camille compara a los agentes de IA con los empleados?
R: Los agentes de IA realizan cada vez más acciones, acceden a sistemas, procesan información y toman decisiones en nombre de las organizaciones. Por ello, requieren muchas de las mismas medidas de control que las empresas aplican a los trabajadores humanos, como la definición de funciones, la supervisión, la gestión de permisos, la rendición de cuentas y el seguimiento continuo.
P: ¿Por qué la seguridad cobra mayor importancia a medida que aumenta el uso de la IA?
R:A medida que los sistemas de IA obtienen acceso a datos, aplicaciones y procesos empresariales, las organizaciones necesitan formas de controlar y supervisar su comportamiento. Los equipos de seguridad ayudan a establecer la gobernanza, a implementar medidas de protección, a aportar visibilidad sobre la actividad de los agentes y a verificar que los sistemas de IA funcionen dentro de los límites definidos. Sin esos controles, los riesgos asociados a los sistemas autónomos pueden aumentar significativamente.
P: ¿Por qué algunas organizaciones no obtienen resultados significativos con la IA?
R:Según Camille, muchas empresas se limitan a incorporar la IA a los procesos existentes en lugar de rediseñar los flujos de trabajo en función de las nuevas capacidades. El valor real suele derivarse de replantearse cómo se realiza el trabajo, identificar oportunidades para ampliar las prácticas exitosas impulsadas por la IA e invertir en los cambios operativos necesarios para respaldar su adopción a largo plazo.
P: ¿Qué son las barreras de seguridad en tiempo de ejecución y por qué son importantes?
R: Las barreras de seguridad en tiempo de ejecución son controles que permiten a las organizaciones supervisar y evaluar el comportamiento de los agentes mientras se llevan a cabo las acciones. En lugar de basarse únicamente en reglas estáticas, estas barreras ofrecen la oportunidad de revisar las decisiones, intervenir cuando sea necesario y derivar las acciones a personas antes de que surjan problemas. Ayudan a las organizaciones a encontrar el equilibrio entre la autonomía y la responsabilidad.
P: ¿Cuál es la principal lección que se puede extraer de este episodio?
R: La estrategia de IA y la estrategia de seguridad ya no pueden abordarse como cuestiones independientes. Las organizaciones que tienen éxito con la IA suelen ser aquellas que combinan la innovación con la gobernanza, capacitando a los agentes para que generen valor y, al mismo tiempo, garantizando que los seres humanos sigan siendo responsables de los resultados. Esa no es solo la forma de reducir el riesgo. Es la forma de generar confianza en la propia tecnología.
Katherine Demacopoulos es directora sénior de Estrategia y Programas de Contenidos Globales en Commvault.