Puntos clave
- La confianza en la era de la IA no está desapareciendo, sino que está evolucionando.
- Las organizaciones deben supervisar la IA de forma continua, en lugar de confiar en ella por defecto.
- La adopción de la IA debería empoderar a los empleados, no empujarlos hacia la «IA en la sombra».
- El modelo «zero trust» no consiste en desconfiar de las personas. Se trata de validar constantemente las identidades, los dispositivos y las acciones.
- Para que la IA se implemente de forma responsable, es necesario que la tecnología, la gobernanza y las personas trabajen juntas.
Cuando lanzamos «Ready. Or Not.», queríamos crear una serie que facilitara la comprensión de algunos de los debates más importantes de la actualidad sobre la IA. Al reunir al cómico Nathan Macintosh con expertos del sector, estamos explorando todo tipo de temas, desde la IA con capacidad de acción y la ciberresiliencia hasta la gestión de datos, y le añadimos un poco de humor por el camino.
Si has visto nuestro primer episodio sobre las oportunidades y los riesgos de la IA agente, creo que este también te va a gustar. Esta vez, vamos a hablar de un tema que ocupa un lugar central en todas las conversaciones sobre IA: la confianza.
Nathan se sienta a charlar con Diana Kelley, directora de seguridad de la información de Protect AI, para hablar sobre lo que significa confiar en la tecnología cuando la IA puede generar contenido falso muy convincente, tomar decisiones e incluso imitar a las personas. Desde los «deepfakes» y las alucinaciones hasta el modelo «zero trust» y la «IA en la sombra», exploran cómo las organizaciones pueden adoptar la IA sin perder la confianza en su personal y sus sistemas.
Mira el episodio completo en Readiverse. Este episodio me ha dejado con una sensación de optimismo mayor de lo que esperaba. No porque la IA sea de repente más fiable, sino porque Diana nos muestra que la confianza crece cuando las organizaciones ponen en marcha las políticas, las medidas de seguridad y la tecnología adecuadas. Aquí tienes algunos temas de la conversación que te harán ver la IA desde una nueva perspectiva.
La confianza y la tecnología pueden coexistir
Diana cree que la confianza es posible en la era de la IA, pero que tendrá un aspecto diferente. Siempre hemos construido la confianza a través de las relaciones con las personas. Ahora, estamos aprendiendo a extender esa confianza a los sistemas. Eso no significa confiar ciegamente en la tecnología. Significa entender cómo funciona la IA, reconocer sus limitaciones y establecer las medidas de seguridad adecuadas para que las personas y la tecnología puedan trabajar juntas con confianza.
«La confianza tiene que adaptarse al nuevo mundo». Te lo cuento – Diana Kelley
Lo que más me llamó la atención fue la idea de que la confianza y la tecnología no tienen por qué estar reñidas. Con el enfoque adecuado, pueden reforzarse mutuamente.
Cada vez sabemos más sobre la IA
Los «deepfakes» se han convertido en uno de los riesgos de la IA más comentados, y es fácil entender por qué. La IA ya es capaz de generar voces, imágenes y vídeos convincentes que nos hacen cuestionarnos qué es real. Pero Diana señaló que, aunque la IA es cada vez más sofisticada, las personas también se están volviendo más inteligentes. Somos más propensos a sospechar de una llamada inesperada, a examinar con más detenimiento una publicación en las redes sociales o a detenernos ante algo que no nos cuadra del todo.
Las organizaciones también se están volviendo más astutas. A medida que la IA mejora su capacidad para suplantar identidades, las empresas están invirtiendo en nuevas formas de verificar continuamente las identidades y validar la información. Mi conclusión es esta: la tecnología seguirá mejorando, pero también lo hará nuestra capacidad para reconocerla y responder de forma responsable.
«¿Es hoy un buen día para hacer un deepfake?» – Nathan Macintosh
Una IA responsable es buena para los negocios
Diana puso un ejemplo que probablemente les resultará familiar a muchas empresas. Una empleada a la que ella llama «Karen, de Finanzas», empieza a utilizar la IA porque le ayuda a terminar una tarea en minutos en lugar de horas. Karen no está intentando saltarse la política de la empresa, sino que solo quiere ser más productiva.
Los empleados utilizan la IA porque ven que realmente les aporta valor, y eso supone una oportunidad para las empresas. Cuando los empleados tienen acceso a herramientas de IA autorizadas, respaldadas por políticas claras y consejos prácticos, pueden trabajar de forma más eficiente y, al mismo tiempo, ayudar a proteger los datos y los sistemas de la empresa.
Avance: Una adopción más inteligente de la IA
El objetivo no es impedir que los empleados utilicen la IA, sino asegurarnos de que la utilicen como es debido. Diana explica cómo las empresas pueden fomentar el uso de la IA sin generar riesgos innecesarios.
El modelo «Zero Trust» es más importante que nunca
«Cuando entiendes cómo funcionan las cosas, es cuando empiezas a entender cómo gestionarlas». – Diana Kelley
El «cero confianza» es uno de esos conceptos que resultan mucho más fáciles de entender con una analogía. Diana tiene una estupenda. Lo describe como moverse por un edificio. El hecho de que te hayan permitido entrar por la puerta principal no significa que todas las demás puertas se te abran automáticamente. Cada vez que accedes a una nueva habitación, hay otra rápida comprobación para confirmar que debes estar allí.
Así es, en esencia, como funciona el «cero confianza». En lugar de dar por sentado que una persona o un dispositivo son de fiar tras un único inicio de sesión, las empresas verifican constantemente las identidades, los dispositivos y las acciones, a medida que la tecnología está cada vez más conectada. La mayoría de esas comprobaciones se realizan de forma discreta, entre bastidores. Una de las cosas que me gustó de la explicación de Diana es que el «zero trust» no parece otra de esas palabras de moda en materia de seguridad. Me parece una forma práctica de plantearse la confianza en un mundo en el que la IA y las identidades digitales se están convirtiendo en parte del día a día de las empresas.
La confianza tiene que ver con las personas
Al fin y al cabo, la tecnología no genera confianza, sino las personas. Son las personas las que definen las políticas, los procesos y los límites éticos que rigen el uso de la IA, mientras que la tecnología ayuda a comprobar que esas medidas de seguridad funcionan como se espera. Es esa colaboración entre las personas y la tecnología la que hace posible una IA responsable.
La confianza va más allá de nuestras propias organizaciones. Las empresas necesitan confiar en los socios con los que trabajan, en los sistemas a los que se conectan y en las tecnologías que adoptan. Por eso, la transparencia, las normas comunes y la verificación continua están cobrando tanta importancia como la propia innovación. Cuanto más se integra la IA en el día a día de las empresas, más se convierte la confianza en una responsabilidad de todos.
De cara al futuro
La IA seguirá evolucionando, y también lo hará la forma en que interactuamos con ella. Las organizaciones que tengan éxito no serán las que confíen ciegamente en la IA ni las que la eviten por completo. Serán aquellas que establezcan políticas sólidas, adopten las tecnologías adecuadas y verifiquen continuamente los sistemas en los que confían.
La confianza no es algo que perdamos a medida que avanza la tecnología. Es algo que construimos y desarrollamos de forma intencionada. Ese es precisamente el tipo de conversación que esperamos continuar en cada episodio de Ready. Or Not. Mira el episodio completo en Readiverse.
Preguntas frecuentes
P: ¿Qué es la confianza digital?
R: La confianza digital es la seguridad de que las personas, los sistemas y las organizaciones son quienes dicen ser y actúan de la forma esperada y segura. Combina tecnología, gobernanza y verificación para ayudar a las organizaciones a interactuar de forma segura.
P: ¿Qué son los deepfakes?
R: Los deepfakes son imágenes, vídeos o grabaciones de audio generados por IA y diseñados para imitar fielmente a personas reales. Aunque tienen usos legítimos, también se pueden utilizar para suplantar la identidad de otras personas o cometer fraudes.
P: ¿Qué es el «zero trust»?
R: El modelo «zero trust» es un modelo de seguridad basado en la verificación continua, en lugar de en la confianza automática. En lugar de dar por sentado que un usuario o un dispositivo es de fiar tras un único inicio de sesión, las empresas validan constantemente las identidades y las acciones.
P: ¿Qué es la IA en la sombra?
R: El término «Shadow AI» se refiere al uso que hacen los empleados de herramientas de IA que no han sido aprobadas ni reguladas por su organización. Aunque a menudo se hace con buena intención, puede suponer riesgos para la seguridad, la privacidad y el cumplimiento normativo.
P: ¿Por qué las empresas no deberían limitarse a bloquear las herramientas de IA?
R: Los empleados suelen utilizar la IA porque les ayuda a trabajar de forma más eficiente. En lugar de prohibir la IA por completo, las empresas deberían ofrecer herramientas autorizadas, establecer políticas claras y formar a los empleados para que la utilicen de forma responsable.
P: ¿Cuál es la idea principal de este episodio?
R: La confianza no está desapareciendo por culpa de la IA, sino que está evolucionando. Las organizaciones que combinen personas, políticas y tecnología con una verificación continua estarán mejor preparadas para adoptar la IA con confianza y de forma responsable.
Katherine Demacopoulos es directora sénior de Estrategia y Programas de Contenidos Globales en Commvault.
