Cuando se trata de la inteligencia artificial y la ciberseguridad, no faltan titulares. Parece que cada semana surge una nueva predicción, advertencia o afirmación audaz sobre lo que nos espera a la vuelta de la esquina. Algunas de esas noticias se refieren a avances realmente trascendentales, pero otras no son más que exageraciones. El reto consiste en distinguir unas de otras, y ahí es donde comienza este episodio de«Listo. O no.«».
A continuación se presenta una conversación sobre el escepticismo, el pensamiento crítico y por qué, para comprender la tecnología, a menudo es necesario ir más allá de los titulares. Mira el episodio completo en Readiverse.
Puntos clave
- No todas las noticias sobre IA o ciberseguridad merecen la misma atención.
- La IA está acelerando tanto la ciberdefensa como los ciberataques, lo que hace que el pensamiento crítico sea más importante que nunca.
- Los hackers han contribuido a dar forma a la ciberseguridad moderna al poner de manifiesto debilidades que otros pasaban por alto.
- Los fundamentos de la seguridad siguen siendo importantes, aunquela IA está cambiando el panorama.
- Las organizaciones deben encontrar un equilibrio entre la urgencia y el escepticismo a la hora de afrontar los rápidos cambios tecnológicos.
Al día con la IA
En este episodio (T2:E2), el presentador Nathan Macintosh conversa con el periodista de investigación especializado en ciberseguridad y autor Joseph Menn, cuya trayectoria periodística abarca desde campañas de piratería informática orquestadas por Estados hasta la ciberdelincuencia organizada y la evolución de la cultura hacker. Juntos, exploran una cuestión cada vez más importante: ¿cómo distinguimos los riesgos reales de ciberseguridad relacionados con la IA del ruido que los rodea?
Uno de los primeros temas que plantea Nathan es el flujo constante de noticias sobre la IA. Con los nuevos modelos y las predicciones, puede dar la sensación de que el panorama cambia cada semana.
Para Joseph, el reto no consiste simplemente en mantenerse al día de las noticias, sino de la propia tecnología. A medida que las organizaciones realizan importantes inversiones en IA, surgen nuevas capacidades a un ritmo más rápido de lo que muchas empresas, reguladores e incluso desarrolladores pueden comprender plenamente.
Al mismo tiempo, la presión competitiva está impulsando una carrera armamentística en torno a la IA, en la que las empresas se apresuran a crear modelos más grandes e implementar nuevas capacidades antes de que se comprendan sus implicaciones.
Eso no significa que las organizaciones deban reducir el ritmo o evitar por completo la IA. Pero sí pone de relieve por qué los responsables de seguridad deben ir más allá del entusiasmo y plantearse preguntas más difíciles. ¿Qué problema resuelve esta tecnología? ¿Qué riesgos conlleva? ¿Y comprendemos tanto sus limitaciones como su potencial?
Lo que importa ahora mismo
Con la IA acaparando el debate, Nathan aborda una pregunta que se hacen muchos responsables:
Joseph destaca el rápido avance deLa IA y su creciente impacto en ambos ámbitos de la ciberseguridad. Las nuevas herramientas están ayudando a los defensores a trabajar de forma más eficiente, mientras que los atacantes están utilizando capacidades similares para aumentar la velocidad y la escala de sus operaciones.
Un ejemplo es el auge de los agentes de IA cada vez más autónomos, un tema que abordamos en el episodio 1 de la temporada 2. A medida que estos sistemas asumen más responsabilidades, también plantean cuestiones importantes en materia de supervisión, rendición de cuentas y control.
Mi conclusión es que quizá la noticia más importante sobre la IA no sea un modelo revolucionario ni una predicción que se haya hecho viral. Es la transformación constante de la ciberseguridad que ya está teniendo lugar a nuestro alrededor.
Avance: Risk y represalias
Tras años dedicados a cubrir noticias sobre ciberdelincuentes, hackers de Estados-nación y grupos de hacktivistas, Joseph explica por qué convertirse en un objetivo nunca fue su mayor preocupación.
Lo que nos puede enseñar la cultura hacker
A menudo se describe a los hackers como alborotadores, pero Joseph sostiene que la cultura hacker suele ser malinterpretada. Contrariamente a los estereotipos populares, estos primeros innovadores se movían por la curiosidad, la creatividad y el deseo de mejorar la tecnología.
Grupos como Cult of the Dead Cow surgieron a partir de un grupo de adolescentes que exploraban la tecnología y aprendían cómo funcionaban los sistemas. A medida que Internet se fue expandiendo, muchos de ellos se convirtieron en defensores de la seguridad, la privacidad y los derechos digitales.
Según Joseph, contribuyeron a sentar las bases de la industria moderna de la ciberseguridad. Lo que les hacía valiosos no era solo su experiencia técnica, sino su disposición a cuestionar las suposiciones y a desafiar las ideas preconcebidas.
En los inicios de Internet, los hackers solían señalar fallos de seguridad y rebatir afirmaciones exageradas. En lugar de aceptar las cosas tal cual, ponían a prueba los sistemas, buscaban puntos débiles y examinaban cómo funcionaban realmente las cosas.
Esa mentalidad sigue siendo igual de relevante hoy en día. A medida que la IA adquiere un papel cada vez más importante en nuestra forma de trabajar y de tomar decisiones, el pensamiento crítico cobra más importancia que nunca. Puede que estemos creando una tecnología más inteligente, pero no podemos permitirnos dejar de pensar por nosotros mismos.
Cómo prepararse para la Readiness
A lo largo de este episodio, Joseph nos recuerda que la tecnología, por sí sola, no determina los resultados. Son las personas las que lo hacen.
La IA seguirá trayendo nuevas oportunidades, nuevos riesgos y no faltarán titulares. Las organizaciones que prosperen serán aquellas que planteen mejores preguntas, mantengan la curiosidad y cuestionen las suposiciones. En muchos sentidos, nuestra ventaja más valiosa puede seguir siendo el juicio humano.
Sigue a«Listo. O no.»para disfrutar de más conversaciones que te ayuden a comprender qué está cambiando, a qué merece la pena prestar atención y cómo las organizaciones pueden mantenerse preparadas para lo que está por venir.
Preguntas frecuentes
P: ¿Por qué cada vez resulta más difícil mantenerse al día con la IA?
R:El ritmo de la innovación se está acelerando rápidamente. Están surgiendo nuevos modelos, herramientas y capacidades a un ritmo más rápido del que las organizaciones pueden evaluar en su totalidad. Como consecuencia, muchos líderes se ven obligados a tomar decisiones tecnológicas antes de que las mejores prácticas, la normativa y los marcos de seguridad se hayan actualizado por completo.
P: ¿A qué avances en IA deberían prestar especial atención los responsables de seguridad?
R:En lugar de centrarse en predicciones especulativas, los responsables deberían prestar atención a los avances que están transformando la ciberseguridad en la actualidad, como la detección de vulnerabilidades mediante IA, los agentes autónomos, la automatización de la seguridad y el uso cada vez mayor de la IA tanto por parte de los atacantes como de los defensores.
P: ¿A qué se refiere Joseph Menn cuando dice que la IA tiene un «doble uso»?
R:Muchas capacidades de la IA pueden utilizarse tanto con fines ofensivos como defensivos. Por ejemplo, la IA puede ayudar a los equipos de seguridad a identificar vulnerabilidades de software y corregirlas más rápidamente, pero los atacantes pueden utilizar técnicas similares para descubrir y explotar esas mismas vulnerabilidades antes de que se solucionen.
P: ¿Qué pueden aprender las organizaciones modernas de la cultura hacker?
R: La cultura hacker contribuyó a dar forma al sector de la ciberseguridad al fomentar la curiosidad, la experimentación y el cuestionamiento de las suposiciones. Muchos de los primeros hackers se centraron en sacar a la luz los puntos débiles para que los sistemas pudieran mejorarse, una mentalidad que sigue siendo valiosa ahora que las organizaciones se adentran en nuevas tecnologías como la IA.
P: ¿Por qué el pensamiento crítico es más importante que nunca?
R:La IA está facilitando la creación de contenidos, la automatización de tareas y la difusión de información a gran escala. Como consecuencia, las organizaciones necesitan líderes y empleados capaces de evaluar afirmaciones, verificar información, cuestionar supuestos y distinguir las conclusiones basadas en pruebas del sensacionalismo o la desinformación.
P: ¿Cuál es la conclusión más positiva de este episodio?
R:La IA no solo está creando nuevos riesgos. También está generando grandes oportunidades para los defensores. Los equipos de seguridad ya están utilizando la IA para identificar vulnerabilidades, automatizar medidas de protección y mejorar la resiliencia. Aunque el panorama de amenazas sigue evolucionando, las organizaciones también tienen acceso a capacidades que eran inimaginables hace tan solo unos años. Katherine Demacopoulos es directora sénior de Estrategia y Programas de Contenidos Globales en Commvault.
