Puntos clave
- Commvault se ha unido a la Open Secure AI Alliance para contribuir al avance de enfoques abiertos, seguros y colaborativos en materia de IA.
- Las herramientas de IA de código abierto proporcionan a las organizaciones una mayor visibilidad y control, lo que permite a los expertos inspeccionar, adaptar y reforzar los sistemas a medida que evolucionan las amenazas y los requisitos.
- Una seguridad eficaz en materia de IA va más allá de los modelos e incluye la identidad, los permisos, las medidas de protección, el registro de actividades, la evaluación y el entorno más amplio en el que operan los agentes de IA.
- La colaboración intersectorial y la investigación compartida pueden ayudar a las organizaciones a responder con mayor rapidez a los retos en constante cambio que plantea una IA agentiva cada vez más capaz.
- Commvault compartirá con la Alianza su experiencia en ciberresiliencia y datos, basada en el principio de que las organizaciones pueden proteger mejor los sistemas y los datos que comprenden plenamente.
La colaboración ha sido desde hace tiempo una de las formas más eficaces en que el sector tecnológico afronta los nuevos retos. Los últimos meses han puesto de relieve esta lección en el ámbito de la IA. Los sistemas agentivos son cada vez más capaces, más independientes y están cada vez más profundamente conectados con la tecnología que utilizamos a diario.
Los acontecimientos recientes también han puesto de manifiesto lo rápido que puede cambiar este panorama. Cuando un sistema avanzado de IA planteó un problema de seguridad inesperado a Hugging Face, la organización utilizó un modelo de código abierto en su propia infraestructura para comprender y contener la situación. La experiencia demostró el valor de las herramientas de IA de código abierto que las organizaciones pueden inspeccionar, adaptar y controlar cuando sea necesario.
Momentos como este no deben mermar nuestro optimismo respecto a la IA. Deben reforzar nuestro compromiso de forjar su futuro juntos. Por
eso, Commvault se enorgullece de unirse a la Open Secure AI Alliance, una comunidad de organizaciones líderes que impulsan la IA a través de la investigación abierta, el conocimiento compartido y las herramientas prácticas.
La IA seguirá evolucionando y ninguna organización por sí sola tendrá todas las respuestas. Aunar la amplia experiencia de todo el sector ofrece a la comunidad una mejor oportunidad de comprender qué está cambiando y responder con la rapidez que exige esta nueva era.
El código abierto es fundamental para este esfuerzo. Ofrece a los expertos la capacidad de examinar cómo funcionan los sistemas y mejorar lo que otros han iniciado. Para los defensores, también proporciona algo esencial: la libertad de elegir y adaptar la tecnología adecuada a cada situación, en lugar de depender de un único sistema o proveedor.
NVIDIA describe esto como una base de defensa abierta construida sobre modelos, marcos y herramientas que la comunidad puede estudiar y reforzar.
La Alianza también reconoce que la seguridad de la IA va mucho más allá del modelo. La identidad, los permisos, las medidas de protección, los registros y la evaluación determinan el comportamiento de un agente. Comprender ese entorno en su totalidad requerirá nuevas investigaciones y la voluntad de compartir lo que el sector vaya aprendiendo a lo largo del camino.
La perspectiva de Commvault se basa en años de experiencia resolviendo complejos retos de ciberresiliencia, ayudando a las organizaciones a comprender sus datos, mantener su fiabilidad y recuperarse con confianza cuando se producen interrupciones.
Gran parte de ese trabajo se reduce a la misma idea que persigue la Alianza: solo se puede proteger aquello que se comprende plenamente. Esa es la experiencia que esperamos aportar, junto con el entusiasmo por aprender de otros que abordan estos retos desde diferentes ángulos.
Las oportunidades que se avecinan para la IA son enormes. Hacerlas realidad dependerá no solo de la rapidez con la que avance la tecnología, sino también de la apertura con la que el sector colabore en el proceso. Commvault se complace en formar parte de esta labor y está ilusionado por ayudar a construir lo que vendrá después.
Lee el comunicado de NVIDIA aquí:
Líderes
del
sector se unen a la Open Secure AI Alliance
.
Preguntas frecuentes
P: ¿Qué es la Open Secure AI Alliance?
R: La Open Secure AI Alliance es una comunidad de organizaciones que trabajan para mejorar la seguridad de la IA mediante la investigación abierta, el intercambio de conocimientos, modelos, marcos y herramientas prácticas. Su enfoque colaborativo ofrece a los participantes la oportunidad de estudiar los retos emergentes y reforzar conjuntamente las defensas de la IA.
P: ¿Por qué se ha unido Commvault a la Open Secure AI Alliance?
R: Commvault se ha unido a la Alianza para aportar su experiencia en ciberresiliencia, comprensión de los datos, confianza y Recovery. Además, esto brinda a Commvault la oportunidad de aprender de otros líderes del sector que abordan la seguridad de la IA desde diferentes perspectivas.
P: ¿Por qué es importante el código abierto para la seguridad de la IA?
R: El código abierto permite a los expertos examinar cómo funcionan los sistemas de IA, aprovechar las tecnologías existentes y adaptar las herramientas a situaciones de seguridad específicas. Además, ofrece a los defensores una mayor libertad para seleccionar y modificar tecnologías, en lugar de depender de un único sistema o proveedor.
P: ¿Qué implica la seguridad de la IA más allá de la protección del modelo?
R:
La seguridad de la IA abarca el entorno más amplio en el que opera un sistema de IA, incluyendo la identidad, los permisos, las medidas de protección, los registros y la evaluación. Comprender estos elementos interconectados puede ayudar a las organizaciones a evaluar y gestionar mejor el comportamiento de los agentes de IA.
P: ¿Cómo se relaciona la experiencia de Commvault en ciberresiliencia con la seguridad de la IA? R:
El trabajo de Commvault en materia de ciberresiliencia se centra en ayudar a las organizaciones a comprender sus datos, mantener su fiabilidad y recuperarse con confianza tras una interrupción. Esa perspectiva encaja de forma natural con el enfoque de la Alianza hacia enfoques abiertos e inspeccionables de la seguridad de la IA.
P: ¿Por qué es importante la colaboración del sector para el futuro de la IA?
R: La IA está evolucionando demasiado rápido y de forma demasiado amplia como para que una sola organización tenga todas las respuestas. Combinar la experiencia, la investigación y los conocimientos prácticos de todo el sector puede ayudar a la comunidad a comprender los retos emergentes y a responder a la velocidad que exige el desarrollo de la IA.
Alexander Coombes es vicepresidente adjunto de Desarrollo de Socios Estratégicos en Commvault.
