Durante años, los avances en IA han revolucionado diversos aspectos de la vida cotidiana y de las industrias. La IA se ha convertido en una fuerza omnipresente en nuestra forma de comunicarnos y en los servicios que utilizamos.
La inteligencia artificial se ha convertido en una potente herramienta para reforzar las defensas en materia de resiliencia cibernética. Permite acortar los tiempos de respuesta, orientar mejor los recursos, reducir la fatiga por alertas y disponer de más tiempo para centrarse en estrategias eficaces de mitigación de amenazas.
Sin embargo, junto a su innegable potencial, la rápida adopción y el revuelo mediático en torno a la IA generativa han suscitado una serie de preocupaciones en materia de privacidad, transparencia y cuestiones éticas, y con razón. La opacidad de algunos algoritmos de IA, el riesgo de sesgos y discriminación, y el uso indebido de la IA con fines maliciosos han suscitado dudas fundadas sobre la fiabilidad de esta tecnología.
Las empresas que están a la vanguardia de la IA deben adoptar estrategias cuidadosas y deliberadas en su desarrollo. Por eso, Commvault ha establecido una serie de principios que reflejan nuestro compromiso con el desarrollo y la implantación éticos de la IA.
La IA en Commvault
La IA no es algo nuevo para Commvault. Desde hace más de una década, hemos aprovechado los avances en inteligencia artificial, aprendizaje automático y automatización inteligente para mejorar las capacidades de nuestra plataforma. Esta IA mejora las operaciones de protección y Recovery de datos, y ayuda a los clientes a gestionar el riesgo, localizar datos confidenciales y mucho más.
Metallic AI es nuestra capa de control inteligente que impulsa Commvault Cloud. Desde la automatización y el aprendizaje automático hasta la inteligencia artificial avanzada, Metallic AI aporta mayor rendimiento y eficiencia a todos los aspectos de Commvault Cloud Platform.
Crear una IA digna de confianza
A medida que aprovechamos el potencial de la IA en nuestros productos y servicios, nos comprometemos a respetar los estándares éticos y a garantizar una implementación responsable de la IA. Por eso hemos incorporado las mejores prácticas descritas en el NIST AI RMF 1.0. Estas medidas contribuyen a que nuestra implementación de la IA sea responsable, segura y protegida, de modo que nuestros clientes puedan aprovechar las ventajas que ofrece la IA.
Válida y fiable: resultados predecibles y precisos
Damos prioridad a la fiabilidad de nuestra IA mediante la implementación de pruebas, controles de calidad y medidas de seguridad. Nos esforzamos por ofrecer respuestas y recomendaciones predecibles y precisas por parte de la IA utilizando datos imparciales para su entrenamiento y recabando opiniones de los usuarios humanos. Estas opiniones, recopiladas a través de una sencilla función de «me gusta»/«no me gusta» integrada en nuestro producto y de una opción para comentarios más detallados de los usuarios, son fundamentales para la mejora continua de nuestra IA y la precisión de sus resultados.
Seguro: IA centrada en las personas
Una sola decisión puede influir de manera significativa en el resultado de cualquier situación. A pesar de su potencial, la IA suele necesitar ayuda para comprender el contexto tal y como lo hacen los seres humanos, ya que no capta los matices que intervienen en la toma de decisiones complejas. Por lo tanto, solo se puede confiar en la IA como uno de los responsables de la toma de decisiones, pero no como el único responsable. Los seres humanos deben mantener siempre el control, así como la supervisión y la responsabilidad sobre las acciones emprendidas a partir de las respuestas o recomendaciones generadas por la IA.
Nuestra IA está diseñada con mecanismos de seguridad que permiten una respuesta rápida ante comportamientos inesperados, manteniendo siempre el control humano.
Con este enfoque, desarrollamos inteligencia artificial que potencia la eficiencia y el potencial humano, y mejora la experiencia de los usuarios.
Seguro y resistente: cómo evitar el acceso no autorizado
Nuestras funciones de inteligencia artificial están estrechamente integradas en la Commvault Cloud Platform, lo que restringe el acceso a sus funcionalidades desde fuera de la plataforma. Esto significa que Commvault Cloud cuenta con funciones de seguridad líderes en el sector, incluidos controles de acceso basados en roles, que ayudan a evitar el acceso no autorizado y a mantener los sistemas seguros y resistentes.
Cumplimos con los criterios de referencia del Nivel 1 del CIS para reforzar la infraestructura y minimizar las vulnerabilidades. Además, implementamos comunicaciones seguras mediante cifrado, el modo de bucle cerrado y la aplicación de la autenticación mediante certificados de cliente.
Explicable e interpretable: comprender el qué, el cómo y el porqué
La IA no debería ser una «caja negra» enigmática. Por el contrario, debería ser transparente y comprensible para todos los usuarios y partes interesadas. Esto implica ofrecer explicaciones claras sobre las respuestas y recomendaciones generadas por la IA siempre que sea oportuno.
Introducimos datos controlados en la IA y mantenemos registros de las fuentes de datos de las que se obtienen las respuestas y los conocimientos. En el caso de determinadas Features de IA generativa, como el chatbot Arlie™ y la API Code Assist, facilitamos a los usuarios referencias a las fuentes de las que se ha extraído la respuesta.
Privacidad mejorada: protección de los datos de los clientes
Las preocupaciones sobre la privacidad rodean los debates sobre los riesgos de la IA. La IA depende del acceso a los datos para ofrecer recomendaciones y predicciones fundamentadas, por lo que resulta fundamental comprender los matices de las medidas de privacidad y seguridad de los datos. Los usuarios deben saber qué datos se utilizan para entrenar a la IA o cuáles podrían compartirse con terceros.
En Commvault, la protección de la privacidad y la seguridad de los datos personales y la información sensible es una prioridad absoluta. Incorporamos los principios de «privacidad y seguridad desde el diseño» en nuestro ciclo de vida de desarrollo de software y cumplimos con estrictas medidas de protección de datos, en consonancia con los estándares de seguridad de datos del sector, a lo largo de todo el ciclo de vida de la IA.
A diferencia de otros proveedores, nos aseguramos de que los datos de los clientes nunca se utilicen para entrenar nuestras Features de IA generativa, manteniendo una barrera estricta para proteger toda la información de los clientes.
Utilizamos modelos de lenguaje a gran escala (LLM) preentrenados de OpenAI, a los que introducimos datos relevantes como contexto para extraer respuestas y recomendaciones. Por ejemplo, Arlie utiliza un LLM preentrenado junto con el contexto procedente de la documentación de productos y las API de Commvault, las consultas de los usuarios, los códigos de error, las descripciones de los errores y las resoluciones anonimizadas del servicio de atención al cliente. Un equipo humano supervisa los resultados de nuestra IA generativa para confirmar que se ha llevado a cabo la anonimización.
Imparcial: independiente del usuario y sin sesgos
Conscientes de que la IA puede perpetuar involuntariamente los sesgos y la discriminación, ponemos especial cuidado en diseñar nuestra IA para minimizar los sesgos y evitar prácticas discriminatorias. Lo conseguimos entrenando y probando nuestra IA con conjuntos de datos diversos que no se refieren a ningún usuario concreto y que no contienen características protegidas, como la raza, la edad o el género.
Responsabilidad y transparencia: fomentando la confianza de los usuarios
La información sobre la IA y sus resultados debe ser accesible para quienes la utilizan. Esta transparencia y comprensión fomentan la confianza de los usuarios en la IA.
Ofrecemos puntos de acceso claros a la IA para garantizar que los usuarios estén bien informados sobre la intervención de la IA. Además, establecemos un ciclo de retroalimentación que permite a los usuarios aportar sus opiniones y contribuir a la mejora continua de nuestra IA.
Ofrecer a los clientes la posibilidad de registrarse
Supongamos que su organización aún está desarrollando una estrategia de IA responsable y no está preparada para implementar funciones de IA generativa. En ese caso, ofrecemos la opción de mantener inactiva a Arlie, la asistente de IA de Commvault Cloud. En el caso del software instalado, Arlie no está activada de forma predeterminada, lo que ofrece a los clientes la posibilidad de activarla o desactivarla en cualquier momento. En Commvault Cloud SaaS, aunque Arlie está habilitada de forma predeterminada para mejorar la experiencia del usuario, no realiza ninguna recopilación de datos en segundo plano, lo que garantiza la privacidad de los datos de los clientes. Los clientes de SaaS pueden optar por no utilizar Arlie en absoluto si así lo prefieren.
Ciertas funciones de IA, como el aprendizaje automático que se ejecuta en segundo plano para detectar anomalías, no se pueden desactivar. Estas funciones de IA son específicas de cada cliente y no interactúan con los datos de los clientes.
Lee nuestra política sobre IA responsable: commvault.com/legal/responsible-ai
Más información sobre Metallic AI: commvault.com/platform/metallic-ai
