Há anos, os avanços na IA vêm revolucionando diversos aspectos da vida cotidiana e dos setores. A IA tornou-se uma força onipresente na forma como nos comunicamos e nos serviços que utilizamos.
A IA surgiu como uma ferramenta poderosa para fortalecer as defesas em termos de resiliência cibernética. Ela permite tempos de resposta mais rápidos, recursos mais bem direcionados, redução da fadiga de alertas e mais tempo para se concentrar em estratégias eficazes de mitigação de ameaças.
However, alongside its undeniable potential, the rapid adoption and hype around Generative AI ignited a chorus of concerns surrounding privacy, transparency, and ethical considerations – and for good reason. The opacity of some AI algorithms, the potential for bias and discrimination, and the misuse of AI for malicious purposes have raised valid questions about the trustworthiness of this technology.
As empresas que estão na vanguarda da IA devem adotar estratégias cuidadosas e deliberadas em seu desenvolvimento. É por isso que a Commvault estabeleceu princípios que refletem nosso compromisso com o desenvolvimento e a implantação éticos da IA.
AI at Commvault
A IA não é novidade para a Commvault. Há mais de uma década, temos aproveitado as tecnologias emergentes de inteligência artificial, aprendizado de máquina e automação inteligente para aprimorar os recursos da nossa plataforma. Essa IA melhora as operações de proteção e Recovery de dados e auxilia os clientes no gerenciamento de riscos, na localização de dados confidenciais e muito mais.
O Metallic AI é nossa camada de controle inteligente que alimenta o Commvault Cloud. Desde a automação e o aprendizado de máquina até a IA avançada, o Metallic AI proporciona maior desempenho e eficiência a todos os aspectos da plataforma Commvault Cloud.
Building Trustworthy AI
À medida que aproveitamos o poder da IA em nossos produtos e serviços, estamos comprometidos em respeitar os padrões éticos e garantir uma implantação responsável da IA. É por isso que incorporamos as melhores práticas descritas no NIST AI RMF 1.0. Essas medidas ajudam a garantir que nossa implantação de IA seja responsável, segura e protegida, para que nossos clientes possam aproveitar os benefícios da IA.
Valid and Reliable: Predictable and Accurate Results
Priorizamos a confiabilidade da nossa IA por meio da implementação de testes, garantia de qualidade e medidas de segurança. Buscamos fornecer respostas e recomendações previsíveis e precisas da IA, utilizando dados imparciais para o treinamento e coletando feedback de usuários humanos. Esse feedback, obtido por meio de um recurso simples de “curtir/não curtir” em nosso produto e de uma opção para comentários mais detalhados dos usuários, é fundamental para a melhoria contínua da nossa IA e para a precisão de seus resultados.
Safe: Human-Centric AI
Uma única decisão pode ter um impacto significativo no desfecho de qualquer cenário. Apesar de seu poder, a IA muitas vezes precisa de ajuda para compreender o contexto da mesma forma que os seres humanos, pois não consegue captar as nuances envolvidas na tomada de decisões complexas. Portanto, só se pode confiar na IA como um dos tomadores de decisão, e não como o único tomador de decisão. Os seres humanos devem sempre manter o controle, com supervisão e responsabilidade pelas ações tomadas com base em respostas ou recomendações geradas pela IA.
Nossa IA foi projetada com mecanismos de segurança que permitem uma resposta rápida a comportamentos inesperados, mantendo sempre o controle humano.
Com essa abordagem, desenvolvemos IA que aumenta a eficiência e o potencial humano e melhora a experiência do usuário.
Secure and Resilient: Preventing Unauthorized Access
Nossas Features de IA estão totalmente integradas à Commvault Cloud Platform, o que restringe o acesso às suas funcionalidades a partir de fora da plataforma. Isso significa que os recursos de segurança líderes do setor da Commvault Cloud estão em vigor, incluindo controles de acesso baseados em funções, que ajudam a impedir o acesso não autorizado e a manter os sistemas seguros e resilientes.
Seguimos os padrões do CIS Nível 1 para fortalecer a infraestrutura e minimizar as vulnerabilidades. Além disso, implementamos comunicações seguras por meio de criptografia, modo loopback e exigência de autenticação por certificado do cliente.
Explainable and Interpretable: Understanding the What, How, and Why
AI should not be enigmatic black boxes. Instead, it should be transparent and understandable to all users and stakeholders. This means providing clear explanations for AI-generated responses and recommendations whenever appropriate.
Alimentamos a IA com dados controlados e mantemos registros das fontes de dados das quais as respostas e os insights são derivados. Para determinadas Features de IA generativa, incluindo o Arlie™ Chatbot e o API Code Assist, fornecemos aos usuários referências às fontes das quais a resposta foi extraída.
Privacy Enhanced: Protecting Customer Data
Questões relacionadas à privacidade estão presentes nas discussões sobre os riscos da IA. A IA depende do acesso a dados para fornecer recomendações e previsões fundamentadas, o que torna fundamental compreender as nuances das medidas de privacidade e segurança de dados. Os usuários devem entender quais dados são utilizados para treinar a IA ou podem ser compartilhados com terceiros.
Na Commvault, a proteção da privacidade e da segurança dos dados pessoais e das informações confidenciais é fundamental. Incorporamos os princípios de privacidade e segurança desde a concepção em nosso Ciclo de Vida de Desenvolvimento de Software e seguimos medidas rigorosas de proteção de dados, em conformidade com os padrões de segurança de dados do setor, ao longo de todo o ciclo de vida da IA.
Ao contrário de outros fornecedores, garantimos que os dados dos clientes nunca sejam utilizados para treinar nossas Features de IA generativa, mantendo uma barreira rigorosa para proteger todas as informações dos clientes.
We use pre-trained LLM from OpenAI, inputting relevant data into them as context to extract responses and recommendations. For instance, Arlie utilizes pre-trained LLM along with context from Commvault product and API documentation, user query, error codes, error descriptions, and anonymized customer support resolutions. Human supervision oversees our generative AI output to confirm anonymization.
Fair: User Agnostic and Unbiased
Reconhecendo que a IA pode, inadvertidamente, perpetuar preconceitos e discriminação, tomamos muito cuidado ao projetar nossa IA para minimizar preconceitos e evitar práticas discriminatórias. Conseguimos isso treinando e testando nossa IA com conjuntos de dados diversificados, que não se referem a nenhum usuário específico e não contêm características protegidas, como raça, idade ou gênero.
Accountable and Transparent: Driving User Confidence
As informações sobre a IA e seus resultados devem estar acessíveis aos usuários. Essa transparência e compreensão promovem a confiança dos usuários na IA.
Oferecemos pontos de acesso explícitos à IA para garantir que os usuários estejam bem informados sobre a intervenção da IA. Também estabelecemos um ciclo de feedback, permitindo que os usuários deem sugestões e contribuam para a melhoria contínua da nossa IA.
Offering Customer Choice to Opt in
Suponha que sua organização ainda esteja desenvolvendo uma estratégia para IA Responsável e não esteja pronta para implementar recursos de IA Gerativa. Nesse caso, oferecemos a opção de manter o Arlie, o assistente de IA do Commvault Cloud, inativo. Para o software instalado, o Arlie não vem ativado por padrão, oferecendo aos clientes a opção de ativá-lo ou desativá-lo a qualquer momento. No Commvault Cloud SaaS, embora a Arlie esteja habilitada por padrão para melhorar a experiência do usuário, ela não realiza nenhuma coleta de dados em segundo plano, preservando a privacidade dos dados dos clientes. Os clientes do SaaS podem optar por não usar a Arlie de forma alguma, se preferirem.
Certas funcionalidades de IA, como o aprendizado de máquina executado em segundo plano para identificar anomalias, não podem ser desativadas. Esses recursos de IA são específicos para cada cliente e não interagem com os dados dos clientes.
Leia nossa Política de IA Responsável:commvault.com/legal/responsible-ai
Saiba mais sobre a Metallic AI:commvault.com/platform/metallic-ai
