Há anos, os avanços na IA vêm revolucionando diversos aspectos da vida cotidiana e dos setores. A IA tornou-se uma força onipresente na forma como nos comunicamos e nos serviços que utilizamos.
A IA surgiu como uma ferramenta poderosa para fortalecer as defesas no âmbito da resiliência cibernética. Ela permite tempos de resposta mais rápidos, um direcionamento mais preciso dos recursos, a redução da fadiga de alertas e mais tempo para se concentrar em estratégias eficazes de mitigação de ameaças.
No entanto, ao lado de seu inegável potencial, a rápida adoção e o entusiasmo em torno da IA generativa suscitaram uma série de preocupações relacionadas à privacidade, à transparência e a questões éticas — e por um bom motivo. A opacidade de alguns algoritmos de IA, o potencial para preconceitos e discriminação e o uso indevido da IA para fins maliciosos levantaram questões válidas sobre a confiabilidade dessa tecnologia.
As empresas que estão na vanguarda da IA devem adotar estratégias cuidadosas e deliberadas em seu desenvolvimento. É por isso que a Commvault estabeleceu princípios que refletem nosso compromisso com o desenvolvimento e a implantação éticos da IA.
IA na Commvault
A IA não é novidade para a Commvault. Há mais de uma década, temos aproveitado as tecnologias emergentes de inteligência artificial, aprendizado de máquina e automação inteligente para aprimorar os recursos da nossa plataforma. Essa IA melhora as operações de proteção e Recovery de dados e auxilia os clientes no gerenciamento de riscos, na localização de dados confidenciais e muito mais.
O Metallic AI é nossa camada de controle inteligente que alimenta o Commvault Cloud. Desde a automação e o aprendizado de máquina até a IA avançada, o Metallic AI proporciona maior desempenho e eficiência a todos os aspectos da plataforma Commvault Cloud.
Construindo uma IA confiável
À medida que aproveitamos o poder da IA em nossos produtos e serviços, estamos comprometidos em respeitar os padrões éticos e garantir uma implantação responsável da IA. É por isso que incorporamos as melhores práticas descritas no NIST AI RMF 1.0. Essas medidas ajudam a garantir que nossa implantação de IA seja responsável, segura e protegida, para que nossos clientes possam aproveitar os benefícios da IA.
Válido e confiável: resultados previsíveis e precisos
Priorizamos a confiabilidade da nossa IA por meio da implementação de testes, garantia de qualidade e medidas de segurança. Buscamos fornecer respostas e recomendações previsíveis e precisas da IA, utilizando dados imparciais para o treinamento e coletando feedback de usuários humanos. Esse feedback, obtido por meio de um recurso simples de “curtir/não curtir” em nosso produto e de uma opção para comentários mais detalhados dos usuários, é fundamental para a melhoria contínua da nossa IA e para a precisão de seus resultados.
Segurança: IA centrada no ser humano
Uma única decisão pode ter um impacto significativo no desfecho de qualquer cenário. Apesar de seu poder, a IA muitas vezes precisa de ajuda para compreender o contexto da mesma forma que os seres humanos, pois não consegue captar as nuances envolvidas na tomada de decisões complexas. Portanto, só se pode confiar na IA como um dos tomadores de decisão, e não como o único tomador de decisão. Os seres humanos devem sempre manter o controle, com supervisão e responsabilidade pelas ações tomadas com base em respostas ou recomendações geradas pela IA.
Nossa IA foi projetada com mecanismos de segurança que permitem uma resposta rápida a comportamentos inesperados, mantendo sempre o controle humano.
Com essa abordagem, desenvolvemos IA que aumenta a eficiência e o potencial humano e melhora a experiência do usuário.
Seguro e resiliente: prevenção de acesso não autorizado
Nossas Features de IA estão totalmente integradas à Commvault Cloud Platform, o que restringe o acesso às suas funcionalidades a partir de fora da plataforma. Isso significa que os recursos de segurança líderes do setor da Commvault Cloud estão em vigor, incluindo controles de acesso baseados em funções, que ajudam a impedir o acesso não autorizado e a manter os sistemas seguros e resilientes.
Seguimos os padrões do CIS Nível 1 para fortalecer a infraestrutura e minimizar as vulnerabilidades. Além disso, implementamos comunicações seguras por meio de criptografia, modo loopback e exigência de autenticação por certificado do cliente.
Explicável e interpretável: compreendendo o quê, como e por quê
A IA não deve ser uma “caixa preta” enigmática. Pelo contrário, deve ser transparente e compreensível para todos os usuários e partes interessadas. Isso significa fornecer explicações claras para as respostas e recomendações geradas pela IA sempre que for apropriado.
Alimentamos a IA com dados controlados e mantemos registros das fontes de dados das quais as respostas e os insights são derivados. Para determinadas Features de IA generativa, incluindo o Arlie™ Chatbot e o API Code Assist, fornecemos aos usuários referências às fontes das quais a resposta foi extraída.
Privacidade Aprimorada: Protegendo os Dados dos Clientes
Questões relacionadas à privacidade estão presentes nas discussões sobre os riscos da IA. A IA depende do acesso a dados para fornecer recomendações e previsões fundamentadas, o que torna fundamental compreender as nuances das medidas de privacidade e segurança de dados. Os usuários devem entender quais dados são utilizados para treinar a IA ou podem ser compartilhados com terceiros.
Na Commvault, a proteção da privacidade e da segurança dos dados pessoais e das informações confidenciais é fundamental. Incorporamos os princípios de privacidade e segurança desde a concepção em nosso Ciclo de Vida de Desenvolvimento de Software e seguimos medidas rigorosas de proteção de dados, em conformidade com os padrões de segurança de dados do setor, ao longo de todo o ciclo de vida da IA.
Ao contrário de outros fornecedores, garantimos que os dados dos clientes nunca sejam utilizados para treinar nossas Features de IA generativa, mantendo uma barreira rigorosa para proteger todas as informações dos clientes.
Utilizamos modelos de linguagem de grande escala (LLM) pré-treinados da OpenAI, inserindo dados relevantes como contexto para extrair respostas e recomendações. Por exemplo, o Arlie utiliza um LLM pré-treinado juntamente com o contexto da documentação dos produtos e da API da Commvault, consultas dos usuários, códigos de erro, descrições de erros e resoluções anônimas do suporte ao cliente. A supervisão humana monitora os resultados da nossa IA generativa para confirmar a anonimização.
Imparcial: independente do usuário e isento de preconceitos
Reconhecendo que a IA pode, inadvertidamente, perpetuar preconceitos e discriminação, tomamos muito cuidado ao projetar nossa IA para minimizar preconceitos e evitar práticas discriminatórias. Conseguimos isso treinando e testando nossa IA com conjuntos de dados diversificados, que não se referem a nenhum usuário específico e não contêm características protegidas, como raça, idade ou gênero.
Responsabilidade e transparência: fortalecendo a confiança do usuário
As informações sobre a IA e seus resultados devem estar acessíveis aos usuários. Essa transparência e compreensão promovem a confiança dos usuários na IA.
Oferecemos pontos de acesso explícitos à IA para garantir que os usuários estejam bem informados sobre a intervenção da IA. Também estabelecemos um ciclo de feedback, permitindo que os usuários deem sugestões e contribuam para a melhoria contínua da nossa IA.
Oferecer ao cliente a opção de aderir
Suponha que sua organização ainda esteja desenvolvendo uma estratégia para IA Responsável e não esteja pronta para implementar recursos de IA Gerativa. Nesse caso, oferecemos a opção de manter o Arlie, o assistente de IA do Commvault Cloud, inativo. Para o software instalado, o Arlie não vem ativado por padrão, oferecendo aos clientes a opção de ativá-lo ou desativá-lo a qualquer momento. No Commvault Cloud SaaS, embora a Arlie esteja habilitada por padrão para melhorar a experiência do usuário, ela não realiza nenhuma coleta de dados em segundo plano, preservando a privacidade dos dados dos clientes. Os clientes do SaaS podem optar por não usar a Arlie de forma alguma, se preferirem.
Certas funcionalidades de IA, como o aprendizado de máquina executado em segundo plano para identificar anomalias, não podem ser desativadas. Esses recursos de IA são específicos para cada cliente e não interagem com os dados dos clientes.
Leia nossa Política de IA Responsável: commvault.com/legal/responsible-ai
Saiba mais sobre a Metallic AI: commvault.com/platform/metallic-ai
