Pontos principais
- A Commvault aderiu à Open Secure AI Alliance para ajudar a promover abordagens abertas, seguras e colaborativas em relação à IA.
- Ferramentas de IA de código aberto proporcionam às organizações maior visibilidade e controle, permitindo que especialistas inspecionem, adaptem e fortaleçam os sistemas à medida que as ameaças e os requisitos evoluem.
- A segurança eficaz em IA vai além dos modelos, abrangendo identidade, permissões, proteções, registro de eventos, avaliação e o ambiente mais amplo no qual os agentes de IA operam.
- A colaboração entre setores e a pesquisa compartilhada podem ajudar as organizações a responder mais rapidamente aos desafios em constante mudança criados por uma IA cada vez mais capaz.
- A Commvault compartilhará sua expertise em resiliência cibernética e dados com a Aliança, com base no princípio de que as organizações podem proteger melhor os sistemas e dados que compreendem plenamente.
A colaboração tem sido, há muito tempo, uma das formas mais eficazes pelas quais o setor de tecnologia enfrenta novos desafios. Os últimos meses trouxeram essa lição à tona de forma ainda mais nítida no contexto da IA. Os sistemas autônomos estão se tornando mais capazes, mais independentes e mais profundamente conectados à tecnologia que usamos todos os dias.
Eventos recentes também mostraram com que rapidez esse cenário pode mudar. Quando um sistema avançado de IA criou um desafio de segurança inesperado para a Hugging Face, a organização utilizou um modelo de peso aberto em sua própria infraestrutura para compreender e conter a situação. A experiência demonstrou o valor das ferramentas de IA de código aberto que as organizações podem inspecionar, adaptar e controlar quando necessário.
Momentos como esse não devem diminuir nosso otimismo em relação à IA. Eles devem aprofundar nosso compromisso de moldar seu futuro juntos. É
por isso que a Commvault tem orgulho de se juntar à Open Secure AI Alliance, uma comunidade de organizações líderes que promovem o avanço da IA por meio de pesquisa aberta, conhecimento compartilhado e ferramentas práticas.
A IA continuará evoluindo, e nenhuma organização sozinha terá todas as respostas. Reunir profundo conhecimento especializado de todo o setor dá à comunidade uma chance maior de compreender o que está mudando e responder com a rapidez que esta nova era exige.
O código aberto é fundamental para esse esforço. Ele oferece aos especialistas a capacidade de examinar como os sistemas funcionam e aprimorar o que outros já começaram. Para os defensores, ele também proporciona algo essencial: a liberdade de escolher e adaptar a tecnologia certa para cada situação, em vez de depender de um único sistema ou fornecedor.
A NVIDIA descreve isso como uma base de defesa aberta, construída sobre modelos, estruturas e ferramentas que a comunidade pode estudar e fortalecer.
A Aliança também reconhece que a segurança da IA vai muito além do modelo. Identidade, permissões, proteções, registros e avaliação — tudo isso molda o comportamento de um agente. Compreender esse ambiente completo exigirá novas pesquisas e a disposição de compartilhar o que o setor aprender ao longo do caminho.
A perspectiva da Commvault baseia-se em anos de experiência na resolução de desafios complexos de resiliência cibernética — ajudando as organizações a compreender seus dados, mantê-los confiáveis e recuperá-los com segurança quando ocorrerem interrupções.
Grande parte desse trabalho se resume à mesma ideia que a Aliança vem buscando: só é possível proteger o que se compreende plenamente. Essa é a experiência que esperamos trazer, juntamente com o entusiasmo de aprender com outros que enfrentam esses desafios sob diferentes ângulos.
A oportunidade que se apresenta para a IA é enorme. Concretizá-la dependerá não apenas da rapidez com que a tecnologia avança, mas também do grau de abertura com que o setor trabalha em conjunto nesse processo. A Commvault tem o prazer de fazer parte desse trabalho e está animada para ajudar a construir o que está por vir. Leia
o anúncio da NVIDIA aqui:
Líderes
do
setor se unem à Open Secure AI Alliance
.
Perguntas frequentes
P: O que é a Open Secure AI Alliance?
R: A Open Secure AI Alliance é uma comunidade de organizações que trabalham para promover a segurança da IA por meio de pesquisa aberta, compartilhamento de conhecimento, modelos, frameworks e ferramentas práticas. Sua abordagem colaborativa oferece aos participantes oportunidades de estudar desafios emergentes e fortalecer, em conjunto, as defesas contra ameaças à IA.
P: Por que a Commvault aderiu à Open Secure AI Alliance?
R: A Commvault aderiu à Aliança para contribuir com sua experiência em resiliência cibernética, compreensão de dados, confiança e Recovery. Isso também oferece à Commvault a oportunidade de aprender com outros líderes do setor que abordam a segurança da IA a partir de diferentes perspectivas.
P: Por que o código aberto é importante para a segurança da IA?
R: O código aberto permite que especialistas examinem como os sistemas de IA funcionam, aproveitem tecnologias existentes e adaptem ferramentas a situações específicas de segurança. Ele também oferece aos defensores maior liberdade para selecionar e modificar tecnologias, em vez de depender de um único sistema ou provedor.
P: O que a segurança da IA envolve além da proteção do modelo? R:
A segurança da IA abrange o ambiente mais amplo no qual um sistema de IA opera, incluindo identidade, permissões, limites de segurança, registros e avaliação. Compreender esses elementos interconectados pode ajudar as organizações a avaliar e gerenciar melhor o comportamento dos agentes de IA.
P: Como a experiência da Commvault em resiliência cibernética se relaciona com a segurança da IA? R:
O trabalho da Commvault em resiliência cibernética concentra-se em ajudar as organizações a compreender seus dados, manter sua confiabilidade e se recuperar com segurança após interrupções. Essa perspectiva se encaixa naturalmente com o foco da Aliança em abordagens abertas e inspecionáveis para a segurança da IA.
P: Por que a colaboração do setor é importante para o futuro da IA?
R: A IA está evoluindo de forma muito rápida e abrangente para que uma única organização tenha todas as respostas. Combinar conhecimento especializado, pesquisa e insights práticos de todo o setor pode ajudar a comunidade a compreender os desafios emergentes e responder na velocidade que o desenvolvimento da IA exige.
Alexander Coombes é vice-presidente adjunto (AVP) de Desenvolvimento de Parcerias Estratégicas na Commvault.
