Por que a abertura é uma necessidade para a segurança da IA: Cloudera se une à Open Secure AI Alliance

A IA agêntica está passando da fase das demonstrações para a produção mais rápido do que qualquer outra tecnologia empresarial no passado. Sistemas autônomos já estão raciocinando sobre dados proprietários, acionando ferramentas internas e realizando ações de grande impacto dentro dos principais fluxos de trabalho de negócios. Essa mudança torna urgente uma questão: quando os agentes podem agir, quem pode inspecioná-los, verificá-los e defendê-los?

A resposta da Cloudera's é que as defesas que protegem nossa infraestrutura devem ser construídas abertamente. É por isso que temos orgulho de ser um parceiro inaugural — ao lado da NVIDIA e de outros líderes em nuvem, segurança cibernética, software empresarial, código aberto e pesquisa de IA — na recém-formada Open Secure AI Alliance, um movimento para desenvolver e compartilhar tecnologias, técnicas e ferramentas abertas para proteger softwares e agentes na era da IA.

Três razões pelas quais esta aliança está alinhada à nossa estratégia

1. A infraestrutura aberta é fundamental, não um recurso 

A Cloudera tem uma longa trajetória, profundamente enraizada no campo do código aberto. Há muito tempo, entendemos que os formatos abertos de data lakehouse são um pilar essencial da economia, funcionando essencialmente como um serviço de utilidade pública que sustenta a computação em nuvem, os serviços financeiros, as telecomunicações e a infraestrutura governamental.

Na era da IA, o software de código aberto e os modelos de pesos abertos são fundamentais para a liderança e a segurança cibernética. Estimativas do setor mostram que entre 76% e 99% das bases de código de software comercial já dependem de software de código aberto. 

Os modelos abertos transformam usuários em criadores, acelerando a inovação e garantindo que o progresso não fique restrito a um pequeno número de organizações centralizadas. Mais importante ainda, um ecossistema aberto permite a pesquisa científica independente e uma análise ampla, possibilitando que os defensores compreendam, avaliem e aprimorem o comportamento dos sistemas de IA.

2. Neutralidade: qualquer modelo, qualquer ambiente 

Na Cloudera, defendemos a neutralidade absoluta. Reconhecemos que, para manter a liderança na revolução da IA, a infraestrutura que movimenta nossa economia precisa de acesso seguro e protegido tanto a modelos fechados e proprietários quanto a modelos abertos.

Nossos clientes corporativos precisam da flexibilidade para adaptar a IA aos seus setores específicos, aos dados proprietários, aos clientes e aos requisitos operacionais. Eles precisam poder fazer isso enquanto protegem seus dados e evitam a dependência de um único fornecedor. 

Ao nos mantermos estritamente neutros, capacitamos as organizações a construir sistemas híbridos que reflitam suas prioridades exclusivas. 

Isso é especialmente importante para setores altamente regulamentados — como o financeiro, o setor público e a infraestrutura crítica —, nos quais as empresas precisam garantir a conformidade, a soberania dos dados e a resiliência geopolítica, muitas vezes optando por evitar a dependência de APIs hospedadas no exterior. A segurança e a defesa da IA exigem um ecossistema diversificado e aberto, em vez de um único ponto de controle.

3. O papel fundamental da estrutura de suporte de IA na segurança e na governança 

Embora o setor tenha se concentrado intensamente em modelos de base, a segurança exige que analisemos o panorama mais amplo. Um agente de IA não é apenas um modelo; é um sistema complexo composto por modelos, estruturas de suporte e barreiras de segurança que determinam a que o agente pode ter acesso.

A estrutura de suporte é a base essencial que permite a um agente de IA observar o contexto, raciocinar sobre problemas e agir de forma decisiva. Como os agentes operam de forma autônoma em sistemas corporativos, proteger essa estrutura de suporte é fundamental. Os sistemas fechados correm o risco de manter informações críticas inacessíveis aos defensores. Em contrapartida, estruturas de suporte e ferramentas abertas ampliam drasticamente as capacidades de defesa e aumentam a transparência.

Por meio da Open Secure AI Alliance, a NVIDIA contribui com pesquisas essenciais para acelerar essas ferramentas de segurança cibernética. Por exemplo, o framework NVIDIA Labs Object-Oriented Agent (NOOA), de código aberto, facilita a integração de estruturas de suporte com modelos, tornando o comportamento dos agentes infinitamente mais fácil de testar, rastrear, auditar e governar. Esses recursos garantem que, quando os agentes são implantados em fluxos de trabalho corporativos, suas ações permaneçam em conformidade e observáveis.

Nosso portfólio de agentes foi desenvolvido exatamente para isso—executar e orquestrar os modelos escolhidos pelo cliente dentro do próprio ambiente dele, com linhagem, políticas e observabilidade aplicadas de fim-a-fim. Controles abertos de inferência e de gateway, uma camada governada de contexto e ferramentas e auditabilidade completa significam que, quando um agente age, suas ações permanecem em conformidade, explicáveis e passíveis de inspeção. 

A defesa aberta só funciona se puder ser implantada sob governança, em produção, em dados que uma empresa não pode se dar ao luxo de mover. Essa superfície de implantação é o que a Cloudera traz para a Aliança.

Um apelo sobre segurança e proteção da IA aos formuladores de políticas — e aos desenvolvedores

À medida que os órgãos reguladores lidam com a segurança da IA, é fundamental que modelos abertos, estruturas de suporte e ferramentas de segurança sejam reconhecidos como ativos de defesa, e não como passivos. Restrições generalizadas a sistemas de IA de fronteira abertos enfraqueceriam a capacidade de defesa e concentrariam a dependência em poucos provedores fechados — o oposto da resiliência. 

O caminho mais seguro é aquele que oferece a um número maior de defensores a capacidade de testar, verificar e fortalecer os sistemas dos quais a sociedade depende, em conjunto com salvaguardas robustas, regras claras contra o uso indevido e medidas corretivas rápidas.

A abertura, por si só, não garante confiança. Ainda são necessários testes rigorosos, uma infraestrutura segura, uma governança clara e supervisão humana. Mas um ecossistema aberto é o que amplia a comunidade de defensores capazes de realizar esse trabalho.

A Cloudera está comprometida em trabalhar com a NVIDIA e nossos demais parceiros para construir esse futuro — um futuro em que a IA seja poderosa, aberta, governada e segura por design. Convidamos empresas, governos e pesquisadores a se juntarem a nós.