A IA está sendo incorporada às operações cotidianas das empresas, mas as cargas de trabalho por trás dela raramente permanecem em um só lugar. Algumas precisam permanecer próximas aos dados sensíveis em ambientes privados. Outras se beneficiam do alcance da nuvem pública ou da velocidade da infraestrutura de edge.
Isso levanta uma questão prática: como as organizações podem executar cada carga de trabalho onde ela apresenta melhor desempenho, mantendo os dados e as operações sob controle?
A Cloudera e a AMD respondem a essa questão reunindo uma plataforma de dados híbrida e uma infraestrutura escalável e acessível. O resultado é uma base projetada para dar suporte à IA em ambientes privados, de nuvem e de edge, sem obrigar as equipes a gerenciar cada um deles de maneira diferente.
Modelos diferentes pertencem a lugares diferentes
À medida que a adoção cresce, as decisões de implantação ganham maior importância estratégica. O melhor local para uma aplicação depende dos dados que ela utiliza e da experiência que precisa oferecer.
Um modelo que trabalha com informações confidenciais de clientes pode precisar ser executado em um ambiente privado, ou um aplicativo voltado para o cliente pode se beneficiar da elasticidade da nuvem. A capacidade de fazer essa escolha para cada carga de trabalho dá às organizações mais controle sobre o desempenho, sem restringir todas as aplicações ao mesmo modelo de implantação.
Essa flexibilidade se torna cada vez mais importante à medida que os portfólios de IA se expandem. O que funciona para uma prova de conceito inicial pode ser pouco adequado para uma aplicação de produção que atende a milhares de usuários. Uma arquitetura que oferece suporte a vários ambientes dá às equipes espaço para ajustar a alocação à medida que os padrões de uso e os requisitos de negócios mudam.
Por que a IA privada híbrida está se tornando uma escolha estratégica
Escolher onde uma carga de trabalho é executada é apenas parte da equação. As equipes ainda precisam de uma maneira consistente de implantá-la e governá-la em todo o ambiente tecnológico mais amplo.
A governança de dados e os requisitos regulatórios orientam as decisões de posicionamento, mas as operações podem se tornar rapidamente complexas demais quando cada local introduz uma maneira diferente de trabalhar. A IA privada híbrida oferece às organizações uma estrutura compartilhada para executar cargas de trabalho próximas aos dados dos quais dependem, preservando o controle em todo o ambiente.
Isso também pode reduzir o esforço necessário para transferir grandes volumes de dados proprietários entre sistemas. Manter a infraestrutura de computação mais próxima dos dados pode reduzir os custos de transferência e simplificar as operações, além de ajudar as organizações a extrair mais valor da infraestrutura que já possuem.
Essa abordagem oferece às equipes mais liberdade para tomar decisões de posicionamento com base na própria aplicação, em vez de nas limitações de uma arquitetura fragmentada. Elas podem manter o controle local onde isso é importante e, ainda assim, recorrer aos recursos da nuvem quando a escala ou a disponibilidade assim exigir.
A computação é apenas parte da stack
A computação de alto desempenho oferece aos modelos a capacidade de treinar e responder. Isso, por si só, não lhes proporciona uma compreensão do negócio.
Esse contexto vem dos dados empresariais. Os modelos precisam ter acesso a informações relevantes e controladas para produzir resultados que reflitam os clientes, as operações e as prioridades de uma organização. Sem esse embasamento, até mesmo um modelo altamente capaz pode gerar respostas sem a especificidade necessária para uso empresarial real.
Fluxos de trabalho de produção confiáveis também são importantes. Os dados precisam ser preparados e recuperados com eficiência, e a inferência precisa continuar ágil à medida que a demanda aumenta. As equipes também precisam ter visibilidade sobre o comportamento das aplicações após a implantação, para que possam identificar problemas de desempenho e se adaptar à medida que os requisitos mudam.
Esses recursos transformam um modelo promissor em uma aplicação na qual as pessoas podem confiar durante o trabalho do dia a dia. Eles também facilitam ir além de pilotos isolados e apoiar uma adoção mais ampla em toda a organização.
Unindo a IA empresarial
A Cloudera e a AMD reúnem partes distintas dessa base.
A Cloudera fornece a plataforma para preparar dados, desenvolver modelos, gerenciar a governança e atender às aplicações até a entrada em produção. A AMD fornece a base de recursos computacionais fim-a-fim que opera ao longo desse ciclo de vida, desde o processamento e a recuperação de dados até a inferência de modelos.
Isso oferece às organizações mais opções de como alocar recursos. Aplicações criadas com modelos pequenos e médios, como chatbots ou sistemas de geração aumentada por recuperação, podem ser executadas com eficiência em uma infraestrutura de CPU. Cargas de trabalho mais exigentes podem usar computação acelerada quando os requisitos de desempenho justificarem isso.
Essa distinção é importante porque nem toda aplicação precisa do mesmo nível de capacidade de processamento. A aplicação da infraestrutura que mais consome recursos a todas as cargas de trabalho pode aumentar os custos sem gerar um benefício empresarial correspondente.
Uma abordagem baseada em cargas de trabalho permite que as equipes selecionem recursos adequados ao caso de uso atual e os ajustem conforme a demanda muda. Ao mesmo tempo, o gerenciamento de dados e as operações de aplicações permanecem conectados por meio de uma plataforma consistente, reduzindo as interrupções que podem ocorrer com a mudança dos requisitos de infraestrutura.
Preparando-se para o que vem a seguir
A combinação de modelos e cargas de trabalho continuará mudando. As organizações precisarão ter liberdade para usar diferentes tipos de recursos computacionais sem reconstruir a base de dados ou o modelo operacional subjacentes a cada aplicação.
A Cloudera e a AMD oferecem essa flexibilidade ao conectar dados empresariais a uma infraestrutura capaz de se adaptar a uma gama mais ampla de cargas de trabalho.
Saiba como Cloudera e AMD podem ajudar você a criar e escalar IA em ambientes híbridos.
Não deixe de visitar a AMD em nossos próximos eventos EVOLVE26 pelo mundo. Saiba mais.
