A Cloudera e a NVIDIA permitem que as organizações otimizem pipelines de dados complexos em escala, combinando as capacidades de gerenciamento de dados da Cloudera com os serviços completos da NVIDIA:
Processamento de dados com Apache Spark na Cloudera, combinado com o NVIDIA RAPIDS Accelerator para Apache Spark, agiliza a execução de cargas de trabalho de engenharia de dados e engenharia de atributos.
A implantação de modelos AI/ML com o Cloudera AI Inference junto com os microsserviços NVIDIA NIM melhora o desempenho de taxas de transferência e latência de modelos de inteligência artificial (IA), sejam eles de IA/ML tradicional ou de IA generativa.
Orquestração de IA agêntica com o modelo NVIDIA AI-Q possibilita a integração de agentes de IA com dados privados e a interação com outros sistemas por meio de APIs.
Figura 1: Cloudera e NVIDIA geram valor em todo o ciclo de vida da ciência de dados
Neste blog, destacaremos três casos de uso que demonstram como Cloudera e NVIDIA, juntas, entregam valor com análises e IA para instituições de serviços financeiros.
Acelerador NVIDIA RAPIDS para Apache Spark para conformidade com AML/KYC
O ciclo de conformidade com o combate à lavagem de dinheiro e conheça seu cliente (AML/KYC) em grandes organizações financeiras é um processo altamente intensivo em computação. Isso ocorre pela necessidade de integrar e padronizar volumes massivos de dados em diversas atividades, como:
Resolução de entidades, que exige a padronização de dados transfronteiriços sujeitos a diferentes processos de liberação e provenientes de uma ampla gama de sistemas transacionais e entidades externas (como transações de cartão de crédito, transferências bancárias e mensagens SWIFT).
Consolidação de dados de múltiplos sistemas de AML/KYC que armazenam informações em diferentes formatos, os quais precisam ser normalizados em um esquema unificado e estruturados em produtos de dados (como data marts de AML entre unidades de negócio).
Monitoramento contínuo de transações e relatórios regulatórios, que demandam processamento de dados, enriquecimento e aplicação de regras.
Para muitos clientes da Cloudera que implementaram casos de uso de AML/KYC, o Apache Spark desempenha um papel fundamental ao viabilizar essas cargas de trabalho analíticas. O Apache Spark é um poderoso mecanismo para engenharia de dados, oferecendo recursos como computação em memória e processamento distribuído. No entanto, o aumento no volume de transações e a crescente variedade de novas fontes de dados para conformidade em AML/KYC impõem uma carga adicional sobre a infraestrutura de computação existente, exigindo um desempenho ainda maior.
A biblioteca NVIDIA RAPIDS para Apache Spark transfere determinadas operações de processamento de dados da CPU para a GPU de forma transparente, ou seja, sem necessidade de modificações no código. Como resultado, clientes da Cloudera têm registrado melhorias de desempenho de até 20x ao usar a biblioteca NVIDIA RAPIDS em workloads do Apache Spark 3.0.
Microsserviços NVIDIA NIM para Prevenção de Fraudes em Pagamentos
Dois dos maiores desafios na prevenção de fraudes são o aumento exponencial do volume de transações em pagamentos digitais e com cartões de crédito, e a crescente sofisticação das técnicas de fraude. Esses fatores têm levado a disputas por recursos e a desafios de escalabilidade para inferência de IA/ML, exigindo a implantação de múltiplos modelos de IA/ML componíveis para lidar com métodos emergentes de fraude.
Para enfrentar esses desafios, o serviço Cloudera AI Inference inclui o NVIDIA NIM, projetado para oferecer inferência de alto desempenho, baixa latência e alto rendimento para modelos de IA de prevenção de fraudes em ambientes com computação acelerada pela NVIDIA. Por exemplo, com o NVIDIA NIM, o Cloudera AI Inference pode entregar até 6x de melhoria de desempenho em modelos PyTorch (usando a biblioteca Torch-TensorRT) e até 2,5x em modelos TensorFlow (usando a biblioteca TF-TensorRT), ambos amplamente utilizados na prevenção de fraudes em pagamentos.
Além disso, o Cloudera AI Inference acelera as requisições de inferência executadas em ambientes de computação acelerada da NVIDIA utilizando o recurso de batching dinâmico da NVIDIA. Esse recurso possibilita a combinação de múltiplas requisições de inferência no lado do servidor, evitando a ineficiência de processar apenas uma requisição por vez, prática que deixa boa parte da GPU ociosa. Como resultado, o Cloudera AI Inference com NVIDIA NIM melhora a utilização da GPU, reduzindo a necessidade de futuros gastos de capital em GPUs para atender ao crescimento da demanda em prevenção de fraudes.
Modelo NVIDIA AI-Q para originação de empréstimos em bancos de varejo
A análise de crédito é uma capacidade essencial no setor bancário, abrangendo diversas modalidades de concessão, como hipotecas, crédito rotativo de cartões, operações de banking corporativo e financiamento ao comércio exterior. Historicamente, esses processos têm sido ineficientes devido à quantidade de etapas no fluxo de originação, desde o envio da aplicação até o financiamento, e ao número de papéis envolvidos na tomada de decisão.
Embora os modelos tradicionais de IA/ML possam agilizar diversas atividades individuais no fluxo de originação de crédito, a experiência do cliente ainda é lenta e fragmentada. É nesse ponto que a IA agêntica pode ter um impacto significativo: nesse contexto, a IA agêntica pode reduzir o esforço necessário para coletar e resumir informações e elaborar decisões de crédito. Ela também pode oferecer uma experiência de crédito personalizada e consistente, padronizando as revisões durante o processo de aprovação. Além disso, pode gerar recomendações personalizadas de produtos com base nos comportamentos e padrões de consumo do cliente, utilizando um fluxo de trabalho de múltiplos agentes que orquestra diversas ferramentas, dados e agentes de IA.
Ao aproveitar o modelo NVIDIA AI-Q em ambientes de computação acelerada pela NVIDIA, em conjunto com o serviço Cloudera AI Inference, instituições financeiras podem alcançar essa visão transformadora. Por exemplo, ao usar o Modelo AI-Q, a Cloudera pode orquestrar um fluxo de trabalho multiagente que inclui um consultor de crédito personalizado baseado em GenAI, implantado no NVIDIA NIM, um agente de processamento de documentos baseado em IA, utilizando técnicas de reconhecimento óptico de caracteres (OCR) e processamento de linguagem natural (PLN), além de ferramentas já existentes de tomada de decisão de crédito.
Próximas etapas
O poder combinado da plataforma unificada de dados de nuvem em qualquer ambiente da Cloudera com os recursos de hardware e software da NVIDIA oferece uma solução completa para o desenvolvimento de soluções de IA agêntica.
Visite esta página para saber mais sobre o serviço Cloudera AI Inference.
Leia este white paper da Enterprise Strategy Group para entender a proposta de valor conjunta Cloudera + NVIDIA.
