A inteligência artificial só é tão poderosa quanto a arquitetura de dados que a sustenta.
No episódio 52 de The AI Forecast, Por que os LLMs não são suficientes e como as malhas de IA vão mudar tudo, o apresentador Paul Muller conversa com Dr. Jake Trippel, reitor da College of Business and Technology da Concordia University, St. Paul, e cofundador e CTO da Codename 37, para explicar o que está impedindo as empresas de ampliar a escala da IA:
Arquitetura de dados em silos
Falta de compreensão do poder de machine learning, deep learning e redes neurais
O acúmulo de dívida técnica
A conversa aborda desde a economia da nuvem versus a infraestrutura local até a mudança que se aproxima, de aplicações SaaS para experiências baseadas em bots. Abaixo estão os principais momentos da discussão.
Por que as arquiteturas de IA estão atingindo seus limites
Paul: Conte para nós o que vimos no passado com IA e arquiteturas de dados e por que precisamos repensá-las agora.
Jake: Passamos pela era da transformação digital, esse era o desafio com os dados. Permanecemos em silos de dados porque era assim que nossas plataformas eram arquitetadas e era assim que os dados eram organizados. Depois tentamos fazer várias integrações. Tentamos usar todos esses mecanismos de integração de aplicações. Tentamos encontrar maneiras engenhosas de fazer isso, mas o que aconteceu foi que criamos uma bagunça, puxando de ELT para ETL, de sistema para sistema.
Agora avance para os dias de hoje. O desafio agora é que essas organizações são incentivadas a nos manter em silos, porque agora surgem silos de dados de IA, os dados continuam em silos. É aí que entra o poder da nuvem. É por isso que temos orgulho de ser parceiros da Cloudera.
Imagine o mesmo problema, só que ampliado. Tenho agentes de IA de sobra, ótimo, mas eles só estão funcionando dentro do próprio silo de dados.
As pessoas vão querer mais. Elas vão querer agentes que possam trabalhar juntos, conversar entre si e raciocinar juntos. Mas como fazer isso se seus dados ainda estão presos em silos? Chegar a esse estado de malha de dados vai exigir uma mudança transformacional, e é por isso que a Cloudera é uma solução interessante que ajuda as pessoas a fazer isso.
Por que os modelos de linguagem grandes não são suficientes
Paul: Quais são alguns dos hacks, melhores práticas, dicas ou truques que você usa para ajudar a tirar o máximo proveito do que faz com dados?
Jake: O mais importante é entender que os modelos de linguagem grandes não são a resposta para tudo. A IA é um mundo vasto.
Os modelos de linguagem amplos são ótimos para algumas coisas, mas são muito ruins para outras. As pessoas precisam entender o poder de machine learning, deep learning e redes neurais, que são, na verdade, a base dos outros dois.
A habilidade do nosso tempo agora é ser capaz de desenvolver ou usar os modelos certos para os casos de uso certos e processar dados rapidamente. É nisso que as pessoas precisam se concentrar.
O efeito cumulativo da dívida técnica
Paul: Na sua opinião e experiência, como as organizações começam, de forma pragmática, a sair de onde estiveram para onde estão indo? Como elas limpam seus dados? Existe algum mecanismo pelo qual elas possam fazer isso sem quebrar tudo?
Jake: Essa é uma pergunta grande e carregada, então vou tentar desmembrá-la um pouco. Você está nisso há três décadas por um motivo. Ainda vemos AS/400s por aí, e eles funcionam. É preciso dar crédito à IBM.
O desafio que essas organizações enfrentam, no entanto, é: quanto capital está sendo despendido? Devido ao efeito cumulativo dessa dívida técnica, pode-se ir adiando o problema ano após ano, década após década. O custo só vai crescer.
Mas agora pelo menos você tem opções. Podemos extrair os dados e fazer muito mais com eles do que jamais fizemos antes. Em vez de adotar a abordagem de arrancar o curativo, desde que tenhamos acesso aos dados e continuemos tendo acesso a eles, agora podemos criar em paralelo qualquer tipo de experiência que quisermos.
Por que algumas cargas de trabalho de IA estão voltando para o ambiente local
Paul: O que você está vendo com seus clientes atuais hoje, à medida que eles buscam implementar novas cargas de trabalho?
Jake: Estamos vendo uma enorme migração de volta para o ambiente local. Não conseguia acreditar. Nunca teria previsto isso.
À medida que essas organizações fazem mais desenvolvimento e treinamento de modelos, entre outras coisas, o modelo de custo da nuvem simplesmente é caro demais. Não conheci nenhum CFO animado com o quanto se gasta por mês para treinar esses modelos.
Então, elas estão fazendo o investimento. Elas estão voltando para os data centers. Elas estão depreciando isso nos próximos cinco anos. Estamos vendo isso em dispositivos médicos, serviços financeiros, aviação... Normalmente é híbrido, mas, para cargas de trabalho específicas, especialmente treinamento e desenvolvimento, é muito mais econômico.
A IA é amplificadora do aprendizado, para o bem e para o mal
Paul: O que você está vendo em termos do mundo acadêmico e de como preparamos a força de trabalho do futuro?
Jake: A IA é uma amplificadora. Ela vai amplificar o que é bom e vai amplificar o que é ruim.
Pelo lado bom, as pessoas vão aprender 10, 20 vezes mais rápido do que jamais aprenderam antes. Já criei modelos que conseguem ler livros em exatos três segundos. Agora posso mergulhar nos dados e criar qualquer tipo de experiência de aprendizado que eu queira, adaptada ao meu estilo de aprendizagem.
O lado ruim é que os alunos escolhem não preciso fazer nada. Posso deixar a IA fazer todo o meu trabalho e não vou aprender nada. Essa é a parte que me assusta.
A habilidade essencial de nossa época... espero que você goste de aprender. Você vai fazer isso todos os dias pelo resto da sua carreira.
Ouça a conversa completa com o Dr. Jake Trippel no podcast The AI Forecast, disponível no Spotify, Apple Podcasts e YouTube.
