Introdução
Enquanto o mercado debate qual modelo de linguagem é mais poderoso, empresas como LinkedIn, Walmart e Zendesk descobriram que o verdadeiro desafio para implementar agentes de IA em produção não está nos modelos em si, mas na infraestrutura corporativa que não foi projetada para a velocidade do pensamento artificial. Durante o VB Transform 2026, líderes de tecnologia dessas três gigantes compartilharam suas experiências práticas sobre como modernizaram seus sistemas legados para acompanhar agentes que pensam em milissegundos.
A conclusão unânime dos painelistas foi reveladora: nenhum dos gargalos encontrados estava relacionado às capacidades dos modelos de IA. O problema fundamental é que a maioria da infraestrutura empresarial foi construída para a velocidade de trabalho humana, não para a velocidade de processamento de agentes autônomos. Essa incompatibilidade temporal está forçando empresas a repensar completamente suas arquiteturas de TI.
Os Gargalos Reais na Implementação de Agentes
Cada empresa enfrentou uma versão diferente do mesmo problema fundamental: sistemas projetados para interações humanas simplesmente não conseguem acompanhar quando agentes assumem o trabalho. No LinkedIn, o primeiro obstáculo não foi um modelo de IA, mas o Kubernetes. A plataforma de orquestração de containers, amplamente utilizada em ambientes corporativos, assume que containers são iniciados sob demanda – um processo que leva segundos preciosos.
Animesh Singh, diretor sênior de plataforma e infraestrutura de IA do LinkedIn, explicou que essa latência é inaceitável para agentes que precisam responder instantaneamente. A solução foi migrar de provisionamento sob demanda para pools pré-provisionados de containers que trocam cargas de trabalho de agentes em tempo real, eliminando o tempo de inicialização.
Um segundo desafio mais complexo surgiu quando o LinkedIn permitiu que agentes controlassem sua própria orquestração. O sistema de avaliação de cinco pontos parecia robusto no papel, mas alucinações continuavam aparecendo. Singh identificou que o problema era estrutural: quando um LLM avalia a saída de outro LLM, ele compartilha os mesmos modos de falha do sistema que está avaliando.
A solução foi radical: construir um sistema de controle próprio onde aproximadamente 80% do fluxo de trabalho é código determinístico e scriptado, com LLMs sendo usados apenas onde o raciocínio é essencial. Cada evidência de etapa é gravada em disco antes do sistema prosseguir, criando uma trilha de auditoria completa.
Democratização e Governança: O Caso Walmart
O Walmart enfrentou um gargalo diferente, nascido do próprio sucesso. Quando a empresa colocou uma plataforma de desenvolvimento de agentes diretamente nas mãos dos funcionários, o resultado foi uma explosão de inovação. Desiree Gosby, SVP de serviços de tecnologia corporativa do Walmart, descreveu como ‘desenvolvedores cidadãos’ começaram a construir seus próprios agentes para resolver problemas que antes exigiriam um roadmap formal de engenharia.
O lado positivo foi inovação real e descentralizada. O desafio foi a duplicação massiva – dezenas de agentes sobrepostos sem coordenação central. A solução não foi restringir o acesso à plataforma, mas construir uma camada de governança capaz de identificar duplicações, promover as melhores versões e colocá-las em produção sem que a engenharia se tornasse um gargalo.
Essa abordagem reflete uma tendência importante para empresas brasileiras: a democratização do desenvolvimento de IA pode acelerar a transformação digital, mas requer estruturas de governança robustas para evitar o caos organizacional.
O Desafio dos Dados em Escala
A Zendesk encontrou seu gargalo pelo lado dos dados. Sami Ghoche, VP de IA aplicada da empresa, descreveu o desafio de trabalhar com um repositório público de 20 bilhões de conversas com clientes. O instinto inicial seria entregar todo esse histórico para um modelo de linguagem com janela de contexto grande e deixá-lo gerar os agentes necessários.
Ghoche foi categórico: isso simplesmente não funciona. Em vez disso, a empresa precisou investir pesadamente em pipelines de dados e toda a infraestrutura subjacente. Esse insight é particularmente relevante para empresas brasileiras que acumularam anos de dados em sistemas legados – o volume de dados por si só não é suficiente sem a infraestrutura adequada para processá-los de forma eficiente.
Estratégias de Independência Tecnológica
Um tema comum entre os três líderes foi a importância de manter independência tecnológica. Todos convergem para uma estratégia similar: controlar o que for possível internamente e depender de laboratórios de IA apenas onde eles mantêm vantagem clara.
O LinkedIn construiu dois subsistemas específicos para garantir essa independência. O primeiro é um gateway de IA – uma interface única por onde passam todas as chamadas para modelos, independentemente do provedor. O segundo é um subsistema de memória construído para manter contexto independente de qualquer fornecedor de modelo. Singh explicou que cada chamada para um LLM, seja em nuvem pública ou em datacenters próprios, segue a mesma semântica e APIs, permitindo trocar rapidamente entre diferentes provedores.
O Walmart adotou abordagem similar com seu gateway interno, mantendo-se agnóstico entre três tipos de carga de trabalho: fluxos totalmente determinísticos, fluxos de planejamento e raciocínio para tarefas abertas, e um híbrido dos dois. A escolha entre um modelo de fronteira e um modelo open-source depende da eficácia para cada carga específica, não de uma política fixa.
Lições Práticas para Modernização
Os painelistas compartilharam três conselhos fundamentais baseados em suas experiências:
Invista em avaliações antes de qualquer outra coisa. Ghoche enfatizou que esse é o elemento comum a todos os casos de uso, sejam internos ou voltados para clientes. Um conjunto robusto de avaliações força a decomposição adequada do problema e acelera significativamente o desenvolvimento posterior.
Coloque a plataforma de agentes nas mãos dos funcionários desde o início. Gosby destacou a importância de democratizar o desenvolvimento de agentes, sempre pareado com infraestrutura de monitoramento. Essa abordagem desbloqueia uma quantidade massiva de inovação organizacional.
Construa para independência de modelo e contexto. Singh enfatizou a importância de manter flexibilidade entre modelos de fronteira atuais e modelos open-source futuros, mantendo o contexto dentro da empresa para reutilização futura.
Implicações para o Mercado Brasileiro
As experiências compartilhadas por LinkedIn, Walmart e Zendesk oferecem lições valiosas para empresas brasileiras embarcando em jornadas similares. A primeira e mais importante é que a modernização de infraestrutura não pode ser adiada – ela é o verdadeiro habilitador de agentes de IA em produção.
Para empresas com sistemas legados extensivos, comum no cenário brasileiro, a mensagem é clara: o investimento em modernização de backend é tão crítico quanto a escolha do modelo de IA. Empresas que focam apenas em qual LLM usar, ignorando a infraestrutura subjacente, inevitavelmente encontrarão os mesmos gargalos descritos pelos painelistas.
A tendência de ‘desenvolvedores cidadãos’ criando seus próprios agentes também ressoa fortemente com a realidade brasileira, onde a escassez de talentos técnicos especializados torna a democratização do desenvolvimento ainda mais valiosa. No entanto, como o caso Walmart demonstra, isso requer estruturas de governança robustas desde o início.
Conclusão
A principal lição do painel é que o sucesso com agentes de IA em produção depende menos da sofisticação dos modelos e mais da modernização da infraestrutura corporativa. Enquanto o mercado continua fascinado com os avanços em modelos de linguagem, empresas líderes estão descobrindo que o verdadeiro trabalho está em adaptar sistemas construídos para humanos para suportar agentes que operam em velocidades completamente diferentes.
Para o mercado brasileiro, isso significa que a jornada de transformação digital precisa incluir não apenas a adoção de IA, mas uma reavaliação fundamental de como a infraestrutura de TI é arquitetada. Empresas que reconhecerem e endereçarem esse desafio cedo estarão melhor posicionadas para capitalizar sobre o potencial transformador dos agentes de IA, enquanto aquelas que focarem apenas nos modelos inevitavelmente encontrarão os mesmos gargalos que LinkedIn, Walmart e Zendesk já superaram.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria publicada em VentureBeat, disponível em https://venturebeat.com/data/agents-think-in-milliseconds-legacy-infrastructure-doesnt-linkedin-walmart-and-zendesk-shared-how-they-closed-the-gap-at-vb-transform-2026.
