Introdução
A explosão no uso de agentes de inteligência artificial está criando um problema inesperado para as empresas: contas astronômicas de consumo de tokens. Enquanto um chatbot tradicional gera apenas uma resposta por pergunta, agentes autônomos executam múltiplas rodadas de planejamento, busca de informações, chamadas de ferramentas e validações – multiplicando exponencialmente o consumo de recursos computacionais. A Writer, plataforma de IA empresarial usada por gigantes como Accenture, Uber e Vanguard, acaba de lançar uma solução que promete cortar esses custos pela metade.
O novo modelo Palmyra X6, anunciado hoje pela empresa de São Francisco, reduz em 52% o custo médio de operação de agentes de IA, ao mesmo tempo em que melhora a velocidade em 48% e a qualidade em 10%. Mas talvez o aspecto mais intrigante seja como a Writer chegou a esses números – e o que suas escolhas técnicas revelam sobre o futuro do mercado corporativo de IA.
O problema oculto dos agentes de IA
Para entender a importância do anúncio, é preciso compreender como agentes de IA diferem fundamentalmente de chatbots convencionais. Quando você faz uma pergunta ao ChatGPT, ele processa sua solicitação uma vez e retorna uma resposta. Já um agente de IA transforma cada pedido em dezenas ou centenas de operações internas: ele planeja a tarefa, busca informações em múltiplas fontes, executa ferramentas especializadas, valida resultados e frequentemente precisa refazer etapas quando algo não sai como esperado.
O usuário vê apenas o resultado final, mas a fatura reflete todo esse processo iterativo. É como a diferença entre pedir uma pizza pronta e contratar um chef que vai ao mercado, compra ingredientes, prepara a massa, experimenta diferentes combinações e só então entrega o prato final. O resultado pode ser superior, mas o custo explode.
O Goldman Sachs projeta que o consumo de tokens vai multiplicar por 24 entre 2026 e 2030, alcançando 120 quatrilhões de tokens por mês. E o mais preocupante: mesmo com a queda nos preços unitários dos tokens, as contas totais continuarão subindo. Se uma tarefa executada por agente consome 20 vezes mais tokens enquanto os preços caem 75%, o gasto final ainda quintuplica.
“O maior obstáculo para a adoção empresarial de IA hoje não é a capacidade dos modelos, é o custo”, afirma Matan-Paul Shetrit, diretor de gerenciamento de produto da Writer. “Na maioria dos casos, a alternativa para IA não é outra IA – é trabalho humano.”
A arquitetura técnica do Palmyra X6
A solução da Writer para o problema de custos revela uma mudança fundamental na estratégia de desenvolvimento de modelos de IA. Em vez de treinar um modelo do zero – processo que pode custar dezenas de milhões de dólares – a empresa partiu do GLM-5.2, um modelo open-weight desenvolvido pela chinesa Z.ai (antiga Zhipu AI).
O Palmyra X6 é um modelo de 744 bilhões de parâmetros usando arquitetura mixture-of-experts, com aproximadamente 40 bilhões de parâmetros ativos por token. A contribuição da Writer foi aplicar uma técnica chamada Anchored Supervised Fine-Tuning (ASFT) usando apenas 626 exemplos de trajetórias de agentes cuidadosamente selecionados.
Esse dataset minúsculo é proposital. A técnica ASFT combina um esquema de ponderação de tokens com uma âncora de divergência KL que penaliza o modelo quando ele se afasta demais da versão base – ensinando novos comportamentos de uso de ferramentas sem degradar as capacidades gerais que o modelo já possui. A empresa também substituiu o otimizador Adam padrão pelo Muon, um método mais recente que trata matrizes de peso como objetos geométricos.
“Há toda uma linha de pesquisa seguindo uma filosofia de ‘menos é mais'”, explica Dan Bikel, líder de pesquisa em IA da Writer. “Datasets pequenos mas de qualidade extremamente alta fazem uma diferença enorme. Isso nos permitiu otimizar para nossos clientes a um custo menor.”
Todo o conjunto de dados de treinamento é sintético – cada plano, chamada de ferramenta e resposta final foi gerada por modelos professores, depois filtrada através de múltiplas camadas de verificação de qualidade antes de entrar no treinamento. A Writer já havia demonstrado a viabilidade dessa abordagem: o Palmyra X 004 foi treinado quase inteiramente com dados sintéticos por cerca de 700 mil dólares, e o Palmyra X5 consumiu aproximadamente 1 milhão de dólares em horas de GPU.
A questão geopolítica: construindo sobre bases chinesas
A escolha de usar o GLM-5.2 como base coloca a Writer no centro de um dos debates mais sensíveis da indústria: empresas americanas devem construir sobre fundações open-source chinesas? Há dois anos, essa decisão seria impensável para um fornecedor corporativo americano. Hoje, reflete uma realidade de mercado.
O GLM-5.2, lançado em junho sob licença MIT permissiva, é possivelmente o modelo mais capaz disponível abertamente no mundo. A consultoria Artificial Analysis deu nota 51 em seu índice de inteligência – à frente do DeepSeek V4 Pro, Kimi K2.6 e até alguns modelos Gemini do Google em tarefas de agentes.
A Writer é transparente sobre essa escolha, mas enfatiza medidas de segurança. “Este modelo não tem nenhuma conexão com seus desenvolvedores originais. Ele roda inteiramente em nossa infraestrutura nos EUA”, afirma Shetrit. Bikel acrescenta que a empresa “pegou os pesos do Hugging Face americano” e treinou exclusivamente em infraestrutura americana.
A empresa também conduziu uma avaliação de risco rigorosa e pré-registrada, cobrindo viés político, censura, factualidade e comportamento de recusa – 19.674 respostas avaliadas por juízes cegos. No benchmark ModelSlant do Washington Post sobre viés político, o X6 apresentou ambos os lados de questões controversas em 80% das vezes, a taxa mais alta entre todos os modelos testados.
O efeito da orquestração: por que o “harness” importa mais que o modelo
Talvez a revelação mais estratégica do anúncio não tenha relação direta com o Palmyra X6. A Writer afirma que seu sistema de orquestração reconstruído – a camada que planeja tarefas, agrupa trabalho, delega para sub-agentes e gerencia contexto – reduz custos em 41% e acelera tarefas em 44% com qualquer modelo, incluindo modelos de terceiros da Anthropic e OpenAI.
Isso levanta uma questão óbvia: se a orquestração sozinha entrega a maior parte das economias, por que construir um modelo próprio? A resposta de Shetrit é sobre controle: “Não posso controlar se um laboratório descontinua seu modelo. Não posso controlar quais dados eles usam. Quando construo o modelo, tenho controle significativo e posso responder às perguntas difíceis que clientes corporativos me fazem.”
Curiosamente, a Writer está fazendo hedge em sua aposta. Com este lançamento, a empresa estende suporte multi-modelo ao Writer Agent, permitindo que administradores habilitem modelos da Anthropic, OpenAI e provedores de nuvem incluindo Microsoft Azure, AWS Bedrock e Nvidia NIM. A mensagem para CIOs é simples: use nosso modelo porque é o mais barato e melhor para seus fluxos de trabalho, mas a plataforma economiza dinheiro de qualquer forma.
Novas ferramentas de governança para controlar gastos
O terceiro pilar do lançamento ataca um problema mais silencioso: ninguém na alta gestão sabe quanto os agentes estão gastando. Novas ferramentas de governança oferecem aos administradores uma visão centralizada do uso de agentes em toda a empresa, análises por fluxo de trabalho para os “Playbooks” e “Skills” compartilháveis da empresa, e controles de consumo com alertas e limites de gastos.
Perguntado se a introdução de controles de gastos implicava que clientes estavam recebendo contas surpresa, Shetrit reformulou como um facilitador de adoção. “Como construímos as ferramentas para permitir que você, como CIO ou CISO de uma empresa, se sinta confortável tanto com segurança quanto com gastos, para expandir o uso de IA em sua organização?”, questiona. Em sua visão, visibilidade é o que permite aos líderes dizer sim.
O conjunto de recursos acompanha uma mudança mais ampla em como as empresas orçam para IA. Compradores sofisticados estão aprendendo a modelar custo por tarefa bem-sucedida – contando tentativas, chamadas de ferramentas e escalonamentos – em vez de simplesmente multiplicar chamadas esperadas pela tabela de preços anunciada. A Writer está essencialmente transformando essa disciplina em um recurso nativo da plataforma.
O que isso significa para o mercado brasileiro
Para empresas brasileiras enfrentando pressão para adotar IA enquanto controlam custos, o lançamento da Writer sinaliza mudanças importantes. Primeiro, confirma que o problema de custos com agentes de IA é real e crescente – não uma preocupação teórica. Empresas que estão experimentando com agentes autônomos precisam implementar controles rigorosos desde o início.
Segundo, a abordagem da Writer de usar modelos open-weight como base sugere que a próxima onda de inovação em IA empresarial pode vir não de quem constrói os maiores modelos, mas de quem sabe otimizá-los melhor para casos de uso específicos. Isso abre oportunidades para empresas brasileiras que não têm recursos para competir em pré-treinamento mas podem se especializar em pós-treinamento e orquestração.
Terceiro, o foco em ferramentas de governança e controle de custos indica que a fase experimental da IA empresarial está chegando ao fim. CFOs e CIOs agora exigem a mesma visibilidade e controle que têm sobre gastos com nuvem – e fornecedores que não oferecem essas ferramentas ficarão para trás.
Conclusão
O lançamento do Palmyra X6 pela Writer marca um ponto de inflexão no mercado de IA empresarial. A empresa está apostando que o futuro não pertence a quem tem os melhores “números de ponto flutuante”, mas a quem sabe o que fazer com eles. Em uma indústria que passou três anos discutindo qual modelo é mais inteligente, a Writer está mudando a conversa para o que realmente importa para empresas: quanto custa fazer o trabalho.
A decisão pragmática de construir sobre bases open-source chinesas, combinada com engenharia sofisticada de orquestração e ferramentas robustas de governança, sugere que estamos entrando em uma nova fase da IA empresarial. Uma fase onde a commoditização dos modelos base força a diferenciação para camadas superiores da pilha – pós-treinamento, orquestração, governança e, crucialmente, compreensão profunda de casos de uso empresariais.
Para o mercado brasileiro, isso representa tanto um desafio quanto uma oportunidade. O desafio é acompanhar a velocidade de mudança e implementar controles adequados antes que os custos saiam de controle. A oportunidade é que, com modelos base se tornando commodities, o campo de jogo está mais nivelado para empresas que podem agregar valor através de especialização e execução superior. Na corrida da IA empresarial, pode ser que a tartaruga eficiente ultrapasse a lebre gastadora.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria “Writer says its new Palmyra X6 model cuts AI agent costs by 52% as token spending surges” publicada em VentureBeat, disponível em https://venturebeat.com/orchestration/writer-says-its-new-palmyra-x6-model-cuts-ai-agent-costs-by-52-as-token-spending-surges.
