Introdução
A discussão sobre soberania de dados em inteligência artificial ganhou novos contornos durante o VB Transform 2026, principal conferência sobre agentes de IA generativa para negócios, realizada esta semana em Menlo Park, Califórnia. Rachad Alao, vice-presidente de engenharia de produto da Cohere, startup canadense em ascensão no mercado de IA empresarial, apresentou uma visão provocativa: para garantir verdadeira soberania sobre seus dados e operações de IA, empresas precisam controlar toda a stack tecnológica, desde os GPUs até os frameworks de agentes.
A perspectiva de Alao, que anteriormente liderou equipes de IA responsável no Google e Meta, desafia o modelo predominante de consumo de IA como serviço (AIaaS) e levanta questões cruciais para empresas brasileiras que lidam com dados sensíveis em setores regulados como finanças, saúde e governo.
Além do modelo aberto: o que significa soberania em IA
Durante conversa com Matt Marshall, CEO do VentureBeat, Alao argumentou que soberania em IA vai muito além de simplesmente baixar um modelo open source ou executar uma aplicação atrás de um firewall corporativo. Para organizações que operam sistemas críticos – bancos, hospitais e órgãos governamentais – o controle precisa ser absoluto.
“É importante ter controle muito rigoroso sobre onde os dados residem e sobre a própria IA”, explicou Alao, enfatizando que as operações de IA devem ocorrer em jurisdições que a organização compreende ou controla diretamente. Essa visão abrange desde a infraestrutura física de GPUs e nuvem privada até os sistemas de governança que direcionam requisições entre modelos, incluindo conectores, ferramentas de busca e frameworks de agentes que atuam sobre dados empresariais.
Para empresas brasileiras, especialmente aquelas sujeitas à LGPD e regulamentações setoriais específicas, essa abordagem representa uma mudança fundamental na forma de pensar implementações de IA. Não basta garantir que os dados permaneçam no Brasil; é necessário controlar toda a cadeia de processamento e decisão.
O paradoxo econômico: tokens mais baratos, consumo exponencial
Marshall questionou um dos argumentos centrais para modelos menores e implantações locais: os preços de inferência continuam caindo rapidamente, o que poderia enfraquecer o caso para otimizar cada token processado. A resposta de Alao revelou uma dinâmica interessante do mercado.
Segundo o executivo, o consumo total está crescendo ainda mais rápido que a queda de preços, especialmente à medida que empresas migram de chatbots relativamente simples para agentes que raciocinam sobre problemas, chamam ferramentas, pesquisam sistemas internos e executam múltiplas etapas antes de retornar uma resposta.
“Sua utilização de tokens está subindo exponencialmente, porque você está lidando com casos de uso agênticos cada vez mais complexos”, observou Alao. Esses workflows requerem “muito processamento, raciocínio e interação com ferramentas” para completar seus objetivos.
A Cohere adota uma abordagem diferente dos provedores que cobram por consumo de tokens. “Se toda sua forma de cobrar clientes é por utilização de tokens, você quer maximizar a utilização de tokens”, disse Alao. “Nós não vendemos nossos modelos e nossa plataforma dessa forma.” Em vez disso, a empresa foca em ajudar organizações a resolver seus problemas mais difíceis de forma privada e segura, reduzindo o uso desnecessário de modelos.
Roteamento inteligente: usando o modelo certo para cada tarefa
A prescrição de Alao para otimização de custos e desempenho é direta: “Use o modelo certo para a tarefa em questão.” Em vez de enviar toda requisição para o maior modelo frontier disponível, empresas devem rotear o trabalho de acordo com a inteligência necessária e a sensibilidade ou carga regulatória associada à tarefa.
Um exemplo prático vem de um banco canadense não identificado que usa os modelos on-premises da Cohere para cargas de trabalho altamente reguladas, enquanto envia tarefas menos sensíveis que requerem maior inteligência através da plataforma North da Cohere para modelos frontier maiores. “Então o roteamento de modelos pode se tornar super útil”, afirmou Alao.
Essa abordagem híbrida oferece um caminho interessante para empresas brasileiras que precisam equilibrar requisitos de conformidade com necessidades de desempenho. Dados de clientes e transações financeiras podem permanecer em modelos locais, enquanto análises de mercado ou tarefas de suporte menos sensíveis podem aproveitar modelos mais poderosos na nuvem.
Modelos menores dominam casos de uso empresariais
Questionado sobre como o North Mini Code da Cohere, modelo open source lançado no mês passado, poderia competir com modelos proprietários de codificação, Alao reconheceu que modelos frontier maiores podem ter desempenho ligeiramente melhor nas tarefas mais difíceis. No entanto, essa vantagem pode não justificar seu uso indiscriminado.
“Para 80% dos casos de uso necessários, isso foi muito mais efetivo e muito mais barato”, disse Alao sobre desenvolvedores que adotaram o modelo. O North Mini Code roda em uma única GPU Nvidia H100 e é direcionado para engenharia de software agêntica, incluindo trabalho em terminal, revisão de código e uso de ferramentas.
A empresa também lançou o Command A+, um modelo mixture-of-experts de 218 bilhões de parâmetros com apenas 25 bilhões de parâmetros ativos durante cada etapa de geração. Sua versão comprimida de 4 bits reduz o hardware necessário para implantação privada, enquanto sua licença Apache 2.0 oferece às empresas ampla liberdade para operar e modificá-lo.
Busca multimodal como componente integral dos agentes
O trabalho de longa data da Cohere em embeddings e busca empresarial está evoluindo além da simples recuperação de texto para inserção na janela de contexto do modelo. “Hoje, o estado da arte é busca multimodal”, explicou Alao. “Vai além da modalidade de texto.”
A busca através de documentos, imagens e outras formas de informação está se tornando “um componente integral do seu workflow agêntico”, com o modelo decidindo quando e como usar recuperação como qualquer outra ferramenta. Essa evolução é particularmente relevante para empresas brasileiras com vastos repositórios de documentos, apresentações e dados visuais que precisam ser integrados em processos de IA.
O que isso significa para o mercado brasileiro
A visão da Cohere sobre soberania de IA apresenta implicações significativas para empresas brasileiras, especialmente em setores regulados. A abordagem de controle total da stack oferece benefícios claros de conformidade e segurança, mas também apresenta desafios em termos de investimento inicial e expertise técnica necessária.
Para bancos brasileiros processando milhões de transações diárias, hospitais gerenciando prontuários eletrônicos sensíveis, ou órgãos governamentais lidando com dados de cidadãos, a capacidade de manter controle completo sobre onde e como a IA processa informações pode ser um diferencial competitivo e regulatório crucial.
A estratégia de roteamento inteligente de modelos também oferece um caminho pragmático para organizações que querem começar com IA sem comprometer segurança ou explodir orçamentos. Começar com modelos menores para tarefas rotineiras e escalar seletivamente para modelos maiores quando necessário pode acelerar a adoção enquanto mantém custos sob controle.
Conclusão
A discussão sobre soberania de IA está evoluindo rapidamente de uma questão binária – nuvem versus on-premises – para uma consideração mais nuançada sobre controle, portabilidade e otimização de recursos. A abordagem da Cohere, focada em dar às empresas controle total sobre sua stack de IA enquanto oferece flexibilidade para usar diferentes modelos conforme necessário, representa uma alternativa interessante ao modelo dominante de AIaaS.
Para o mercado brasileiro, onde questões de soberania de dados e conformidade regulatória são particularmente sensíveis, essa visão oferece um caminho para adoção de IA que não compromete controle ou segurança. À medida que agentes de IA se tornam mais complexos e consomem exponencialmente mais recursos, a capacidade de otimizar e controlar cada aspecto da stack pode se tornar não apenas uma vantagem competitiva, mas uma necessidade operacional.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria publicada em VentureBeat, disponível em https://venturebeat.com/technology/cohere-vp-says-enterprise-ai-sovereignty-requires-control-of-the-full-agent-stack.
