Introdução
A startup francesa ZML está desafiando o domínio da Nvidia no mercado de processamento de IA com o lançamento do ZML/LLMD, um servidor de inferência que promete executar modelos de linguagem de grande porte (LLMs) em uma variedade de chips com desempenho otimizado. A empresa, que conta com o endosso do vencedor do Prêmio Turing Yann LeCun, busca quebrar as barreiras tecnológicas que hoje limitam empresas a soluções proprietárias e custosas.
Em um momento em que os custos relacionados à IA preocupam cada vez mais as empresas, a promessa de poder utilizar diferentes tipos de chips – incluindo opções da AMD, Google TPU, Apple Metal e Intel Arc, além da própria Nvidia – representa uma mudança significativa no cenário de infraestrutura de IA. O software está sendo lançado gratuitamente, permitindo que empresas experimentem a tecnologia sem compromisso financeiro inicial.
O desafio da inferência em IA
A inferência – o processo de executar prompts e gerar respostas em modelos de IA – tornou-se um gargalo crítico para empresas que buscam implementar soluções de inteligência artificial em produção. Diferentemente do treinamento de modelos, que acontece uma vez e pode ser feito em data centers especializados, a inferência precisa acontecer constantemente, sempre que um usuário interage com o sistema.
Steeve Morin, fundador da ZML, explica que o mercado atual sofre com barreiras de software e arquitetura que levam ao vendor lock-in – quando empresas ficam presas a um único fornecedor de hardware. Isso não apenas limita as opções tecnológicas, mas também impacta significativamente os custos operacionais, especialmente em aplicações que demandam processamento intensivo e contínuo.
A otimização da inferência superou em importância o treinamento de modelos, mas a implementação prática ainda enfrenta desafios técnicos consideráveis. Diferentes chips possuem arquiteturas distintas, e fazer com que um mesmo modelo funcione eficientemente em hardware variado requer expertise técnica profunda e ferramentas especializadas.
Como funciona o ZML/LLMD
O ZML/LLMD atua como uma camada de abstração entre os modelos de linguagem e o hardware subjacente. O software permite que diversos LLMs open-source sejam executados em diferentes tipos de chips, otimizando automaticamente o desempenho para cada arquitetura específica. Em alguns casos, a empresa afirma conseguir desempenho superior ao obtido com as ferramentas nativas dos fabricantes.
A tecnologia desenvolvida pela equipe de 20 pessoas da ZML vai além de uma simples camada de compatibilidade. Morin revela que a empresa chegou ao ponto de co-projetar silicon – trabalhando diretamente com fabricantes de chips para otimizar o hardware para cargas de trabalho de IA. Essa abordagem integrada permite extrair o máximo de performance de cada plataforma.
O software compete parcialmente com projetos estabelecidos como vLLM e SGLang, mas as ambições da ZML são mais amplas. Enquanto essas soluções focam em aspectos específicos da inferência, o ZML/LLMD busca ser uma solução completa para empresas que precisam de flexibilidade na escolha de hardware sem sacrificar desempenho.
Impacto no ecossistema de chips de IA
A chegada do ZML/LLMD pode ser especialmente significativa para fabricantes emergentes de chips de IA, muitos dos quais são europeus. Empresas como Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA podem se beneficiar de uma plataforma que facilita a adoção de seus produtos por clientes corporativos.
Para o mercado brasileiro, onde o custo de importação de hardware especializado é uma barreira significativa, a possibilidade de utilizar chips alternativos com desempenho competitivo pode democratizar o acesso a soluções de IA avançadas. Empresas locais poderão escolher hardware baseado em disponibilidade, custo e eficiência energética, sem ficarem restritas a um único fornecedor.
É importante notar que a ZML não está posicionando sua tecnologia como antagonista à Nvidia. Morin reconhece a importância do gigante de chips de IA, especialmente considerando sua ampla disponibilidade no mercado. A empresa mantém bom relacionamento com a Nvidia, que tem se preparado para o crescimento do mercado de inferência.
O mercado bilionário de inferência
O setor de inferência de IA tem atraído investimentos massivos, em uma tendência que alguns chamam de “corrida do ouro da inferência”. A ZML enfrenta competidores bem financiados como Baseten, recentemente avaliada em 13 bilhões de dólares, Inferact, dos criadores do projeto open source vLLM, e RadixArk, a empresa comercial por trás do SGLang.
O que diferencia a ZML é sua abordagem lean – uma equipe enxuta de 20 pessoas que consegue se mover rapidamente e iterar sobre o produto. A empresa levantou 20 milhões de dólares de investidores renomados, incluindo 20VC de Harry Stebbings, Xavier Niel’s Kima Ventures, e fundadores de sucesso como Solomon Hykes (Docker), além de executivos da Hugging Face.
A credibilidade de Morin, que foi VP de engenharia da Zenly antes de sua aquisição pelo Snapchat por centenas de milhões de dólares em 2017, ajudou a atrair tanto investimento quanto talento para o projeto.
Estratégia de lançamento e modelo de negócios
Diferentemente do primeiro projeto público da ZML – um framework de ML focado em inferência lançado em 2024 e atualizado em março – o ZML/LLMD não é open source. No entanto, a empresa optou por lançá-lo gratuitamente para entender melhor os padrões de uso antes de definir um modelo de monetização.
“Prefiro medir e depois gerar receita onde for mais efetivo, sem prejudicar meu crescimento estupidamente por ter sido ganancioso desde o início”, explica Morin. Essa abordagem permite que a empresa colete dados valiosos sobre como diferentes organizações utilizam a ferramenta, quais são os casos de uso mais comuns e onde estão as maiores oportunidades de valor.
Para empresas brasileiras interessadas em experimentar com IA, isso representa uma oportunidade única de testar tecnologia de ponta sem investimento inicial. Startups e empresas estabelecidas podem avaliar diferentes configurações de hardware e encontrar o melhor custo-benefício para suas necessidades específicas.
O que isso significa para o futuro da IA
O lançamento do ZML/LLMD sinaliza uma mudança importante no mercado de infraestrutura de IA. À medida que mais empresas buscam implementar soluções de inteligência artificial, a flexibilidade na escolha de hardware se torna crucial para viabilidade econômica. A capacidade de executar os mesmos modelos em diferentes chips, com desempenho otimizado, pode acelerar significativamente a adoção de IA em setores que hoje consideram os custos proibitivos.
Para o ecossistema europeu de startups de IA, o sucesso da ZML demonstra que é possível construir tecnologia de classe mundial fora dos tradicionais hubs do Vale do Silício. “Eu não poderia fazer a ZML em nenhum lugar além de Paris”, afirma Morin, destacando como o ambiente local foi fundamental para o desenvolvimento da empresa.
A tendência também aponta para um futuro onde a otimização de inferência será tão importante quanto o desenvolvimento de novos modelos. Empresas que conseguirem fazer modelos existentes rodarem de forma mais eficiente e econômica terão vantagem competitiva significativa.
Conclusão
O ZML/LLMD representa um passo importante na democratização do acesso a tecnologias de IA avançadas. Ao quebrar as barreiras entre diferentes plataformas de hardware, a startup francesa está criando oportunidades para que mais empresas possam implementar soluções de inteligência artificial de forma economicamente viável.
Para o mercado brasileiro, onde questões de custo e disponibilidade de hardware são particularmente relevantes, ferramentas como o ZML/LLMD podem ser fundamentais para acelerar a transformação digital. A possibilidade de escolher hardware baseado em critérios práticos como custo, consumo de energia e disponibilidade local, sem sacrificar desempenho, abre novas possibilidades para inovação.
Ainda é cedo para prever se o ZML/LLMD conseguirá cumprir todas as suas promessas, mas o interesse de investidores e líderes da indústria sugere que a empresa está no caminho certo. À medida que o mercado de IA continua sua expansão acelerada, soluções que reduzem custos e aumentam flexibilidade serão cada vez mais valorizadas.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria publicada em TechCrunch, disponível em https://techcrunch.com/2026/07/08/hot-french-startup-zml-releases-free-product-to-speed-inference-across-lots-of-ai-chips/.
