Introdução
Enquanto o mercado de inteligência artificial corre atrás de chips especializados cada vez mais caros, uma startup francesa está nadando contra a corrente com uma proposta ousada: extrair performance extrema das GPUs que as empresas já possuem. A Kog, que recentemente chamou atenção da comunidade tech internacional, promete acelerar em até 30 vezes a inferência de grandes modelos de linguagem usando otimizações de software em hardware convencional como as GPUs AMD MI300X e NVIDIA H200.
Em um cenário onde o custo e a velocidade de inferência se tornaram gargalos críticos para aplicações empresariais de IA, especialmente em workflows agentic que demandam múltiplas interações sequenciais, a abordagem da Kog pode representar uma mudança de paradigma. A startup já atraiu mais de 200 leads comerciais concretos após demonstrar velocidades de 3.000 tokens por segundo em processamento single-request – um feito que muitos consideravam impossível sem hardware especializado.
O problema real da inferência em escala
Para entender a relevância da solução da Kog, é preciso compreender o desafio atual do mercado. Empresas que implementam sistemas de IA generativa enfrentam um dilema: investir milhões em chips especializados como os da Cerebras, que teve IPO bem-sucedido em maio, ou aceitar as limitações de performance das GPUs tradicionais. Este problema é especialmente agudo em aplicações de engenharia de software assistida por IA, onde desenvolvedores usando ferramentas como o Claude Code da Anthropic frequentemente esperam horas por resultados complexos.
A própria Anthropic reconhece que velocidade vale dinheiro, cobrando um múltiplo significativo pelo Claude Fast Mode. Esta realidade criou um mercado sedento por soluções que acelerem workflows profissionais sem exigir investimentos proibitivos em nova infraestrutura. É exatamente nesta lacuna que a Kog está posicionando sua tecnologia.
A abordagem revolucionária: hackeando as leis da GPU
O CEO da Kog, Gaël Delalleau, traz uma perspectiva única para o problema. Com formação em física de estado sólido pela École Polytechnique e experiência em cibersegurança ofensiva (hacking ético), ele aplica uma mentalidade de ‘engenharia reversa profunda’ ao desafio de otimização de GPUs. “Há este mindset de entender as leis da física, e as leis da GPU, para extrair o máximo delas”, explica Delalleau.
A startup desenvolve o Kog Inference Engine (KIE), que vai muito além de otimizações superficiais. A equipe dedica semanas ou até meses para cada novo modelo de GPU, realizando pesquisa de engenharia em nível de assembly e código binário. Esta abordagem manual e intensiva em tempo contrasta com soluções mais genéricas do mercado, mas promete resultados dramaticamente superiores.
Importante notar que a Kog não está sozinha neste espaço. A também francesa ZML lançou software que contorna o CUDA da Nvidia para suportar inferência rápida em chips concorrentes. Porém, segundo Delalleau, a Kog se assemelha mais ao laboratório Hazy Research de Stanford, com foco ainda mais profundo em aceleração de GPU.
Do protótipo à realidade comercial
A demonstração inicial da Kog utilizou o Laneformer 2B, um modelo pequeno e otimizado de apenas 2 bilhões de parâmetros, agora open source. Embora impressionante tecnicamente, o mercado rapidamente sinalizou que precisa de suporte para modelos maiores e mais versáteis. “Aprendemos que nossos clientes prospectivos não estão preparados para fazer fine-tuning de modelos pequenos”, admite Delalleau.
Esta descoberta levou a empresa a pivotar seu foco para acelerar modelos grandes estabelecidos no mercado. Os primeiros parceiros de design incluem empresas que permitem aos usuários gerar jogos e aplicações através de prompts – casos de uso onde cada segundo economizado se traduz diretamente em receita adicional. A engenharia de software continua sendo vista como o primeiro grande mercado, dado o custo atual de espera em ferramentas populares de coding assistido por IA.
Desafios técnicos e limitações práticas
A abordagem ultra-especializada da Kog tem suas desvantagens. Com uma equipe de apenas 11 pessoas, a startup enfrenta limitações práticas sobre quantos chips e modelos pode suportar simultaneamente. Cada nova GPU requer um investimento significativo de tempo em pesquisa e desenvolvimento específico, criando um gargalo natural para expansão.
Para contornar esta limitação no longo prazo, a Kog planeja alimentar sua metodologia em pipelines baseados em agentes que automatizem parte do processo de otimização. Esta evolução será crucial para escalar o negócio e suportar o ecossistema diversificado de hardware que existe no mercado.
O contexto europeu e a soberania tecnológica
O timing da Kog é particularmente interessante no contexto europeu. Com a União Europeia buscando construir capacidades próprias em IA e hardware, startups que maximizam o uso de infraestrutura existente ganham relevância estratégica. A empresa já conta com suporte da Scaleway (principal provedor de cloud francês) e financiamento da Bpifrance e do programa French Tech 2030.
Esta dimensão de soberania tecnológica não é apenas simbólica. Para empresas europeias preocupadas com dependência de tecnologia americana ou asiática, soluções que extraem mais performance de hardware já instalado representam uma alternativa atraente para manter competitividade sem aumentar dependências externas.
Implicações para o mercado brasileiro
Para o ecossistema brasileiro de tecnologia, as inovações da Kog trazem perspectivas interessantes. Empresas locais que investiram em infraestrutura de GPU para projetos de IA, mas encontram limitações de performance, poderiam se beneficiar significativamente desta abordagem. Considerando o alto custo de importação de hardware especializado no Brasil, soluções que maximizam o retorno sobre investimentos já realizados têm apelo óbvio.
Além disso, a filosofia de ‘fazer mais com menos’ ressoa com a realidade de muitas empresas brasileiras que precisam ser criativas com recursos limitados. Se a Kog conseguir entregar sua promessa de acelerar modelos grandes em 10x ou mais, isso poderia democratizar o acesso a aplicações avançadas de IA para um conjunto muito maior de empresas no país.
O que esperar nos próximos meses
Delalleau projeta que até setembro a empresa terá implementado seu primeiro modelo grande com aceleração de 10x, um marco crucial para demonstrar tração comercial e viabilizar uma rodada Series A de financiamento. Este será o verdadeiro teste para a tecnologia da Kog: provar que a abordagem funciona não apenas em demos controladas com modelos pequenos, mas em implementações reais com LLMs de escala empresarial.
O sucesso ou fracasso desta empreitada terá implicações significativas para o debate sobre o futuro da infraestrutura de IA. Se a Kog conseguir cumprir suas promessas, isso questionará a narrativa dominante de que apenas hardware especializado pode entregar performance adequada para aplicações modernas de IA.
Conclusão
A Kog representa uma aposta contraintuitiva mas potencialmente transformadora no mercado de infraestrutura para IA. Enquanto gigantes como Nvidia e startups como Cerebras apostam em hardware cada vez mais especializado, esta pequena equipe francesa acredita que ainda há muito suco a ser espremido das GPUs tradicionais através de engenharia de software extremamente sofisticada.
Para empresas que já investiram pesadamente em infraestrutura de GPU, a promessa é tentadora: multiplicar a performance sem comprar novo hardware. Para o mercado como um todo, o sucesso da Kog poderia significar uma democratização do acesso a inferência de alta performance, especialmente crítica para workflows agentic que são o futuro das aplicações empresariais de IA. Os próximos meses serão decisivos para descobrir se esta visão ousada pode se tornar realidade comercial.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria “Kog is going deeper to squeeze more inference out of GPUs” publicada em TechCrunch, disponível em https://techcrunch.com/2026/08/14/kog-is-going-deeper-to-squeeze-more-inference-out-of-gpus/.
