Introdução
A adoção de agentes de IA em ambientes corporativos enfrenta um desafio fundamental: como garantir que esses sistemas autônomos operem com segurança quando precisam de credenciais reais – chaves de API, tokens OAuth e contas de serviço – para executar tarefas significativas? A fintech Brex desenvolveu uma abordagem inovadora para esse problema, criando uma plataforma chamada CrabTrap que inverte a lógica tradicional de segurança. Em vez de definir regras primeiro e depois tentar fazer os agentes se adequarem a elas, a empresa observa o comportamento real dos agentes em produção e deriva políticas de segurança a partir desses padrões observados.
Essa mudança de paradigma representa uma evolução importante na governança de sistemas de IA, especialmente considerando que frameworks populares como o OpenClaw, apesar de amplamente adotados, ainda não provaram sua eficácia em escala empresarial. A solução da Brex, agora disponível como código aberto, oferece lições valiosas para empresas brasileiras que buscam implementar agentes de IA de forma segura e eficiente.
O dilema da segurança versus funcionalidade
Pedro Franceschi, cofundador e CEO da Brex, identificou uma tensão fundamental no desenvolvimento de agentes de IA: quanto mais capaz você torna um agente, mais perigoso ele se torna; quanto mais seguro você o faz, menos útil ele fica. As soluções existentes para esse dilema se mostraram inadequadas para as necessidades empresariais.
Tokens de API com permissões granulares ajudam marginalmente, mas ainda podem ser mal utilizados e limitam a funcionalidade. Guardrails semânticos – baseados em contexto, habilidades ou direcionamento de prompts – são facilmente contornados por injeção de prompt, especialmente quando os agentes têm acesso à internet. Limitar agentes a acesso somente leitura ou conjuntos restritos de ferramentas os torna seguros, mas incapazes de realizar trabalho significativo.
A Brex percebeu que a camada de rede era um ponto de aplicação de políticas inexplorado. Cada requisição que um agente faz representa uma oportunidade de interceptar, analisar e tomar uma decisão sobre permissão ou bloqueio. Essa percepção levou ao desenvolvimento do CrabTrap, um proxy HTTP/HTTPS que opera na camada de transporte.
Como funciona o CrabTrap
O CrabTrap funciona como um proxy transparente que intercepta todo o tráfego de rede dos agentes. Por operar na camada de transporte, a solução é agnóstica em relação a framework, linguagem de programação e APIs específicas. Os usuários simplesmente configuram as variáveis de ambiente HTTP_PROXY e HTTPS_PROXY no ambiente do agente, e todas as requisições passam pelo proxy antes de alcançar seu destino.
A plataforma combina regras estáticas determinísticas com um sistema de LLM-as-a-judge (LLM como juiz) para requisições que fogem dos padrões conhecidos. O componente de IA só é acionado para cerca de 3% das requisições em agentes maduros – aquelas que representam endpoints desconhecidos ou formatos de requisição incomuns.
O verdadeiro diferencial está no processo de criação de políticas. Em vez de escrever regras do zero, a Brex desenvolveu um construtor de políticas que observa o comportamento real dos agentes em modo sombra, analisa o tráfego histórico de rede, amostra chamadas representativas e elabora uma política em linguagem natural que corresponde ao que o agente realmente faz. Essa abordagem de ‘observar primeiro, regular depois’ se mostrou dramaticamente mais eficaz do que começar com uma página em branco.
O sistema de avaliação e feedback contínuo
Para garantir que as políticas sejam precisas e confiáveis, a Brex construiu um sistema de avaliação que testa mudanças antes de implementá-las em produção. O CrabTrap compara entradas históricas de auditoria contra uma política rascunho e reporta exatamente quais mudanças serão feitas. Os resultados podem ser filtrados por método HTTP, URL, decisão original e status de concordância.
Todo o sistema funciona com chamadas concorrentes ao modelo de IA juiz, permitindo que milhares de requisições sejam reprocessadas em minutos, não horas. Além disso, foi desenvolvido um loop de feedback em tempo real: trilhas completas de auditoria são armazenadas em PostgreSQL e podem ser consultadas através da API administrativa e do dashboard. Quando um recurso é continuamente negado, o sistema pode notificar um humano ou outro agente para propor uma atualização de política para revisão.
Essa abordagem fecha o ciclo entre negações observadas e refinamento de políticas, criando um sistema que aprende e se adapta continuamente ao comportamento real dos agentes em produção.
Desafios técnicos e soluções implementadas
A implementação do CrabTrap enfrentou desafios significativos. A latência era uma preocupação óbvia – colocar um LLM entre um agente e cada requisição de API poderia tornar o sistema impraticavelmente lento. No entanto, isso não se materializou como um problema grave por duas razões: primeiro, o juiz de IA só é ativado em uma pequena fração das requisições, já que os agentes rapidamente se estabelecem em padrões de tráfego previsíveis que se tornam regras estáticas. Segundo, o uso de modelos pequenos e rápidos como o Claude Haiku significa que, mesmo quando o juiz é acionado, a latência adicional é negligível.
O desafio mais complexo foi lidar com injeção de prompt. Como o juiz recebe a requisição HTTP completa e todo o conteúdo é controlado pelo usuário, existe o risco de que URLs, cabeçalhos ou corpos de requisição especialmente elaborados possam manipular a decisão do juiz. A Brex resolveu isso estruturando a requisição como um objeto JSON antes de enviá-la ao modelo, garantindo que todo conteúdo controlado pelo usuário seja escapado em vez de interpolado como texto bruto.
Resultados práticos e impacto organizacional
O impacto mais significativo do CrabTrap na Brex foi o aumento da confiança organizacional. Anteriormente, havia hesitação real em implementar agentes autônomos amplamente nas operações de negócios, porque as opções existentes de guardrails não forneciam garantias suficientes. O CrabTrap mudou esse cálculo, permitindo que a empresa expandisse a implementação de agentes para mais partes do negócio e delegasse mais configuração e gerenciamento aos próprios usuários.
As políticas derivadas do tráfego se mostraram surpreendentemente robustas. A equipe esperava que o construtor de políticas produzisse apenas um ponto de partida aproximado que exigiria edição manual pesada. Na prática, apontar a plataforma para alguns dias de tráfego real produziu políticas que correspondiam ao julgamento humano na vasta maioria das requisições de teste.
Um benefício inesperado foi a visibilidade sobre o ruído que os agentes geram. A trilha de auditoria tornou isso visível pela primeira vez, permitindo que a equipe não apenas ajustasse políticas, mas também refinasse os próprios agentes, removendo ferramentas desnecessárias e eliminando categorias inteiras de requisições que desperdiçavam tempo e tokens.
O que isso significa para o mercado brasileiro
A abordagem da Brex oferece insights valiosos para empresas brasileiras que buscam implementar agentes de IA. Primeiro, demonstra que é possível superar as limitações de segurança sem sacrificar a funcionalidade dos agentes. Isso é especialmente relevante para setores regulados como finanças e saúde, onde a conformidade e a segurança são fundamentais.
Segundo, a decisão de tornar o CrabTrap open source cria oportunidades para a comunidade brasileira de desenvolvedores contribuir e adaptar a solução para necessidades locais. Empresas podem implementar e personalizar a plataforma sem depender de soluções proprietárias estrangeiras, mantendo maior controle sobre sua infraestrutura de IA.
Terceiro, a filosofia de ‘observar antes de regular’ pode ser aplicada além da segurança de agentes. Empresas brasileiras frequentemente enfrentam o desafio de adaptar práticas e tecnologias desenvolvidas em outros contextos para a realidade local. A abordagem empírica da Brex sugere que observar o comportamento real em produção pode ser mais eficaz do que tentar prever todos os cenários possíveis antecipadamente.
Evolução futura e oportunidades de desenvolvimento
O CrabTrap já atraiu atenção significativa, com mais de 700 estrelas no GitHub e interesse expresso por organizações como OpenAI e figuras influentes do Vale do Silício. A Brex identificou várias áreas para evolução futura da plataforma, incluindo funcionalidades mais profundas de autenticação como SSO e RBAC granular, fluxos de trabalho de escalonamento que permitem aos agentes solicitar permissões adicionais, e recomendações de políticas baseadas em padrões de negação.
A configuração programática através de endpoints de API para criar, bifurcar e aplicar políticas aos agentes poderia permitir que todo o ciclo de vida da política seja automatizado. Além disso, existe uma questão filosófica aberta sobre a postura correta para o CrabTrap: deve ser uma camada totalmente transparente da qual o agente não tem conhecimento, ou deve operar mais como um ‘gerente bem-intencionado’ com o qual o agente pode interagir?
Conclusão
A experiência da Brex com o CrabTrap demonstra que as barreiras técnicas para a adoção segura de agentes de IA podem ser superadas com abordagens inovadoras. Em vez de esperar que a indústria desenvolva soluções perfeitas, a empresa tomou a iniciativa de resolver o problema diretamente, criando uma ferramenta que não apenas atende suas necessidades internas, mas também beneficia toda a comunidade.
Para líderes de tecnologia brasileiros, a lição é clara: não deixe que lacunas de infraestrutura se tornem desculpas para esperar. Os bloqueadores reais para a implementação séria de agentes de IA – preocupações de segurança, falta de ferramentas, guardrails pouco claros – podem ser abordados diretamente. A abordagem empírica da Brex, combinada com a decisão de compartilhar a solução como código aberto, oferece um caminho prático para empresas que querem aproveitar o poder dos agentes de IA mantendo controle e segurança.
À medida que o ecossistema de IA continua a evoluir rapidamente, soluções como o CrabTrap representam a maturidade crescente do campo, movendo-se de experimentos isolados para implementações empresariais robustas. Para o mercado brasileiro, isso significa que o momento de investir seriamente em infraestrutura de agentes de IA não é mais uma questão de ‘se’, mas de ‘como’ – e a Brex ofereceu um blueprint valioso para seguir.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria publicada em VentureBeat, disponível em https://venturebeat.com/orchestration/brex-built-its-ai-agent-policy-by-watching-what-agents-actually-do-not-by-writing-rules-first.
