Introdução
À medida que empresas concedem mais autonomia aos agentes de inteligência artificial – permitindo que planejem, decidam e executem ações em múltiplos sistemas sem aprovação humana para cada etapa – uma questão crítica emerge no centro de toda revisão arquitetural: quando um agente tenta executar uma ação para a qual nunca foi autorizado, o que efetivamente o impede? Esta pergunta não é apenas teórica; ela define o futuro da governança corporativa em um mundo onde sistemas de IA operam com crescente independência.
O desafio é particularmente relevante no contexto brasileiro, onde regulamentações como a LGPD e requisitos de compliance setoriais exigem controle rigoroso sobre o acesso e manipulação de dados. Para executivos de tecnologia, gestores de risco e profissionais de compliance, entender como implementar governança efetiva para agentes autônomos tornou-se uma prioridade estratégica.
O paradoxo da autonomia versus controle
Agentes de IA são projetados para serem inteligentes e autônomos, capazes de tomar decisões contextuais em tempo real. No entanto, essa mesma autonomia que os torna valiosos também os torna imprevisíveis. Considere uma regra aparentemente simples: ‘nunca abra a porta do carro’. Seguida literalmente, um agente nunca poderia entrar ou sair do veículo. Mas se o contexto mudar – o carro sofreu um acidente, há fogo, alguém está ferido e precisa sair – a regra desejada é exatamente o oposto.
Este exemplo ilustra por que as abordagens tradicionais de governança, baseadas em políticas estáticas e revisões prévias, são inadequadas para sistemas autônomos. Os agentes precisam de regras inteligentes que considerem o contexto do momento, pois eles não exercem julgamento crítico sobre suas próprias ações da mesma forma que humanos fariam.
Por que guardrails no nível do agente não são suficientes
A tendência natural é adicionar camadas de proteção ao redor do agente: instruções detalhadas, políticas complexas e sistemas de monitoramento. Embora esses mecanismos sejam importantes, eles compartilham uma limitação estrutural fundamental: dependem da previsibilidade do comportamento do agente.
Controles na camada do agente são tão confiáveis quanto a saída do agente é previsível – e autonomia é precisamente a propriedade que torna essa saída difícil de prever. Governança que depende de revisar uma ação antes que ela aconteça simplesmente não consegue acompanhar um sistema que age em milissegundos, através de múltiplos sistemas simultaneamente.
Para empresas brasileiras que operam em setores regulados como financeiro, saúde ou varejo, onde o vazamento de dados pode resultar em multas significativas e danos reputacionais, essa abordagem representa um risco inaceitável.
A camada de dados como ponto de enforcement
A solução está em tornar a governança executável e aplicá-la onde os agentes realmente realizam seu trabalho: na camada operacional de dados, no contexto e exatamente no momento em que as ações ocorrem. Esta abordagem representa uma mudança fundamental na forma como pensamos sobre controle de sistemas autônomos.
Agentes criam valor ao interagir com dados – consultando, recuperando, transformando e, cada vez mais, agindo sobre eles. Uma política que determina que um agente não deve acessar determinada classe de dados só é significativa se o sistema puder negar esse acesso no momento exato em que o agente o solicita.
Quando a governança vive na camada de dados, ela se mantém independentemente de como o agente foi construído ou como se comporta, porque o controle é uma propriedade do próprio banco de dados, não uma promessa feita pelo agente. É a diferença entre esperar que um ator permaneça dentro dos limites e construir limites que ele não pode ultrapassar desde o início.
Implementando controles práticos para agentes autônomos
Os controles necessários para tornar isso realidade são, em grande parte, mecanismos que muitas empresas já executam na camada de dados: controle de acesso baseado em papéis e atributos, segurança em nível de linha e coluna, classificação e mascaramento de dados, política como código e trilhas de auditoria completas.
O que muda com os agentes não é o mecanismo em si, mas quem o mecanismo precisa reconhecer. O gerenciamento de identidade deve tratar o agente como um principal por direito próprio, com sua própria identidade e um propósito declarado quando a sessão é iniciada. Uma vez que o propósito está vinculado à identidade, o motor de políticas pode avaliá-lo da mesma forma que avalia papel ou departamento hoje.
Na prática, isso se traduz em nove controles essenciais, agrupados em três imperativos:
Aplicar controles em tempo real
Primeiro, é necessário implementar controle de acesso baseado em papéis e atributos aplicado no momento da consulta, tanto para agentes quanto para usuários. Isso inclui mascaramento dinâmico de colunas orientado pelo mesmo caminho de política e tratamento da identidade do agente como um principal de primeira classe, com propósito declarado vinculado no início da sessão e o usuário atuante preservado.
Visibilidade e comprovação
O segundo conjunto de controles foca em classificação e marcação que orientam as políticas, registro de auditoria em nível de sessão que registra qual agente atuou, para qual usuário e sob qual propósito declarado, além de linhagem através de pipelines para que um resultado possa ser rastreado até a solicitação que o produziu.
Unificação e fortalecimento
Por fim, é essencial ter gerenciamento de políticas centralizado e portável, criptografia em repouso e em trânsito, e aplicação consistente em ambientes on-premise, cloud e soberanos ou isolados – uma consideração particularmente importante para empresas brasileiras que precisam manter dados sensíveis dentro das fronteiras nacionais.
O conceito de propósito declarado
Um elemento chave desta abordagem é o conceito de ‘propósito declarado’. Quando um agente inicia uma sessão, ele deve declarar explicitamente qual é seu objetivo – por exemplo, ‘processar solicitações de reembolso’ ou ‘gerar relatório de vendas mensais’. Esse propósito se torna um atributo que a camada de acesso já entende, avaliado no mesmo caminho de política que papel e segurança em nível de linha.
O mecanismo de aplicação não muda. O que muda é que o propósito do agente faz parte do que é avaliado e parte do que o registro comprova posteriormente. Isso permite que as organizações mantenham controle granular sobre o que cada agente pode fazer, mesmo quando operam com alto grau de autonomia.
Implicações para o mercado brasileiro
Para o mercado brasileiro, essa abordagem oferece várias vantagens significativas. Primeiro, permite que empresas adotem agentes de IA de forma mais rápida e segura, pois as equipes de segurança, risco e liderança confiam no modelo operacional subjacente. Em vez de ser um obstáculo à inovação, a governança robusta torna-se um facilitador.
Segundo, a abordagem baseada em dados alinha-se naturalmente com requisitos regulatórios existentes. Empresas que já implementam controles de acesso e auditoria para compliance com LGPD podem estender esses mesmos mecanismos para governar agentes de IA, sem precisar criar uma infraestrutura completamente nova.
Terceiro, para setores altamente regulados como financeiro e saúde, onde a soberania de dados é crítica, ter controles aplicados diretamente na camada de dados – especialmente quando construídos sobre tecnologias open source como PostgreSQL – oferece o nível de transparência e controle necessário para colocar agentes em produção.
O futuro da governança de IA autônoma
À medida que sistemas agênticos continuam evoluindo, tornando-se mais capazes e autônomos, a questão não é se devemos desacelerar a adoção, mas sim como implementar controles que permitam mover-se agressivamente mantendo a segurança. Empresas que aplicam governança na camada de dados podem fazer exatamente isso, porque a proteção de seus dados é mais do que apenas pensamento positivo – é uma realidade técnica aplicada.
O objetivo não é impedir que agentes realizem trabalho útil, mas definir claramente até onde um agente pode ir, o que pode tocar, o que pode mudar, o que requer escalonamento e como a organização pode reconstruir eventos se algo der errado. Governados dessa forma, os agentes são identificados, delimitados, monitorados e auditáveis.
Conclusão
A governança de agentes de IA autônomos representa um dos desafios mais complexos e urgentes para empresas que buscam aproveitar o potencial transformador da inteligência artificial. A solução não está em tentar prever ou controlar cada ação do agente no nível da aplicação, mas em implementar controles robustos e executáveis onde realmente importa: na camada de dados.
Para organizações brasileiras, essa abordagem oferece um caminho claro para adotar IA de forma responsável e em conformidade com regulamentações locais. Ao tratar agentes como principais de primeira classe no sistema de identidade, vincular propósito declarado às sessões e aplicar políticas dinamicamente no momento do acesso aos dados, as empresas podem liberar o poder da automação inteligente sem comprometer segurança ou compliance.
O futuro pertence às organizações que conseguirem equilibrar autonomia com controle, inovação com governança. E esse equilíbrio, como vimos, vive na camada de dados.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria “When agents act on their own, governance has to live in the data layer” publicada em VentureBeat, disponível em https://venturebeat.com/security/when-agents-act-on-their-own-governance-has-to-live-in-the-data-layer.
