Introdução
Uma nova pesquisa da VentureBeat Research revela uma realidade preocupante no mundo corporativo: as empresas implantaram agentes de inteligência artificial antes de estabelecer os controles necessários para gerenciá-los adequadamente – e fizeram isso conscientemente. O estudo, que entrevistou 573 profissionais de empresas com mais de 100 funcionários, mostra que entre 57% e 68% das organizações planejam trocar fornecedores ou adicionar novos nos próximos 12 meses, indicando uma corrida para corrigir problemas de governança que já deveriam ter sido resolvidos.
A pesquisa analisou cinco camadas críticas de controle necessárias para que uma empresa possa confiar em um agente de IA: identidade, avaliação, telemetria de custos, camada de contexto e orquestração. Os resultados mostram lacunas significativas em todas essas áreas, com implicações diretas para segurança, confiabilidade e eficiência operacional.
A realidade dos ‘agentes’ nas empresas
Um dos achados mais reveladores da pesquisa é que a maioria dos sistemas chamados de ‘agentes’ nas empresas são, na verdade, chatbots simples com um rótulo mais sofisticado. Segundo o estudo, 71% das empresas relataram que apenas um quarto ou menos de seus ‘agentes’ implantados conseguem completar trabalhos de múltiplas etapas de forma autônoma. Apenas 10% das organizações afirmaram que agentes verdadeiros representam a maioria de seus sistemas em produção.
Essa distinção é fundamental porque chatbots de prompt único, com humanos revisando cada resposta, não precisam dos controles sofisticados que agentes autônomos exigem. Um agente verdadeiro, capaz de executar tarefas complexas em múltiplas etapas, necessita de todos os cinco controles mencionados – e a maioria das empresas sequer consegue distinguir qual tipo de sistema está rodando.
Autonomia sem confiança: o problema das avaliações
A pesquisa revelou uma tendência alarmante: dois terços das empresas já permitem ou estão ativamente trabalhando para permitir que agentes façam mudanças em código ou sistemas de produção baseados apenas em avaliações automatizadas, sem revisão humana. O problema? Apenas 5% confiam plenamente nessas avaliações.
Ainda mais preocupante é o fato de que metade das empresas relatou ter implantado um agente que passou nas avaliações internas mas causou falhas em produção no último ano. Isso sugere um descompasso perigoso entre os testes internos e a realidade operacional, criando riscos significativos para a experiência do cliente e a integridade dos sistemas.
Segurança comprometida: o compartilhamento de credenciais
A questão da identidade e segurança dos agentes apresenta vulnerabilidades críticas. A pesquisa descobriu que 69% das empresas permitem que pelo menos alguns de seus agentes compartilhem credenciais – múltiplos agentes operando sob uma única chave de API ou conta de serviço.
As consequências são mensuráveis: organizações que permitem compartilhamento de credenciais experimentaram incidentes de segurança ou quase-incidentes em 63,5% dos casos, comparado a 40,9% nas empresas onde cada agente tem sua própria identidade com escopo definido. A solução é clara: cada agente deve ter sua própria identidade com permissões específicas, começando pelos que interagem com sistemas de produção.
Infraestrutura subutilizada e custos não rastreados
O estudo também revelou ineficiências significativas na infraestrutura de IA. Mais de 80% das empresas que operam suas próprias GPUs relataram utilização de 50% ou menos, representando um desperdício massivo do hardware mais caro disponível. Apenas 44% das organizações rastreiam rigorosamente os custos reais e o retorno de sua infraestrutura de IA.
Para empresas brasileiras, onde o custo de hardware especializado é ainda mais elevado devido a impostos e logística, essa subutilização representa um problema financeiro significativo. A prioridade não deveria ser comprar mais GPUs, mas sim otimizar a utilização e entender o custo por carga de trabalho dos recursos já disponíveis.
Contexto inconsistente: quando agentes respondem com confiança baseados em dados incorretos
Um dos problemas mais comuns identificados foi a questão do contexto empresarial. Cinquenta e sete por cento das empresas rastrearam respostas confiantes mas incorretas de agentes nos últimos seis meses até dados empresariais ausentes ou inconsistentes – métricas erradas, definições desatualizadas, documentos faltando. A maioria viu isso acontecer mais de uma vez.
Esse problema é particularmente relevante para empresas que dependem de agentes para atendimento ao cliente ou tomada de decisões internas. Antes de escalar o número de agentes, as organizações precisam governar as definições e dados dos quais esses agentes dependem, começando por métricas e entidades críticas do negócio.
O mercado em transição
A pesquisa indica que nenhuma camada de controle tem um fornecedor dominante estabelecido. Os padrões atuais são as ferramentas integradas que vêm com as grandes plataformas de IA que as empresas já utilizam. A intenção de mudança é mais alta na camada de orquestração, onde 68% planejam adotar, adicionar ou substituir plataformas nos próximos 12 meses, com 34% planejando mudanças no próximo trimestre.
Para o mercado brasileiro, isso representa uma oportunidade. Com empresas globalmente insatisfeitas com suas soluções atuais e dispostas a mudar, fornecedores locais que entendam as necessidades específicas de compliance e governança do mercado nacional podem encontrar espaço para crescer.
Implicações para o mercado brasileiro
Os achados desta pesquisa têm implicações diretas para CIOs e líderes de tecnologia no Brasil. Primeiro, a corrida para implementar agentes de IA sem controles adequados não é exclusiva de mercados mais maduros – é provável que empresas brasileiras estejam enfrentando desafios similares.
Segundo, com a Lei Geral de Proteção de Dados (LGPD) e regulamentações setoriais específicas, empresas brasileiras precisam ser ainda mais cuidadosas com questões de identidade, segurança e governança de dados. Um agente compartilhando credenciais ou acessando dados incorretos pode resultar não apenas em falhas operacionais, mas também em violações regulatórias com consequências legais.
Terceiro, a subutilização de infraestrutura cara é particularmente problemática no Brasil, onde os custos de hardware especializado são significativamente maiores. Empresas precisam priorizar a otimização e medição rigorosa de custos antes de expandir sua infraestrutura.
Recomendações práticas
Com base nos achados da pesquisa, empresas que estão implementando ou expandindo o uso de agentes de IA devem considerar as seguintes ações prioritárias:
1. Estabelecer identidades únicas e com escopo definido para cada agente, especialmente aqueles que interagem com sistemas de produção.
2. Implementar processos de avaliação que testem contra resultados de produção reais, não apenas benchmarks internos, antes de remover a supervisão humana.
3. Criar governança rigorosa para os dados e definições que alimentam os agentes, garantindo consistência e atualização constante.
4. Implementar telemetria detalhada de custos para entender o verdadeiro custo-benefício de cada carga de trabalho de IA.
5. Distinguir claramente entre chatbots simples e agentes autônomos verdadeiros, aplicando controles apropriados para cada tipo.
Conclusão
A pesquisa da VentureBeat Research expõe uma verdade inconveniente: na pressa para adotar tecnologias de IA, muitas empresas pularam etapas críticas de governança e controle. Agora, enfrentam a necessidade de retrofitar esses controles enquanto os sistemas já estão em produção, criando riscos operacionais e de segurança significativos.
Para o mercado brasileiro, isso serve como um alerta importante. Em vez de repetir os erros de mercados mais maduros, empresas locais têm a oportunidade de implementar agentes de IA com os controles adequados desde o início. Com entre 57% e 68% das empresas globais planejando mudanças de fornecedores no próximo ano, o momento é propício para soluções que priorizem governança, segurança e eficiência operacional desde a concepção.
A mensagem é clara: agentes de IA podem transformar operações empresariais, mas apenas quando implementados com os controles adequados. A alternativa – descoberta por muitas empresas da maneira mais difícil – é um ciclo custoso de correções, incidentes de segurança e perda de confiança tanto interna quanto dos clientes.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria publicada em VentureBeat, disponível em https://venturebeat.com/technology/venturebeat-research-where-enterprise-ai-agent-governance-hasnt-caught-up.
