Introdução
A democratização do desenvolvimento de software através da inteligência artificial trouxe uma nova prática conhecida como ‘vibe-coding’ – a criação de aplicações completas usando ferramentas de IA sem escrever uma única linha de código manualmente. Embora essa abordagem permita que qualquer pessoa crie software personalizado rapidamente, ela está gerando uma onda de aplicações com vulnerabilidades graves de segurança, expondo dados sensíveis e criando riscos significativos para empresas e usuários.
O termo ‘vibe-coding’ refere-se ao processo de conversar com assistentes de IA como Claude, GPT ou Copilot para gerar código completo de aplicações, confiando inteiramente na capacidade da IA de produzir software funcional. Essa prática, que parecia revolucionária há poucos meses, agora revela seu lado sombrio: aplicações aparentemente funcionais, mas repletas de falhas de segurança que podem comprometer dados corporativos, informações médicas e registros financeiros.
Os riscos reais do desenvolvimento sem revisão
Bob Starr, um gerente de projetos do setor de tecnologia, vivenciou na prática os perigos do vibe-coding. Ele criou o site ‘Boomberg’, que mostra quanto dinheiro público dos EUA vai para empresas de tecnologia, e o colocou no ar imediatamente após sua criação. Meses depois, descobriu uma vulnerabilidade crítica de SQL injection que poderia permitir a atacantes ler ou alterar dados indevidamente. ‘Foi uma completa negligência da minha parte. Um ponto cego total no meu processo de aprender essa nova tecnologia’, admitiu Starr.
Casos similares se multiplicam pelo mercado. Jer Crane, fundador da PocketOS, relatou que um agente de codificação IA apagou completamente o banco de dados de produção de sua empresa. Joe Procopio, empreendedor serial e ex-desenvolvedor, criou uma aplicação web para demonstrações privadas que foi rapidamente comprometida por hackers, forçando-o a voltar aos métodos tradicionais de apresentação via Zoom.
O caso mais preocupante ocorreu com Matt Schlicht, que lançou a rede social Moltbook, construída inteiramente para agentes de IA sem escrever uma única linha de código. Pesquisadores da empresa de segurança Wiz descobriram que todo o banco de dados de produção estava completamente exposto, revelando dezenas de milhares de endereços de e-mail e mensagens privadas. A empresa de cibersegurança Red Access encontrou aproximadamente 5.000 aplicações publicamente acessíveis construídas com ferramentas populares de vibe-coding sem autenticação, sendo que cerca de 2.000 delas aparentavam vazar dados sensíveis incluindo informações médicas, financeiras, documentos estratégicos e logs de conversas de chatbots.
A mudança de paradigma no desenvolvimento corporativo
Gabriel Bernadett-Shapiro, cientista de pesquisa em IA da SentinelOne, oferece uma perspectiva equilibrada: ‘Minha visão central é que o vibe-coding não é ruim porque amadores podem construir software. Essa é na verdade a parte boa’. O perigo real, segundo ele, surge quando uma aplicação pessoal se transforma em software empresarial que armazena dados compartilhados sem que ninguém perceba essa transição crítica.
A distinção é fundamental: aplicações locais para rastrear enxaquecas, refeições ou entregas de pacotes têm um perfil de risco completamente diferente de sistemas que lidam com logs de clientes, dados médicos, registros financeiros ou documentos internos. ‘Esses precisam ser mantidos em um padrão diferente. Mesmo que tenham sido construídos por uma pessoa em uma tarde. Mesmo que o software que criou o software tenha sido trivial. No momento em que toca dados pessoais de outras pessoas, o padrão muda’, enfatiza Bernadett-Shapiro.
Jack Cable, CEO e cofundador da Corridor, plataforma de segurança construída para desenvolvimento de software nativo em IA, concorda que o vibe-coding é excelente para coisas de menor risco, como protótipos ou rastreadores de fitness que não são super sensíveis. Mas registros financeiros merecem mais escrutínio, assim como qualquer coisa na internet pública. ‘Você está expondo seus próprios dados ou de outras pessoas? Pense no modelo de ameaça e, se não tiver certeza se algo que está fazendo é seguro, melhor prevenir do que remediar.’
As armadilhas da confiança excessiva em IA
Um dos aspectos mais perigosos do vibe-coding é a falsa sensação de segurança que as ferramentas de IA podem transmitir. Quando um assistente de IA afirma que o código é seguro, é fácil acreditar sem questionar. Em uma sessão típica de vibe-coding, nada para automaticamente para verificar a segurança, a menos que você tenha instalado algo específico para isso – o que a maioria dos desenvolvedores casuais não faz.
Embora existam ferramentas de segurança disponíveis, elas precisam ser invocadas manualmente. O Claude Code possui um comando /security-review que verifica vulnerabilidades, mas você precisa solicitá-lo explicitamente. Existe uma versão automática, mas apenas se você configurá-la para executar em pull requests antecipadamente, algo que a maioria dos construtores casuais não faz. O Codex da OpenAI tem um agente de segurança integrado que verifica commits conforme chegam, mas é direcionado para desenvolvedores com fluxos de trabalho reais de controle de versão, não para alguém conversando uma aplicação até ela existir.
Cable alerta que ‘muita segurança é contextual’, então embora não faça mal executar a própria revisão de um agente de codificação, ele adverte contra ter uma falsa sensação de segurança, especialmente quando o agente não entende seu modelo de ameaça ou você não forneceu a orientação correta.
O problema crítico da autenticação e exposição de dados
Bernadett-Shapiro identifica que sua maior preocupação não é código com bugs gerado por IA, mas a falta de autenticação – algo que desenvolvedores podem não considerar quando fazem a transição de uma aplicação que executam localmente para a nuvem com várias opções de configuração que não compreendem, levando à exposição de dados sensíveis. Aplicações que funcionam perfeitamente em ambiente local, quando colocadas na nuvem sem as devidas proteções, podem ser como deixar uma caixa de segredos aberta na calçada.
A IA pode ser eficaz em encontrar bugs quando solicitada. Houve melhorias em modelos como o Mythos da Anthropic, que pode tanto encontrar vulnerabilidades para atacar quanto ser usado para fortalecer aplicações que vibe-coders estão construindo. O GPT-5.5-Cyber, ou mesmo os modelos base de outras aplicações, podem avaliar a segurança e identificar problemas em uma aplicação que até mesmo um desenvolvedor habilidoso poderia ter negligenciado. No entanto, as pessoas podem não entender as compensações de segurança que estão fazendo ou até ignorar avisos como risco aceitável.
Construindo com segurança em mente
Alguns desenvolvedores estão adotando abordagens mais conscientes. Jeff Rothblum, especialista em assuntos governamentais, criou uma aplicação com vibe-coding para lidar com montanhas de entrada de dados tediosa, mas com segurança em mente desde o início. Ele considerou que informações a aplicação mantém, quão sensíveis são e o que poderia acontecer se fossem expostas.
Rothblum desenvolveu uma ferramenta que extrai links e prazos em um único painel e usa um LLM para pré-preencher cada formulário, permitindo que usuários apenas revisem e editem antes de enviar. Consciente dos riscos por não ter escrito o código pessoalmente, ele implementou várias salvaguardas: executa revisões regulares de segurança no Claude, mantém dados de usuários localmente em vez de em seus servidores e está construindo proteções de retenção mais rigorosas.
Sua aplicação limpa o navegador e é transparente sobre o envio de dados para o Claude, incluindo links para sua política de retenção. Ele está trabalhando em uma versão onde nada que um usuário digite é armazenado pela IA, mesmo brevemente, e uma versão separada que permitiria aos usuários rotear tudo através de seu próprio LLM em vez de sua instância do Claude. ‘Estou feliz com coisas open-source e estou feliz com coisas efêmeras, mas todo o resto meio que me assusta’, admite.
O que isso significa para o futuro do desenvolvimento
A realidade é que engenheiros e até equipes de vendas e marketing em grandes empresas estão agora enviando muito mais código escrito por agentes do que antes. As equipes de segurança precisam de visibilidade básica sobre como os agentes estão sendo usados, bem como salvaguardas que sejam aplicadas – seja através de skills ou produtos como o que a Corridor vende, que visam parar falhas antes mesmo do código ser escrito.
Alguma estrutura de apoio está começando a surgir. A OWASP, organização sem fins lucrativos por trás de muitos padrões de segurança web, publicou um padrão de verificação de segurança de IA voltado para organizações. Empresas como Trail of Bits começaram a lançar ‘skills’, pacotes de instruções complementares que direcionam um agente de codificação para tarefas específicas de segurança, como sinalizar configurações padrão inseguras ou senhas codificadas antes do envio.
No entanto, skills também podem ser uma faca de dois gumes, pois skills maliciosas também existem. Jason Meller da 1Password examinou a skill mais baixada em um registro popular de skills OpenClaw e descobriu que ela direcionava usuários a instalar uma dependência que acabou sendo maliciosa. O ambiente ainda é selvagem e pode ser difícil dizer se uma skill fortalecerá sua aplicação ou entregará suas credenciais a um atacante.
Conclusão
O vibe-coding representa uma mudança fundamental na forma como o software é produzido. Como observa Cable, ‘literalmente da noite para o dia, a maneira como a maioria das empresas produz software mudou completamente’. Embora existam razões para otimismo – os próprios modelos são cada vez mais construídos em uma pilha memory-safe que elimina classes inteiras de vulnerabilidades – a responsabilidade permanece com desenvolvedores e organizações.
Para indivíduos e empresas que abraçam o vibe-coding, as diretrizes são claras: considere cuidadosamente que dados a aplicação armazena e tem acesso, e o que poderia dar errado. Peça para construir com segurança em mente e execute revisões de código após cada mudança, incluindo os patches que a própria IA escreve. Preste atenção extra antes de mover qualquer coisa do seu dispositivo para a nuvem ou dar acesso a dados sensíveis ou contas.
A diferença entre um projeto divertido e uma história de horror começa com saber quais perguntas fazer. Em um mundo onde a IA democratiza o desenvolvimento de software, a segurança não pode ser uma reflexão tardia – ela precisa ser parte integral do processo desde o primeiro prompt.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria publicada em The Verge, disponível em https://www.theverge.com/ai-artificial-intelligence/950844/vibe-coding-security-risks-apps.
