Introdução
Uma nova categoria de ameaça à segurança está emergindo no desenvolvimento de software, impulsionada pelo uso crescente de assistentes de programação baseados em inteligência artificial. O slopsquatting, termo que combina ‘AI slop’ (conteúdo de baixa qualidade gerado por IA) com ‘typosquatting’ (prática de registrar domínios com erros de digitação), representa um vetor de ataque sofisticado que explora as alucinações dos modelos de linguagem para comprometer a cadeia de suprimentos de software. À medida que desenvolvedores brasileiros e globais adotam ferramentas como GitHub Copilot, Amazon CodeWhisperer e outras soluções de IA para acelerar a codificação, eles inadvertidamente abrem portas para que cibercriminosos injetem código malicioso desde o primeiro dia de desenvolvimento.
Como funciona o slopsquatting
O slopsquatting representa uma evolução perigosa das técnicas tradicionais de ataque à cadeia de suprimentos de software. Diferentemente do typosquatting convencional, onde atacantes registram versões com erros de digitação de pacotes populares (como ‘reqeusts’ em vez de ‘requests’), o slopsquatting explora a tendência dos modelos de linguagem de inventar nomes de pacotes que soam plausíveis mas não existem.
Quando um desenvolvedor usa um assistente de IA para gerar código, o modelo pode sugerir dependências fictícias. Por exemplo, ao solicitar código para manipulação de arquivos cross-platform, a IA pode recomendar um pacote inexistente como ‘cross-env-extended’ ou ‘mpn-install-cross-env-file’. Esses nomes parecem legítimos e contextualmente apropriados, mas são puras alucinações do modelo.
O perigo surge quando atacantes identificam padrões nessas alucinações. Como os modelos tendem a repetir as mesmas sugestões fictícias, criminosos podem registrar esses pacotes nos repositórios públicos como npm, PyPI ou RubyGems, preenchendo-os com código malicioso. Quando desenvolvedores desavisados seguem as recomendações da IA e instalam esses pacotes, comprometem seus sistemas desde o início.
A persistência das alucinações em LLMs
Pesquisas recentes revelam que as taxas de alucinação em modelos de linguagem variam drasticamente, oscilando entre 23% e 82%, dependendo do modelo e da técnica de prompting utilizada. Mesmo o GPT-4o, considerado um dos mais avançados, mantém uma taxa mínima de 23% de alucinações, mesmo com técnicas de mitigação baseadas em prompts.
Um estudo analisou 576.000 amostras de código geradas por 30 sistemas diferentes, identificando 2,23 milhões de referências a pacotes. Impressionantes 19,7% dessas referências eram alucinações – pacotes que simplesmente não existem. O GPT-4.0 Turbo apresentou uma taxa de alucinação de 3,59%, enquanto modelos open-source como o DeepSeek 1B alcançaram 13,63%, indicando que organizações que dependem de ferramentas de IA open-source estão aproximadamente quatro vezes mais expostas a ataques de slopsquatting.
O fenômeno do ‘vibe coding’ e seus riscos
O termo ‘vibe coding’ descreve a prática crescente de desenvolvedores que confiam fortemente em assistentes de IA para gerar código, muitas vezes sem uma revisão crítica adequada. Dados recentes indicam que desenvolvedores que utilizam ferramentas de IA estimam que mais de 40% do código que commitam inclui assistência de inteligência artificial. Ainda mais preocupante: 72% dos que experimentaram essas ferramentas as utilizam diariamente.
Essa dependência crescente amplifica significativamente a superfície de ataque. Desenvolvedores pressionados por prazos apertados ou confiantes demais nas capacidades da IA podem incorporar pacotes sugeridos sem verificar sua existência ou legitimidade nos repositórios oficiais. No contexto brasileiro, onde startups e empresas de tecnologia buscam acelerar o desenvolvimento para competir globalmente, essa prática pode ser especialmente tentadora – e perigosa.
Vulnerabilidades na cadeia de suprimentos de software
A análise de 31.267 vulnerabilidades em 14.675 pacotes distribuídos por 10 linguagens de programação revelou tendências alarmantes. As vulnerabilidades reportadas estão crescendo a uma taxa anual de 98%, superando em muito o crescimento de 25% ao ano no número de pacotes open-source. Ainda mais preocupante é o aumento de 85% no tempo médio de vida das vulnerabilidades, indicando uma deterioração geral na segurança do ecossistema.
O slopsquatting agrava esse cenário ao introduzir um novo vetor que contorna as proteções tradicionais dos registros de pacotes. Enquanto plataformas como npm e PyPI implementaram salvaguardas contra typosquatting tradicional – impedindo, por exemplo, o registro de ‘crossenv’ como variação maliciosa de ‘cross-env’ – elas não conseguem identificar automaticamente pacotes com nomes completamente fictícios mas plausíveis como ameaças.
Ataques adversariais e manipulação de modelos
A situação pode piorar com o surgimento de ataques adversariais direcionados. Criminosos sofisticados podem usar técnicas como manipulação em nível de token ou envenenamento de dados de recuperação (retrieval poisoning) para forçar modelos a alucinarem pacotes específicos que eles já registraram com código malicioso. Isso transforma a aleatoriedade das alucinações em um vetor de ataque direcionado e previsível.
Implicações para o mercado brasileiro
Para o ecossistema de tecnologia brasileiro, o slopsquatting apresenta desafios únicos. Empresas que adotaram rapidamente ferramentas de IA para desenvolvimento, desde fintechs em São Paulo até startups de agtech no interior, podem estar inadvertidamente expondo seus produtos a vulnerabilidades desde a concepção. CTOs e gestores de segurança precisam repensar seus processos de revisão de código e gestão de dependências.
A pressão por produtividade e a escassez de desenvolvedores qualificados tornam as ferramentas de IA especialmente atraentes no mercado brasileiro. No entanto, sem processos adequados de verificação, essa busca por eficiência pode resultar em brechas de segurança custosas. Considerando que muitas empresas brasileiras processam dados sensíveis – desde informações financeiras em bancos digitais até dados de saúde em healthtechs – o impacto de um ataque bem-sucedido pode ser devastador.
Estratégias de mitigação e boas práticas
Organizações que utilizam assistentes de IA para desenvolvimento precisam implementar camadas adicionais de segurança. A verificação automática de nomes de pacotes contra registros oficiais deve se tornar parte obrigatória do pipeline de CI/CD. Ferramentas de análise de composição de software (SCA) precisam evoluir para detectar não apenas vulnerabilidades conhecidas, mas também pacotes suspeitos que correspondam a padrões de alucinação comuns.
Desenvolvedores devem adotar uma postura de ‘confiança zero’ em relação às sugestões de dependências feitas por IA. Antes de adicionar qualquer pacote sugerido, é essencial verificar manualmente sua existência no repositório oficial, examinar o número de downloads, a data de criação e a reputação do mantenedor. Pacotes recém-criados com nomes similares a sugestões comuns de IA devem ser tratados com extrema suspeita.
Equipes de segurança devem monitorar ativamente por instalações incomuns de pacotes e manter inteligência atualizada sobre campanhas conhecidas de slopsquatting. A implementação de políticas que exijam aprovação manual para novos pacotes, especialmente aqueles com baixo número de downloads ou criados recentemente, pode adicionar fricção benéfica ao processo de desenvolvimento.
Conclusão
O slopsquatting representa uma evolução natural e preocupante nas ameaças à cadeia de suprimentos de software, catalisada pela adoção em massa de ferramentas de IA para desenvolvimento. À medida que a fronteira entre código escrito por humanos e gerado por máquinas se torna cada vez mais tênue, novos vetores de ataque continuarão a emergir. Para o mercado brasileiro de tecnologia, que busca equilibrar inovação rápida com segurança robusta, entender e mitigar essas ameaças não é opcional – é fundamental para a sustentabilidade do ecossistema. A promessa de produtividade aumentada através da IA não deve vir ao custo de comprometer a integridade e segurança dos sistemas que construímos. Desenvolvedores, gestores e profissionais de segurança precisam trabalhar juntos para garantir que as ferramentas que aceleram nosso trabalho não se tornem as mesmas que comprometem nossa segurança.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria publicada em VentureBeat, disponível em https://venturebeat.com/security/forget-typosquatting-slopsquatting-is-the-software-supply-chain-threat-created-by-ai-coding-tools.
