Introdução
A promessa mais ambiciosa da indústria de inteligência artificial atualmente é que os sistemas de IA logo serão capazes de melhorar a si mesmos, praticamente sem supervisão humana. Com LLMs já escrevendo código, gerando dados sintéticos para treinamento e otimizando os chips em que rodam, as previsões sobre progresso explosivo da IA sugerem que a chamada “melhoria recursiva” está próxima. No entanto, um novo estudo liderado por pesquisadores da Universidade de Princeton traz uma perspectiva mais realista: os agentes de IA ainda não são capazes de conduzir pesquisa científica de forma autônoma, especialmente quando se trata de investigações abertas que exigem criatividade e julgamento crítico.
O experimento que testou os limites da IA
A equipe de pesquisadores, liderada por Peter Kirgis e Sayash Kapoor de Princeton, desenvolveu um método inovador chamado “avaliação sombra” para testar as capacidades de pesquisa dos agentes de IA. O experimento consistiu em dar ao Claude Opus 4.8 da Anthropic, rodando no software open-source OpenClaw, a tarefa de responder questões de pesquisa de dois artigos inéditos submetidos à prestigiosa conferência NeurIPS 2026.
Os agentes receberam recursos substanciais: seis dias de prazo, US$ 3.000 em créditos de API da Anthropic, orçamento de GPU para executar experimentos, seus próprios computadores virtuais e acesso completo à internet. A primeira questão investigava se as “personas” de um modelo de linguagem poderiam ser controladas editando seus pesos (os bilhões de números que armazenam tudo que o modelo aprende durante o treinamento). A segunda perguntava como projetar um detector que identificasse quando um modelo que faz previsões baseadas em planilhas se tornou não confiável.
O resultado foi claro: ambos os artigos produzidos pelos agentes foram rejeitados pelos autores originais, que os avaliaram como fariam com qualquer submissão para uma conferência acadêmica.
Capacidade técnica versus criatividade científica
O estudo revelou uma dicotomia interessante nas capacidades dos agentes de IA. Por um lado, eles demonstraram competência técnica impressionante: revisaram literatura científica, executaram centenas de experimentos e compilaram resultados de forma sistemática. “Os agentes foram capazes de realizar toda a engenharia necessária para conduzir a pesquisa”, observaram os pesquisadores.
Por outro lado, Kapoor destaca que “os agentes foram inequivocamente ruins em realizar a pesquisa em si”. Eles executaram experimentos bizarros, em alguns casos testando suas hipóteses em conjuntos de dados sintéticos minúsculos, tiveram dificuldade em escrever de forma inteligível sobre seu trabalho e não fizeram nenhuma contribuição nova para seus campos. “Os artigos não chegaram nem perto do padrão de qualidade de uma conferência de IA de alto nível”, afirma.
As limitações fundamentais identificadas
O estudo identificou várias limitações críticas nos agentes de IA quando se trata de pesquisa científica autônoma. Primeiro, eles demonstraram falta de criatividade e julgamento necessários para conduzir pesquisa de ponta. Não exploraram suficientemente diferentes ideias e se comprometeram muito rapidamente com abordagens não promissoras.
Embora os agentes tenham desenvolvido hipóteses novas e ambiciosas semelhantes às dos autores originais, eles as rejeitaram com base em dados muito limitados. Além disso, não conseguiram retroceder quando suas abordagens falhavam. Podiam fazer pequenos ajustes, mas eram incapazes de repensar fundamentalmente sua metodologia ou tentar novas abordagens do zero.
Outro problema significativo foi a incapacidade de incorporar feedback de subagentes ou ferramentas externas de revisão de IA. Em vez de revisar sua metodologia, os agentes simplesmente estreitavam suas alegações e adicionavam ressalvas. Também não conseguiram usar recursos eficientemente, como tokens, poder computacional e tempo, e tiveram dificuldade em seguir instruções sobre aspectos como quanto tempo dedicar a diferentes fases da pesquisa ou o comprimento do artigo.
Por que a IA falha em pesquisa aberta
Kapoor sugere que a razão pela qual os modelos de IA são bons em engenharia de pesquisa, mas não em pesquisa aberta, pode estar relacionada à forma como são treinados. Os modelos se tornam proficientes em tarefas que podem ser praticadas através de um regime de treinamento chamado aprendizado por reforço, que é mais fácil de aplicar a tarefas cujo sucesso pode ser verificado automaticamente.
“Mas é mais difícil criar ambientes para treinar esses modelos quando a própria tarefa é aberta”, explica Kapoor. Essa limitação fundamental sugere que o caminho para IA capaz de conduzir pesquisa científica autônoma pode ser mais longo e complexo do que muitos preveem.
O que isso significa para o futuro da IA
Os resultados deste estudo têm implicações significativas para as previsões sobre melhoria recursiva da IA. Empresas como Anthropic e OpenAI têm promovido agressivamente a ideia de que estamos próximos de sistemas de IA que podem acelerar seu próprio desenvolvimento. Em junho, a Anthropic publicou um post intitulado “Quando a IA Constrói a Si Mesma”, mapeando seu progresso em direção a modelos que aceleram seu próprio desenvolvimento. Em julho, a OpenAI anunciou que seu novo modelo GPT-5.6 Sol havia ajudado no pós-treinamento de um modelo menor, economizando semanas de trabalho dos pesquisadores.
No entanto, Jack Clark, cofundador da Anthropic, escreveu em seu newsletter Import AI que os resultados do estudo ecoam o que a empresa encontrou internamente ao tentar automatizar alguns aspectos da pesquisa em segurança de IA. “Há uma certa ausência de criatividade valiosa e intuitiva nos sistemas de IA de hoje, e embora sejam engenheiros extraordinariamente capazes, parecem ter uma certa propriedade de pensamento mecânico e formulaico que pode impedi-los de serem bons pesquisadores”, escreveu ele, chamando a falta de criatividade dos sistemas de IA de um “sinal pessimista para cronogramas curtos de melhoria recursiva”.
Implicações para o mercado brasileiro
Para executivos e empresas brasileiras que estão investindo em IA, este estudo oferece insights valiosos sobre o que esperar realisticamente da tecnologia nos próximos anos. Embora os sistemas de IA continuem avançando rapidamente em tarefas específicas e bem definidas, a capacidade de conduzir pesquisa e desenvolvimento de forma verdadeiramente autônoma ainda está distante.
Isso significa que investimentos em IA devem focar em aplicações onde a tecnologia já demonstra excelência: automação de tarefas repetitivas, análise de dados estruturados, geração de conteúdo baseado em padrões existentes e assistência em processos de decisão bem definidos. A expectativa de que a IA substituirá pesquisadores e cientistas em breve parece prematura.
Para o ecossistema de inovação brasileiro, isso também sugere que profissionais qualificados em pesquisa e desenvolvimento continuarão sendo essenciais. A IA será uma ferramenta poderosa para aumentar a produtividade desses profissionais, mas não os substituirá no curto e médio prazo.
Conclusão
O estudo de Princeton oferece uma dose de realismo em meio ao hype sobre capacidades de IA. Embora os avanços continuem impressionantes, a verdadeira pesquisa científica – com sua necessidade de criatividade, intuição e capacidade de fazer conexões inesperadas – permanece firmemente no domínio humano. Como Kapoor coloca, a questão de trilhões de dólares agora é se a IA pode alcançar a melhoria recursiva apenas através de melhorias incrementais em tarefas específicas, ou se os “saltos criativos” que historicamente impulsionaram os maiores avanços no campo continuarão sendo necessários – e continuarão exigindo mentes humanas para realizá-los.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria “AI’s recursive self-improvement might not come so quickly after all” publicada em MIT Technology Review, disponível em https://www.technologyreview.com/2026/08/18/1142188/ai-recursive-self-improvement/.
