Introdução
Uma criança de dois anos consegue aprender sua língua materna ouvindo cerca de 10 a 30 milhões de palavras. Já os modelos de linguagem mais avançados, como o GPT-4 ou o Claude, precisam processar trilhões de tokens – uma diferença de escala que chega a ser 100 mil vezes maior. Essa disparidade impressionante, conhecida como ‘data efficiency gap’ (lacuna de eficiência de dados), representa um dos maiores mistérios tanto para cientistas cognitivos quanto para pesquisadores de inteligência artificial.
O fenômeno levanta questões fundamentais sobre como o cérebro humano processa informações e sugere que ainda há muito a aprender sobre os mecanismos de aprendizagem. Para o mercado brasileiro de tecnologia, entender essas limitações é crucial para estabelecer expectativas realistas sobre o que a IA pode ou não fazer, especialmente em aplicações empresariais que dependem de processamento de linguagem natural.
A escala impressionante da diferença
Para compreender a magnitude dessa disparidade, considere que o Llama 3.1 da Meta foi treinado com aproximadamente 15 trilhões de tokens durante seu pré-treinamento. Modelos de fronteira podem estar processando até 10 vezes mais dados que isso, segundo pesquisadores da Georgetown University. Se imprimíssemos todo o texto usado para treinar um LLM moderno, a pilha de papel ultrapassaria a Estação Espacial Internacional. Em contraste, toda a experiência linguística de uma criança até os 12 anos caberia em uma pilha de apenas 20 metros.
Michael C. Frank, cientista cognitivo de Stanford, coloca a questão em perspectiva: ‘Se você treinar o GPT-2 com 30 milhões de palavras – o equivalente ao que uma criança ouve -, você obtém um gerador de nonsense, não uma criança’. Essa observação destaca não apenas a diferença quantitativa, mas também qualitativa entre como humanos e máquinas processam linguagem.
O debate histórico sobre aprendizagem de linguagem
A questão de como crianças conseguem dominar algo tão complexo quanto a linguagem humana não é nova. Nos anos 1950, Noam Chomsky revolucionou a linguística ao argumentar contra a visão behaviorista de B.F. Skinner, que defendia que a linguagem era aprendida puramente por condicionamento e reforço, como um cachorro aprendendo truques.
Chomsky introduziu o conceito de ‘pobreza do estímulo’ – a ideia de que as crianças recebem input linguístico muito limitado e fragmentado para deduzir todas as regras gramaticais complexas que acabam dominando. Sua solução foi propor que nascemos com um conhecimento inato de gramática universal, uma espécie de ‘hardware’ linguístico pré-instalado no cérebro.
Essa visão dominou a linguística americana por décadas e influenciou profundamente os primeiros esforços em processamento de linguagem natural. Pesquisadores tentaram ensinar computadores a falar codificando explicitamente regras gramaticais – uma abordagem que funcionou em pequena escala mas falhou espetacularmente quando confrontada com a complexidade e variabilidade da linguagem real.
A revolução dos modelos estatísticos
O surgimento dos transformers e dos LLMs modernos desafiou fundamentalmente as teorias chomskianas. Modelos como BERT e GPT-2, lançados em 2018 e 2019, demonstraram que era possível aprender sintaxe e semântica complexas através de pura análise estatística de padrões em grandes volumes de texto – exatamente o que Chomsky disse ser impossível.
Alison Gopnik, psicóloga do desenvolvimento da UC Berkeley, admite sua surpresa: ‘Eu não achava que isso seria possível. E acho que a maioria das pessoas não acreditava que você poderia simplesmente olhar para as estatísticas de uma grande amostra de linguagem e descobrir a gramática’. O sucesso dos LLMs forçou uma reavaliação de décadas de teoria linguística.
No entanto, esse sucesso veio com um custo computacional astronômico. Enquanto crianças brasileiras aprendem português fluentemente antes mesmo de entrar na escola, os modelos de IA precisam do equivalente a ‘queimar uma floresta’ de recursos computacionais, como coloca Frank, para alcançar fluência similar.
BabyLM: tentando fechar a lacuna
Em 2022, Alex Warstadt, linguista e cientista de dados da UC San Diego, lançou o desafio BabyLM – uma competição anual para treinar modelos de linguagem com dados na escala infantil. O objetivo é ambicioso: criar modelos que aprendam com apenas 10 a 100 milhões de palavras, aproximadamente o que uma criança ouve em seus primeiros anos de vida.
Os dados incluem livros infantis, diálogos, legendas de filmes, Wikipedia simplificada e transcrições reais de fala direcionada a crianças. Os modelos são então avaliados usando os mesmos testes gramaticais que psicolinguistas aplicam em humanos, medindo sua capacidade de detectar construções agramaticais ou inesperadas.
Os resultados têm sido reveladores. O modelo vencedor de 2024, o GPT-BERT, conseguiu superar o desempenho do Llama 2 70B da Meta em alguns benchmarks, mesmo sendo treinado com 15.000 vezes menos dados. Isso sugere que há espaço significativo para melhorar a eficiência dos modelos atuais.
Curiosamente, algumas hipóteses intuitivas sobre aprendizagem não se confirmaram. O ‘curriculum learning’ – começar com dados simples e progredir para complexos, imitando como adultos falam com bebês – não funcionou tão bem quanto esperado. ‘Parece que esses transformers não precisam realmente ter seus dados ordenados dessa forma para aprender efetivamente’, observa Aaron Mueller, da Boston University.
O papel crucial da experiência multimodal
Uma diferença fundamental entre crianças e LLMs é que crianças não aprendem linguagem isoladamente através de texto. Elas vivem em um mundo rico de experiências sensoriais, onde palavras estão intrinsecamente ligadas a objetos, ações e contextos sociais.
O projeto SAYCam, liderado por Michael Frank em Stanford, colocou câmeras na cabeça de bebês para registrar sua perspectiva do mundo. As descobertas foram surpreendentes: ‘A experiência das crianças parece radicalmente diferente do que pensávamos. É muito mais focada: elas têm bracinhos curtos, então os objetos ficam bem na frente delas. E elas vivem em uma floresta de joelhos’, descreve Frank.
Brenden Lake, de Princeton, treinou um modelo com 61 horas de dados do SAYCam e demonstrou que era possível aprender a identificar objetos e associá-los com palavras sem os vieses cognitivos que muitos teóricos consideravam necessários. Ainda assim, o modelo resultante estava longe das capacidades de uma criança de dois anos.
Uri Hasson, neurocientista de Princeton, está levando essa abordagem ao extremo com um projeto que gravou os primeiros 1.000 dias de vida de 17 crianças, com câmeras e microfones em todos os cômodos (exceto quartos e banheiros), capturando 12 horas por dia. Esse conjunto de dados sem precedentes pode finalmente fornecer o ‘input’ realista necessário para treinar modelos mais próximos da experiência humana.
Aprendizagem ativa: a peça que falta
Talvez a diferença mais fundamental seja que crianças não são receptores passivos de informação. Elas exploram ativamente seu ambiente, fazem perguntas, testam hipóteses e buscam experiências que maximizam seu aprendizado. Pesquisas de Alison Gopnik mostram que o que parece brincadeira infantil é na verdade um processo sofisticado de experimentação científica.
Elizabeth Bonawitz, de Harvard, destaca outro aspecto crucial: crianças interpretam informações diferentemente quando sabem que um adulto está tentando ensiná-las. ‘As crianças não estão apenas raciocinando sobre as evidências que recebem. Elas estão raciocinando sobre o professor, sobre o conhecimento do professor e sobre por que o professor está dizendo essa informação específica’.
Essa dimensão social e intencional do aprendizado está completamente ausente nos LLMs atuais, que aprendem passivamente de corpora estáticos de texto. Tentativas de criar modelos que aprendem através de interação social no BabyLM 2024 não superaram os modelos tradicionais, sugerindo que ainda não sabemos como implementar esse tipo de aprendizagem em máquinas.
Implicações para o mercado brasileiro
Para empresas brasileiras que investem em soluções de IA, entender a lacuna de eficiência de dados tem implicações práticas importantes. Primeiro, destaca a necessidade de expectativas realistas sobre os custos computacionais e de dados necessários para treinar modelos customizados. Uma startup brasileira que queira criar um chatbot especializado precisará de volumes massivos de dados de qualidade – muito além do que intuitivamente parece necessário.
Segundo, a pesquisa sugere oportunidades. David Samuel, da Universidade de Oslo, trabalha com línguas minoritárias que têm apenas dezenas de milhões de tokens disponíveis – similar ao português em nichos específicos. Modelos mais eficientes em dados poderiam democratizar a IA para mercados e idiomas com menos recursos digitais disponíveis.
Para o ecossistema brasileiro de inovação, isso aponta para a importância de investir em pesquisa fundamental sobre eficiência de modelos, não apenas em aplicações. Universidades brasileiras poderiam contribuir significativamente para essa área, especialmente considerando nossa diversidade linguística e cultural.
O futuro da pesquisa em IA e cognição
A existência de LLMs criou uma oportunidade única para a ciência cognitiva. Pela primeira vez em 100.000 anos de linguagem humana, temos outra entidade capaz de usar linguagem fluentemente. Como coloca Warstadt: ‘Finalmente temos um modelo; não no sentido de um modelo de linguagem, mas no sentido de um organismo modelo’.
Isso permite estudos comparativos impossíveis anteriormente. Pesquisadores podem testar hipóteses sobre aquisição de linguagem manipulando o treinamento de modelos de formas que seriam antiéticas ou impossíveis com crianças reais. Por exemplo, podem simular diferentes graus de bilinguismo ou privar modelos de certas estruturas gramaticais para ver o impacto.
Richard Futrell, da UC Irvine, compara a situação a ‘ensinar linguagem a um alienígena e depois abrir seu cérebro para ver o que aconteceu’. Mesmo que modelos e mentes sejam vastamente diferentes, os insights obtidos podem iluminar princípios universais sobre como a linguagem pode ser aprendida e processada.
Conclusão
A lacuna de eficiência de dados entre crianças e IAs revela tanto o quão longe chegamos quanto o caminho que ainda temos pela frente. Enquanto LLMs modernos alcançaram fluência impressionante, eles o fazem através de força bruta computacional, processando ordens de magnitude mais dados que qualquer cérebro humano.
Para o mercado brasileiro de tecnologia, isso serve como um lembrete importante: a IA atual, por mais impressionante que seja, ainda opera sob limitações fundamentais. Empresas que entendem essas limitações estarão melhor posicionadas para fazer investimentos realistas e desenvolver aplicações viáveis.
Ao mesmo tempo, a pesquisa em modelos mais eficientes promete democratizar a IA, tornando-a acessível para mais idiomas, culturas e aplicações. O segredo pode estar não em fazer modelos maiores, mas em fazê-los aprender mais como crianças – ativamente, socialmente e com curiosidade insaciável sobre o mundo ao seu redor.
Fonte original: Este artigo foi adaptado e traduzido a partir da matéria “Kids outlearn AI—and we still don’t know why” publicada em MIT Technology Review, disponível em https://www.technologyreview.com/2026/08/24/1141740/kids-machines-language-learning/.
