Aprendizado Contínuo: A Mudança de Paradigma da IA do Espaço de Prompt para o Espaço de Parâmetros

Em julho, três eventos aconteceram quase simultaneamente: Richard Sutton — vencedor do Prêmio Turing e pai do aprendizado por reforço — fundou uma empresa dedicada a construir agentes com aprendizado contínuo; a Thinking Machines Lab (TML), de Mira Murati, lançou o Inkling, um modelo aberto de 975B de parâmetros explicitamente posicionado como “um modelo base feito para fine-tuning”; e a chinesa Mind Lab lançou o Macaron V1, construído sobre o GLM-5.2 com aprendizado contínuo nativo.

Três sinais, uma direção: o aprendizado contínuo está deixando de ser um conceito acadêmico para se tornar uma indústria. E a base subestimada que torna isso possível é o LoRA.

Por Que o Aprendizado Contínuo Precisa Ser Resolvido

A capacidade dos LLMs avançou ao longo de dois caminhos bem definidos. Caminho um: otimizar antes da implantação. Pré-treinamento, SFT, RLHF, RLVR — todo o treinamento é concluído antes do modelo entrar em produção, e os parâmetros são congelados no lançamento. Caminho dois: complementar em tempo de execução. Prompts, memória, RAG, bibliotecas de habilidades, harnesses de agentes — contexto e capacidade adicionados externamente enquanto os parâmetros permanecem intocados.

Praticamente todo produto de agente hoje vive no caminho dois. O blog da Mind Lab nomeia isso com precisão: iteração no espaço de prompt — a experiência é armazenada fora do modelo e precisa ser relida e reinterpretada a cada uso. Esse caminho tem um teto estrutural:

• A experiência se acumula, o contexto se alonga, e as memórias começam a se contradizer;

• Regras e verificações se empilham, e o custo de execução sobe;

• Acima de tudo: colocar informação no contexto não é o mesmo que o modelo dominar o padrão.

O aprendizado contínuo toma o outro caminho — iteração no espaço de parâmetros: escrever a experiência diretamente em parâmetros treináveis. As convenções de código que um agente de programação encontra repetidamente, as preferências que um assistente pessoal confirma aos poucos — tudo isso se torna comportamento estável por meio de treinamento, em vez de ser relido do contexto a cada vez. Os dois caminhos são complementares, não concorrentes: fatos permanecem no contexto e no RAG, procedimentos validados permanecem como habilidades — mas mudanças de comportamento recorrentes e estáveis pertencem aos parâmetros.

LoRA: o Pré-requisito de Engenharia

Iteração no espaço de parâmetros não é novidade — SFT e RLHF são exatamente isso. O antigo problema era que dados, recompensas e processos exigiam humanos. Aprendizado contínuo significa que o ciclo de treinamento roda sozinho após a implantação: o modelo age → ganha experiência → encontra um sinal → escreve de volta nos parâmetros. Para que esse ciclo funcione, três condições de engenharia precisam ser atendidas:

2. O treinamento precisa ser barato o suficiente — sem fine-tuning completo a cada lição;

3. As unidades de aprendizado precisam ser plugáveis — novas habilidades não devem desestabilizar o conhecimento antigo;

4. O rollback precisa ser possível — desaprender quando o aprendizado dá errado.

O LoRA satisfaz as três condições. O ponto de virada veio em outubro de 2025, quando John Schulman — cientista-chefe da TML, cofundador da OpenAI e inventor do PPO — publicou “LoRA Without Regret”. Sua conclusão principal: na maioria dos cenários de pós-treinamento, o LoRA iguala o fine-tuning completo tanto em eficiência de amostras quanto em desempenho final. Ele chamou isso de “regime de baixo arrependimento” (“low-regret regime”), e constatou que ele cobre a grande maioria das tarefas reais de pós-treinamento; em cenários de RL, até mesmo um LoRA de rank 1 — a menor configuração possível — iguala o fine-tuning completo. O artigo invertou a visão da indústria sobre o LoRA: praticamente sem perdas em termos de efeito, ao mesmo tempo que permite treinamento independente, implantação independente e rollback à vontade.

A Mind Lab então validou a conclusão em escala: RL baseado em LoRA no Kimi K2 (1.04T de parâmetros totais, 32.6B ativos) com cerca de 10% do custo computacional do fine-tuning completo e curvas de treinamento estáveis. E o piso de compressão ficou abaixo do esperado — adaptadores leves mantidos em rank 1, uma única direção treinável por camada, ainda estáveis e confiáveis.

A Cadeia da Indústria Está Se Formando: Modelos Base + Muitos LoRAs + Um Interruptor de Aprendizado Contínuo

Sinal um: os líderes estão apostando

O Inkling da TML — um MoE de 975B com 41B ativos, nativo em texto/imagem/áudio, contexto de um milhão de tokens — estava pronto para fine-tuning no Tinker no dia do lançamento, com o laboratório admitindo com franqueza que não é o modelo mais forte. Seu posicionamento é precisamente “um base feito para ser personalizado”. O Macaron V1 da Mind Lab vai além com uma arquitetura Mixture-of-LoRA (MoL): quatro especialistas LoRA de 1B sobre uma base GLM-5.2 congelada (744B), cobrindo diálogo, trabalho de agentes, código e UI generativa. Novas capacidades chegam como LoRAs em formato de plugin que deixam o conhecimento existente intacto, e especialistas de origens diferentes podem ser combinados e roteados sobre uma mesma base. A Oak Lab de Sutton tem como meta aprendizado contínuo de baixo custo e alta eficiência para modelos de agentes com trilhões de parâmetros.

Sinal dois: a infraestrutura está acompanhando

A Fireworks AI (avaliada em US$ 17,5 bilhões) já hospeda centenas de LoRAs em um único modelo base, selecionando dinamicamente o adaptador a cada requisição. A Together AI — recém-saída de uma rodada Série C de US$ 800 milhões com avaliação de US$ 8,3 bilhões — fez do LoRA seu método padrão de fine-tuning. No último ano, três startups de pós-treinamento foram adquiridas: Predibase pela Rubrik, OpenPipe pela CoreWeave, Adaptive ML pela Datadog. A intenção é inequívoca — pós-treinamento é uma capacidade de nível de infraestrutura, que vale a pena comprar de uma vez.

Sinal três: um acidente chamado inteligência de grupo

Durante experimentos controlados, a Mind Lab encontrou algo inesperado. Partindo do mesmo Qwen3-30B, com objetivos e métodos de treinamento mantidos constantes e variando apenas a ordem dos dados e o masking, produziram um lote de adaptadores diferentes. Um único adaptador pontuou 36,44% no AIME24; votação por maioria entre 198 adaptadores diferentes alcançou 48,67% — enquanto amostragem repetida de um único adaptador chegou no máximo a 43,78%. Trajetórias de aprendizado divergentes carregam complementaridade que a amostragem simples não alcança. O número de modelos em si se tornou uma nova dimensão de escalonamento. A redefinição resultante da Mind Lab para o LoRA: “estado local persistente” — o modelo base compartilhado cuida da capacidade geral; os adaptadores carregam o comportamento individualizado de cada instância.

Da Era dos Dados à Era da Experiência

Em abril de 2025, Sutton e David Silver publicaram “Welcome to the Era of Experience”, argumentando que a próxima etapa de capacidade da IA virá menos da absorção de dados humanos e mais de agentes agindo em ambientes reais, coletando feedback e aprendendo continuamente — a era da experiência, distinta da era dos dados. A tese está sendo testada agora:

• A Mind Lab começou a comercializar em julho e atingiu US$ 10 milhões de ARR em duas semanas — vendendo não capacidade de inferência, mas “a habilidade de os modelos continuarem crescendo dentro do ambiente do cliente”;

• Na demo de lançamento do Inkling, o modelo escreveu sua própria tarefa de fine-tuning no Tinker, executou o treinamento e trocou os novos pesos — nenhum humano tocou em nada;

• Meta declarada da Mind Lab: “tornar o treinamento de um modelo tão simples quanto chamá-lo — se você consegue usar tokens, você consegue treinar tokens.”

A direção está clara; a tecnologia ainda não convergiu. Extrair sinais de aprendizado confiáveis da experiência permanece sem solução — o feedback do mundo real é atrasado, ambíguo e difícil de atribuir; a autorreflexão pode estar errada; a atualização contínua levanta questões de estabilidade, já que experiência nova pode sobrescrever capacidades antigas. Como disse Liang Wenfeng, o mundo inteiro ainda não encontrou um bom método. Mas a linha de tendência se mantém: modelos base cuidam da inteligência geral; aprendizado contínuo cuida da adaptação a cenários. As empresas de modelos base não precisam operar — ou vencer — a camada de pós-treinamento, e está surgindo um grupo de empresas especializadas em tornar modelos e agentes mais fortes. Mind Lab, TML e Oak Lab estão trilhando o mesmo caminho.

O Que os Profissionais Devem Observar

2. O LoRA foi promovido de “um truque de fine-tuning aceitável” para “infraestrutura essencial de aprendizado contínuo”. Se você constrói produtos de agentes, comece a se perguntar quais comportamentos merecem se fixar em parâmetros em vez de ficar em um prompt.

3. A contagem de modelos é uma dimensão de escalonamento. A inteligência de grupo em nível de adaptador significa que a inteligência pode continuar subindo à medida que você pendura mais adaptadores em uma base — um novo eixo competitivo para produtos de agentes.

4. Uma cadeia da indústria de pós-treinamento está se formando. Modelos base, plataformas de treinamento LoRA, roteamento de adaptadores em tempo de inferência, monitoramento de aprendizado contínuo — ferramentas internas se tornando produtos autônomos.

5. A elasticidade de custos faz a economia funcionar. Um LoRA pessoal minimalista pode ser treinado com um mês de dados de uma pessoa por poucas dezenas de dólares; os maiores LoRAs corporativos custam dezenas a centenas de milhares. Essa faixa permite a entrada de equipes pequenas.

O aprendizado contínuo não está totalmente resolvido, mas a infraestrutura já está posta. Pessoas capazes de treinar modelos estão se tornando o recurso mais escasso da era dos agentes.