Google представила Nested Learning — новый подход, позволяющий искусственному интеллекту обучаться без потери уже усвоенных знаний

Google представила новую концепцию в области искусственного интеллекта — Nested Learning («вложенное обучение»), которая позволяет моделям учиться непрерывно, сохраняя ранее полученные знания. В отличие от традиционных методов, где новые данные могут частично «стирать» старые навыки, этот подход интегрирует свежую информацию внутрь уже существующих структур, создавая слои знаний один внутри другого.

В основе Nested Learning лежит идея Continuum Memory System (CMS) — системы непрерывной памяти, где данные распределяются между модулями, обновляющимися с разной скоростью. Это помогает эффективно балансировать между сохранением старых знаний и усвоением новых.

Благодаря такому принципу модель может адаптироваться к новым задачам, не теряя накопленного опыта, учитывать контекст своей работы и изменять поведение в зависимости от ситуации. Прототип новой архитектуры, получивший название HOPE, уже показал улучшенные результаты в языковом моделировании и обработке длинных контекстов по сравнению с классическими трансформерами.

Nested Learning решает проблему катастрофического забывания (catastrophic forgetting) и открывает путь к созданию систем постоянного обучения. Такой подход делает развитие искусственного интеллекта ближе к человеческому: поэтапному, адаптивному и бесконечно продолжающемуся, где каждая новая задача становится логическим продолжением предыдущего опыта.