Нейросеть неожиданно повторила, как мозг учится на прошлом опыте
Новая задача начинается не с чистого листа. Опыт предыдущего обучения заранее перестраивает внутреннюю динамику системы и подталкивает мозг или нейросеть к определённому способу решения следующей проблемы. Исследователи показали, что правильно организованная последовательность простых задач формирует основу для более гибкого обучения, а неудачная подготовка способна закрепить ошибочную стратегию, от которой потом трудно избавиться.
Работа объединила эксперименты с рекуррентными нейронными сетями и наблюдения за мозгом мышей. Учёные использовали задачу на восприятие времени: система получала два последовательных сигнала одинаковой природы, но разной продолжительности. Короткий сигнал длился две секунды, длинный — пять. После пары сигналов требовалось определить, совпадала продолжительность или различалась. Мыши сообщали ответ, облизывая поилку в нужный момент, а искусственная сеть управляла выходным узлом.
Одну группу нейросетей сначала обучали только более простой версии задачи, где все пары требовали реакции. После 300 блоков такой подготовки модель переходила к полной версии с ситуациями, когда реагировать было нельзя. Другие сети сразу сталкивались с полной задачей. В общей сложности обучение продолжалось 1000 блоков по четыре испытания.
Разница оказалась заметна не только по количеству ошибок. Предварительно подготовленные сети выстраивали внутреннюю активность в более простую и упорядоченную структуру. Большая часть изменений состояния концентрировалась в нескольких основных направлениях, а траектории активности меньше переплетались между собой. Такая организация позволяла отделить отслеживание времени от принятия решения и переносить выученное правило между разными вариантами задачи.
Сети без правильной подготовки находили другой путь. Модели часто реагировали слишком рано после первого длинного сигнала и постепенно закрепляли неоптимальную стратегию. Дополнительное обучение не всегда исправляло проблему. Даже предварительная тренировка на слишком узком варианте задачи могла загнать систему в похожую ловушку: нейросеть запоминала удобное частное правило вместо более общего принципа.
Самая интересная часть эксперимента появилась после проверки предсказаний модели на животных. Учёные записывали активность нейронов медиальной энторинальной коры, области мозга, связанной с памятью, восприятием времени и обучением сложным стратегиям. Мыши после правильно выстроенной подготовки лучше переносили выученную временную структуру между разными типами испытаний, а динамика нейронной активности напоминала картину внутри успешно обученных рекуррентных сетей.
При неудачной последовательности обучения мыши совершали характерную ошибку, которую заранее показала модель: животные начинали реагировать после первого длинного сигнала, не дожидаясь информации, необходимой для правильного решения. Записи активности мозга также демонстрировали более запутанные и менее компактные траектории. Совпадение поведения и нейронной динамики позволило авторам использовать искусственную сеть не просто как инструмент классификации, а как модель для проверки гипотез о механизмах обучения.
Исследование показывает, почему принцип «от простого к сложному» работает глубже обычной педагогической рекомендации. Правильно выбранная ранняя задача формирует внутреннюю структуру, на которую затем можно наложить новые правила. Неподходящий старт тоже оставляет след и способен сделать дальнейшее обучение сложнее, даже когда новая информация доступна в полном объёме.
Авторы считают, что подход поможет изучать обучение людей и нарушения сложных когнитивных функций. Компьютерные модели позволяют сначала получить конкретное предсказание о работе нейронных цепей, а затем проверить прогноз в биологическом эксперименте. Такая схема может упростить поиск принципов эффективного обучения и помочь разобраться, как нормальная организация когнитивных процессов нарушается при нейродегенеративных заболеваниях. Пока выводы напрямую касаются рекуррентных моделей и экспериментов на мышах, поэтому перенос результатов на человеческое обучение требует отдельных исследований.