Обратная динамика на основе траекторий для обучения нейронных сетей: ранний технический отчёт / препринт, 2025

В данном отчёте разрабатывается основанная на траекториях формулировка обучения нейронных сетей, в которой обучение выражается как задача обратной динамики. Сеть прямого распространения рассматривается как дискретная динамическая система, прямой проход которой порождает траекторию внутренних состояний. Вместо минимизации функции потерь обучение формулируется как определение операторов перехода, которые порождают траекторию, завершающуюся на желаемом выходе.

Мы выводим уравнения обратной динамики для общих архитектур, показываем, как они связаны с дискретными вариационными принципами и условиями Эйлера—Лагранжа, и анализируем структурные свойства, такие как детерминизм, неоднозначность и существование решений. Для линейных систем обратная задача допускает решения в замкнутом виде; для нелинейных систем траекторная формулировка предоставляет основу для альтернативных парадигм обучения, которые работают непосредственно с внутренними вычислениями.

Результаты закладывают математический фундамент для методов обучения, нацеленных на внутреннюю динамику, а не на поверхности ошибки, открывая пути к новым подходам к обучению, управляемости и коррекции моделей.