Обратное распространение ошибки

Что это

Обратное распространение ошибки (backpropagation, или просто backprop) — это алгоритм, с помощью которого нейронная сеть обучается на своих ошибках: он вычисляет градиент функции потерь по каждому весу сети и передаёт эту информацию от выходного слоя к входному. На основе этих градиентов оптимизатор — например, SGD или Adam — обновляет веса так, чтобы на следующей итерации сеть ошибалась меньше. Без этого алгоритма обучение глубоких сетей с миллионами параметров было бы вычислительно невозможным.

Зачем это нужно

До широкого распространения backpropagation исследователи не знали, как эффективно обучать сети глубже одного-двух слоёв. В 1986 году Румельхарт, Хинтон и Уильямс опубликовали работу, которая популяризировала алгоритм и показала его практическую применимость. Именно backprop открыл дорогу к современному глубокому обучению: без него не было бы ни свёрточных сетей для распознавания изображений, ни трансформеров, на которых построены GPT и BERT. Алгоритм решает фундаментальную задачу — как распределить «вину» за ошибку между сотнями тысяч весов одновременно.

Как это работает

Обучение с backpropagation происходит в два прохода. Сначала — прямой проход (forward pass): входные данные проходят через все слои сети, и на выходе получается предсказание. Затем вычисляется ошибка — разница между предсказанием и правильным ответом, которую измеряет функция потерь (например, кросс-энтропия или MSE). Дальше начинается обратный проход (backward pass): с помощью правила дифференцирования сложной функции (chain rule) алгоритм последовательно вычисляет, как изменение каждого веса влияет на итоговую ошибку — от последнего слоя к первому. Полученные градиенты передаются оптимизатору, который сдвигает веса в сторону уменьшения ошибки на величину, пропорциональную learning rate.

Примеры применения

Обучение свёрточных нейросетей (CNN) для классификации изображений — например, ResNet-50 имеет 25 млн параметров, и все они обновляются через backprop.
Обучение языковых моделей: GPT-4, LLaMA, BERT используют backpropagation на каждом шаге предобучения и файнтюнинга.
Рекуррентные сети (RNN, LSTM) для задач обработки последовательностей — речи, текста, временных рядов — применяют вариант алгоритма BPTT (backpropagation through time).
Обучение политик в reinforcement learning: алгоритмы вроде PPO и A3C используют backprop для обновления весов актора и критика.
Генеративно-состязательные сети (GAN): и генератор, и дискриминатор обучаются через обратное распространение ошибки, только с разными функциями потерь.

Связанные понятия

Градиентный спуск — метод оптимизации, который использует градиенты, вычисленные backprop.
Функция потерь (loss function) — метрика ошибки, с которой начинается обратный проход.
Chain rule (правило цепочки) — математическая основа алгоритма из дифференциального исчисления.
Затухание градиентов (vanishing gradients) — проблема, при которой градиенты становятся близки к нулю в ранних слоях глубокой сети.
Автодифференцирование (autograd) — механизм во фреймворках PyTorch и TensorFlow, автоматически реализующий backpropagation.

Частые мифы

Распространённое заблуждение — считать, что backpropagation «учит» сеть самостоятельно. На самом деле алгоритм только вычисляет градиенты; само обновление весов делает оптимизатор, а качество обучения сильно зависит от архитектуры, данных и гиперпараметров. Ещё один миф — что backprop биологически правдоподобен и так работает мозг. Это не так: настоящие нейроны не передают сигналы «назад» по синапсам в том же смысле, и большинство нейробиологов считают backpropagation удобной математической абстракцией, а не моделью реального обучения.