Пакет (Batch)
Пакет (партия) – Выборка (Sample), которую необходимо обработать перед обновлением внутренних параметров Модели (Model). Размер партии может быть следующим:
- Пакетный (batch) режим: размер пакета равен общему набору данных, что делает значения итерации и эпохи эквивалентными
- Мини-пакетный (mini-batch) режим: размер пакета больше единицы, но меньше общего размера набора данных. Обычно это число, которому кратен общий размер набора данных.
- Стохастический (stochastic) режим: размер партии равен единице. Поэтому градиент и параметры нейронной сети обновляются после каждой выборки.
