Предсказание – это ключевой элемент любого аналитического проекта, от погоды до финансовых рынков. В основе большинства методов лежат математические формулы, которые позволяют преобразовать данные в количественные оценки будущих событий. Ниже приведен подробный обзор тех формул, которые чаще всего применяются в задачах прогнозирования, а также конкретный пример – нейросеть, созданная учёными Пермского политеха совместно с китайскими коллегами для предсказания подземного давления.
Классические статистические модели
Линейная регрессия
- Формула модели:
y = β0 + β1x1 + … + βkxk + ε - y – целевая переменная,
βi – коэффициенты регрессии,
ε – ошибка (шум). - Оценка коэффициентов обычно производится методом наименьших квадратов (OLS):
β̂ = (XTX)-1XTy.
Полиномиальная регрессия
- Расширение линейной модели:
y = β0 + β1x + β2x² + … + βpxp + ε. - Преобразует одноблочная зависимость в нелинейную, сохраняя линейность по коэффициентам.
Логистическая регрессия (для бинарных задач)
- Вероятность события:
P(y=1|x) = σ(β0 + β1x1 + … + βkxk), - где σ(z) = 1/(1+e-z) – логистическая (сигмоида).
- Оценка коэффициентов проводится методом максимального правдоподобия.
ARIMA (АвтоРегрессионная Интегрированная Скользящая Средняя)
- Формула:
Φp(B)(1-B)dyt = Θq(B)εt, - где B – оператор отставания, Φ – коэффициенты автокорреляции, Θ – коэффициенты MA.
- Подходит для моделирования временных рядов с трендом и сезонностью.
Экспоненциальное сглаживание (Holt-Winters)
- Формулы:
• Актуальный уровень:
lt = α·yt + (1-α)(lt-1+bt-1), - • Тренд:
bt = β·(lt-lt-1) + (1-β)bt-1, - • Сезонность:
st = γ·(yt/lt) + (1-γ)st-s, - • Прогноз:
ŷt+h = lt + h·bt + st-s+h.
Нейронные сети и глубокое обучение
Общая архитектура многослойного перцептрона (MLP)
- Входной слой: xi, i=1..n.
- Скрытый слой: aj = φ(∑iwijxi + bj), j=1..m.
- Выходной слой: ŷ = φ(∑jvjkaj + ck).
- φ(z) – функция активации (ReLU, sigmoid, tanh).
Формула градиентного спуска
- Обновление веса:
wnew = wold ⸺ η·∂L/∂w, - где η – скорость обучения, L – функция потерь (например, MSE).
Формула функции потерь MSE (Mean Squared Error)
- L = (1/N)∑i=1N(yi ⸺ ŷi)².
Формула функции потерь Cross-Entropy (для бинарных задач)
- L = -[y·log(ŷ) + (1-y)·log(1-ŷ)].
Бэкпропагация (Backpropagation)
- Обновление весов проводится рекурсивно, начиная с выходного слоя и двигаясь к входу.
- Для скрытого слоя j:
∂L/∂wij = δj·xi, где δj = (∑kδkvjk)·φ'(zj).
Пример: Нейросеть для предсказания подземного давления
В Пермском политехе учёные совместно с китайскими коллегами разработали нейросеть, способную предсказывать подземное давление на основе геофизических датчиков. Ниже приведены ключевые формулы, использованные в их модели.
Модель нейросети
- Входные признаки: s1, s2, …, sp – измерения сейсмографа, датчиков температуры, влажности и т.д.
- Формула первого скрытого слоя:
hj = tanh(∑i=1p wijsi + bj), j=1..m. - Выход:
ŷ = ∑j=1m vjhj + c.
Функция потерь (Mean Absolute Error – MAE)
- L = (1/N)∑i=1N|di ⸺ ŷi|,
- di – реальное давление.
Обучение (Adam оптимизатор)
- mt = β1mt-1 + (1-β1)∇t,
- vt = β2vt-1 + (1-β2)∇t²,
- wt = wt-1 ⸺ η·(m̂t/(√v̂t + ε)).
Результаты
В ходе экспериментов модель достигла средней ошибки 0,75 бар по сравнению с традиционными статистическими методами, что демонстрирует эффективность глубокого обучения для геофизических задач.
Формулы для предсказания – это фундамент любого аналитического проекта. Выбор конкретной модели зависит от:
- характера данных (временной ряд, табличный, изображение);
- количества доступных наблюдений;
- необходимой точности и интерпретируемости результата.
Для простых задач часто хватает линейной или полиномиальной регрессии, а для сложных нелинейных зависимостей – нейросетей. Важно не только правильно подобрать модель, но и тщательно выполнить:
- Подготовку данных (нормализация, обработка пропусков);
- Выбор метрик оценки (MAE, MSE, R², AUC);
- Тестирование на независимом наборе.