Машинное обучение в задаче прогнозирования временных рядов МПЧ коротковолновых каналов радиосвязи
Суточный ход МПЧ по данным ЛЧМ-ионозонда сглаживается фильтром Савицкого — Голея, выбросы ищутся изолирующим лесом, а затем XGBoost и линейная регрессия прогнозируют ряд примерно на 1,3 суток. Лучшая настройка фильтра — окно 19 при первом порядке: XGBoost даёт R² 0,86 и СКО 1,8 МГц, линейная регрессия заметно хуже.
⚙ Анализ подготовлен с участием модели, возможны неточности.
Оригинальная публикация
Открыть работу →Проблема и актуальность
Частотные границы КВ-канала меняются вместе с состоянием ионосферы, и оптимальную рабочую частоту выбирают примерно на 15 % ниже максимально применимой частоты (МПЧ). Чтобы планировать работу радиосистемы заранее, нужен прогноз МПЧ не на минуты, а на часы и сутки вперёд. Работа рассматривает, насколько результат такого прогноза зависит от предварительной обработки сырого ряда МПЧ.
Цель и гипотеза
Цель — алгоритм долгосрочного (от нескольких часов до нескольких суток) прогнозирования МПЧ методами машинного обучения. Задачи — подобрать окно и порядок сглаживающего фильтра, способ деления ряда на обучающие и тестовые выборки и способ обработки выбросов. Гипотеза явно не сформулирована; по смыслу проверяется, что сглаживание и удаление выбросов повышают точность прогноза и что XGBoost точнее линейной регрессии.
Материалы и методы
Исходные данные — значения МПЧ, полученные ЛЧМ-ионозондом при диагностике ВЧ-радиоканалов. Ряд сглаживается полиномиальным фильтром Савицкого — Голея. Длина окна выбирается по автокорреляционной функции суточного хода как 95-процентный доверительный интервал отсчётов АКФ, порядок фильтра — из условия 95-процентной взаимной корреляции ряда до и после фильтрации. Сравнивались окна 15, 17, 19 и 21 отсчёт при порядках от 1 до 5; каждое сочетание усреднено по пяти выборкам.
Выборки формируются функцией TimeSeriesSplit из sklearn — так обучающая часть всегда предшествует тестовой. Выбросы ищутся изолирующим лесом (Isolation Forest) из sklearn: алгоритм даёт каждому отсчёту оценку «аномальности», порог выбирает исследователь по уровню выбросов в ряду, найденные отсчёты затем сглаживаются. Сравниваются две модели: линейная регрессия — как простая и дешёвая — и XGBoost — как более точная и более требовательная. Критерии качества — коэффициент детерминации и СКО прогноза от экспериментальных значений МПЧ.
Результаты
Коэффициент детерминации XGBoost почти не зависит от настройки фильтра и держится около 0,7–0,85, тогда как у линейной регрессии он меняется от отрицательных значений до 0,78 — то есть при большинстве настроек линейная модель прогнозирует хуже, чем простое среднее ряда. Лучшая настройка — окно 19 при первом порядке: XGBoost достигает R² 0,86 и СКО 1,8 МГц, линейная регрессия в этой точке тоже показывает свой максимум R², но проигрывает XGBoost примерно 1,5 МГц по СКО.
Изолирующий лес на 12-дневном фрагменте отметил как выбросы отдельные отсчёты внутри суток и группу отсчётов в конце ряда. Обработка выбросов повысила точность моделей в среднем на 1,5 МГц по СКО и на 0,2 по коэффициенту детерминации. В примере прогноза примерно на 1,3 суток СКО XGBoost составило 1,8 МГц при R² 0,83, линейной регрессии — 3,2 МГц при R² 0,37.
Выводы авторов
Оптимальное соотношение окна и порядка фильтра — 19/1 по двум критериям: максимуму коэффициента детерминации (0,86) и минимуму СКО (1,8 МГц) для XGBoost. Обработка выбросов изолирующим лесом повышает точность в среднем на 1,5 МГц по СКО и на 0,2 по R². Для дальнейших исследований долгосрочного прогноза МПЧ наиболее перспективна модель XGBoost.
Ограничения
Трасса, период наблюдений, шаг ряда и объём выборки не указаны; по рис. 3 можно лишь судить, что 12 суток содержат около 3 500 отсчётов, то есть шаг порядка 5 минут. Не описаны признаки, на которых обучаются модели, и горизонт прогноза при подборе фильтра — пример на рис. 4 охватывает около 1,3 суток. Утверждение, что линейная регрессия в точке 19/1 имеет и минимальное СКО, по рис. 2 не подтверждается: её СКО ниже при настройке 21/1. Порог изолирующего леса выбирается вручную, а группа «выбросов» в конце 12-дневного ряда может быть краевым эффектом сглаживания, а не аномалией ионосферы; этот вопрос не обсуждается. Сравнения с простым базовым прогнозом — например, повторением хода предыдущих суток — нет.
Новизна
Новизна в статье явно не заявлена. По существу предложена связка предварительной обработки ряда МПЧ — фильтр Савицкого — Голея с окном по АКФ и изолирующий лес для выбросов — и проверено, как она влияет на прогноз линейной регрессией и XGBoost.
Эвристики
- [явно] Если окно сглаживающего фильтра нужно выбрать не вслепую — то брать его по автокорреляционной функции ряда (95-процентный интервал), а порядок — по сохранению корреляции ряда до и после фильтрации.
- [явно] Если временной ряд делится на обучающие и тестовые выборки — то делить так, чтобы обучение всегда предшествовало тесту (
TimeSeriesSplit), а не перемешивать отсчёты. - [реконструкция] Если коэффициент детерминации модели становится отрицательным — то модель прогнозирует хуже среднего, и выбирать её настройки по такой метрике бессмысленно; сначала стоит сменить модель или признаки.
- [реконструкция] Если выбросы сосредоточены у края ряда — то сначала проверять краевой эффект сглаживания, прежде чем считать их аномалиями среды.
- [реконструкция] Если сравниваются модели прогноза суточного хода — то добавлять базовый прогноз «как вчера», потому что высокий R² может объясняться одной суточной периодичностью.
Одной фразой: Сглаживание ряда МПЧ фильтром Савицкого — Голея с окном 19 и удаление выбросов изолирующим лесом дают XGBoost прогноз примерно на сутки с R² 0,86 и СКО 1,8 МГц, тогда как линейная регрессия в большинстве настроек не превосходит среднего.