Tomskiy universitet sistem upravleniya i radioelektroniki
Russian Federation
This paper presents an approach to the retrieval of vertical profiles of stratospheric aerosol microphysical parameters based on lidar and balloon-borne sounding data. In contrast to a previous study that utilized an ensemble of neural networks [1], the current work employs a single neural network with the SE-ResNet architecture and the Monte Carlo Dropout technique for prediction uncertainty estimation. The developed method enables the retrieval of particle size distributions, mean and effective radii, and aerosol concentrations within the altitude range of 13–25.5 km.
stratospheric aerosol, neural networks, SE-ResNet, MC Dropout, lidar sounding, inverse problem
ВОССТАНОВЛЕНИЕ МИКРОФИЗИЧЕСКИХ ПАРАМЕТРОВ СТРАТОСФЕРНОГО АЭРОЗОЛЯ С ИСПОЛЬЗОВАНИЕМ НЕЙРОННЫХ СЕТЕЙ С АРХИТЕКТУРОЙ SE-RESNET И MC DROPOUT
Суханов А.Я.1,2
1Институт оптики атмосферы им. В.Е. Зуева СО РАН, г. Томск, Россия
2Томский университет систем управления и радиоэлектроники, г. Томск, Россия
e-mail: say@iao.ru
Аннотация. В данной работе представлен подход к восстановлению вертикальных профилей микрофизических параметров стратосферного аэрозоля на основе данных лидарного и шарзондового зондирования. В отличие от предыдущего исследования, где применялся ансамбль нейронных сетей [1], в настоящей работе использована единая нейронная сеть с архитектурой SE-ResNet и техникой Monte Carlo Dropout для оценки неопределённости предсказаний. Разработанный метод позволяет восстанавливать распределение частиц по размерам, средние и эффективные радиусы, а также концентрацию аэрозоля в диапазоне высот 13–25,5 км.
Ключевые слова: стратосферный аэрозоль, нейронные сети, SE-ResNet, MC Dropout, лидарное зондирование, обратная задача.
Мониторинг стратосферного аэрозоля имеет критическое значение для понимания климатических процессов, оценки радиационного баланса Земли и изучения последствий вулканических извержений [2, 3]. Традиционные методы восстановления микрофизических параметров аэрозоля из оптических измерений основаны на решении обратных задач, которые являются некорректными по Адамару и требуют применения методов регуляризации [4, 5].
В предыдущей работе авторов [1] был предложен подход на основе ансамбля нейронных сетей. Однако ансамблевые методы требуют значительных вычислительных ресурсов как на этапе обучения, так и при инференсе. В настоящей работе предложена альтернативная методика, использующая единую нейронную сеть с архитектурой SE-ResNet и техникой Monte Carlo (MC) Dropout для оценки эпистемической неопределённости.
Основными преимуществами предложенного подхода являются: использование механизмов внимания SE (Squeeze-and-Excitation) для адаптивного взвешивания каналов [6]; применение MC Dropout для получения оценки неопределённости без необходимости обучения множества моделей [7]; динамическое маскирование каналов во время обучения для повышения робастности к отсутствию данных; согласованность моментов распределения через специальные функции потерь.
В работе использованы данные многоволнового лидарного и шарзондового зондирования. Лидарные каналы работают на длинах волн 355 и 532 нм, шарзондовые - на длинах волн 470, 528, 630, 850 и 940 нм. Измерения проводятся в диапазоне высот от 13 до 25,5 км и интерполированы на сетку с шагом 0,2 км, что даёт 401 точку по высоте.
Для каждой высоты доступны данные о температуре и давлении, полученные из атмосферных моделей и эксперимента. Отношения рассеяния (scattering ratio) вычисляются как отношение полного рассеяния к молекулярному рассеянию на каждой длине волны.
В работе применена нейронная сеть с архитектурой SE-ResNet, которая принимает данные об отношениях рассеяния на доступных длинах волн на трех соседних высотах, а также профили температуры и давления, что позволяет учитывать вертикальные градиенты параметров. На выходе распределение частиц по радиусам с функцией активации softmax, распределение по концентрации с функцией активации softmax, средний радиус (регрессия), концентрация (регрессия, два независимых выхода для повышения надёжности). Обучение проводилось на синтетических данных, сгенерированных с использованием оптической модели аэрозоля. Процесс генерации включал следующие этапы:
При обучении использовалась комбинация нескольких функций потерь: KL-дивергенция для распределений по радиусам и концентрации, Huber loss для регрессионных выходов (средний радиус и концентрация), потери согласованности моментов: среднеквадратичное отклонение между моментами, вычисленными из распределения, и прямыми регрессионными предсказаниями
Для оценки эпистемической неопределённости предсказаний применена техника Monte Carlo Dropout [7]. В отличие от стандартного подхода, где dropout отключается на этапе инференса, в MC Dropout dropout остаётся активным, что позволяет получить множество стохастических предсказаний для одного и того же входа.
В работе выполнено 144 прохода MC Dropout для каждого входного профиля. После получения всех предсказаний применялась фильтрация выбросов: значения, отклоняющиеся более чем на 2σ от среднего отбрасывались и финальное предсказание вычислялось как среднее по оставшимся значениям. Это позволяет повысить робастность оценки неопределённости к редким выбросам.
Для оценки качества модели была использована тестовая выборка из 50 000 синтетических профилей. На рисунке 1 представлены гистограммы распределения истинных и предсказанных значений среднего радиуса. Анализ гистограмм показывает согласие между истинными и предсказанными значениями в диапазоне 0,01–1,0 мкм. Небольшое расхождение наблюдается в области малых радиусов (<0,1 мкм), что связано с ограниченной чувствительностью оптических измерений к мелким частицам. На рисунке 2 показан пример восстановления распределения частиц по размерам для реального измерительного профиля. Двумерное распределение демонстрирует ожидаемую структуру: концентрация частиц уменьшается с высотой, а модальный радиус увеличивается в нижней части стратосферы из-за гравитационного осаждения более крупных частиц.
Рисунок 1 — Гистограммы распределения истинного (синий) и предсказанного (оранжевый) среднего радиуса r_mean. Пунктирной линией показан порог 0,2 мкм.
Рисунок 2 — Вертикальный профиль распределения концентрации аэрозоля по размерам
Метод был применён для обработки реальных измерительных данных за 2024 год. Всего было обработано несколько профилей с различными комбинациями доступных каналов.
Для каждого профиля выполнялась проверка согласованности восстановленных параметров: концентрация, полученная интегрированием распределения по размерам, сравнивалась с концентрацией из регрессионного выхода. Медианная относительная ошибка между этими методами составила 12%, что указывает на хорошую согласованность предсказаний.
Анализ неопределённости показал, что эпистемическая неопределённость (оцениваемая через MC Dropout) увеличивается при: уменьшении количества доступных каналов (например, при работе только с лидарными или только с шарзондовыми данными), приближении к границам высотного диапазона 25,5 км, наличии облачности или сильных градиентов аэрозоля.
В работе разработан и реализован метод восстановления микрофизических параметров стратосферного аэрозоля на основе нейронной сети с архитектурой SE-ResNet и MC Dropout. Метод позволяет восстанавливать распределение частиц по размерам, средние и эффективные радиусы, а также концентрацию аэрозоля с оценкой эпистемической неопределённости.
По сравнению с предыдущим ансамблевым подходом [1], предложенный метод обеспечивает сравнимое качество предсказаний при значительной экономии ресурсов на этапе обучения и хранения моделей.
Исследование выполнено за счет государственного задания ИОА СО РАН FWRU-2026-0007.
- Balugin N.V., Yushkov V.A., Sukhanov A.Y., Marichev V.N., Bochkovkii D. Determining Microphysical Characteristics of Stratospheric Aerosols from the Results of the Multiwave Lidar and Balloon Experiment // Russ. Meteorol. Hydrol. 2025. V. 50. pp. 701–708. https://doi.org/10.3103/S1068373925080072.
- McCormick M.P., Thomason L.W., Trepte C.R. Atmospheric effects of the Mt Pinatubo eruption // Nature, 1995. V. 373. pp. 399-404.
- Solomon S. The persistently variable "background" stratospheric aerosol layer and global climate change. // Science, 2011. Vol. 333. pp. 866-870.
- Twomey S. Introduction to the Mathematics of Inversion in Remote Sensing and Indirect Measurements. Dover Publications, 1997.
- Bösch T. et al. Retrieval of aerosol size distributions from multiwavelength lidar measurements using regularized inversion // Applied Optics. 2018. V. 57. pp. 1234-1245.
- Hu J., Shen L., Sun G. Squeeze-and-Excitation Networks. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2018. pp. 7132-7141.
- Gal Y., Ghahramani Z. Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning // Proceedings of the 33rd International Conference on Machine Learning. 2016. V. 48. pp. 1050-1059.
1. Balugin N.V., Yushkov V.A., Sukhanov A.Y., Marichev V.N., Bochkovkii D. Determining Microphysical Characteristics of Stratospheric Aerosols from the Results of the Multiwave Lidar and Balloon Experiment // Russ. Meteorol. Hydrol. 2025. V. 50. pp. 701–708. https://doi.org/10.3103/S1068373925080072.
2. McCormick M.P., Thomason L.W., Trepte C.R. Atmospheric effects of the Mt Pinatubo eruption // Nature, 1995. V. 373. pp. 399-404.
3. Solomon S. The persistently variable "background" stratospheric aerosol layer and global climate change. // Science, 2011. Vol. 333. pp. 866-870.
4. Twomey S. Introduction to the Mathematics of Inversion in Remote Sensing and Indirect Measurements. Dover Publications, 1997.
5. Bösch T. et al. Retrieval of aerosol size distributions from multiwavelength lidar measurements using regularized inversion // Applied Optics. 2018. V. 57. pp. 1234-1245.
6. Hu J., Shen L., Sun G. Squeeze-and-Excitation Networks. Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. 2018. pp. 7132-7141.
7. Gal Y., Ghahramani Z. Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning // Proceedings of the 33rd International Conference on Machine Learning. 2016. V. 48. pp. 1050-1059.
