SAFDNO: стохастическое адаптивное разложение Фурье для обучаемых спектральных операторов
Фиксированные частоты и жёсткое усечение спектра неудобны для локализованных нестационарных структур. SAFDNO заменяет их зависящей от входа ортонормированной системой Takenaka–Malmquist из адаптивного разложения Фурье. Это свежая смежная работа по спектральным представлениям от 3 октября, но не эксперимент по речи: все количественные результаты получены на уравнениях математической физики.
Метод. Вместо дорогого последовательного поиска полюсов сеть предсказывает их внутри единичного круга по скрытым признакам и координатам. Обучаемые запросы агрегируют вход независимо от числа узлов, а положения полюсов задают локализацию базисных функций. Признаки раскладываются по аналитическим ветвям в этом базисе; спектральный фильтр дополнительно зависит от предсказанных полюсов через SIREN. Поэтому меняется и представление, и обработка коэффициентов, и организация операторного блока, а не только FFT заменяется другой матрицей.
Результаты. На девяти задачах SAFDNO лучший на шести регулярных сетках. Относительная L2-ошибка для Burgers равна 0,00579 против 0,0112 у FNO; для Navier–Stokes 0,0684 против 0,1468, для Darcy 0,0054 против 0,0108. При переносе модели Darcy с сетки 32×32 на 128×128 без дообучения ошибка составляет 0,0643 против 0,1031 у FNO при 447 769 против 701 281 параметров. На структурированных нерегулярных задачах Transolver обычно лучше: например, Plasticity 0,0012 против 0,0039.
Ограничения. Нет речевого или аудиотеста, причинного потокового режима, оценки устойчивости к акустическому шуму и гарантии качественной реконструкции музыкальных составляющих. Локализация в пространственных задачах не равна готовому частотно-временному анализатору речи. Перенос на сигнал является возможной исследовательской гипотезой, а не установленным преимуществом над EMD, VMD или синхросжатием. Классическая теория ортонормированного базиса также не доказывает превосходство всей обученной сети при любых данных.
Фишка из статьи. Абляция на Navier–Stokes отделяет вклад адаптивного базиса от остальных изменений. Основная часть итогового выигрыша не получается одной заменой фиксированных частот.
| Вариант | Относительная L2-ошибка | Добавленное изменение |
|---|---|---|
| FNO | 0,1468 | Фиксированный Фурье-базис |
| SAFD в исходном блоке | 0,1344 | Предсказанный базис |
| SAFD и SIREN | 0,0962 | Адаптивное спектральное ядро |
| Полный SAFDNO | 0,0684 | Итоговый операторный блок |
Как это читать: разложение само по себе даёт умеренное улучшение, а наилучшее число относится к составной архитектуре. Для переноса в DSP полезно отдельно воспроизвести выбор полюсов, вычисление коэффициентов и фильтрацию, сравнивая их при одинаковом бюджете. Иначе эффект нейронного фильтра легко ошибочно приписать только адаптивному частотному представлению.
Источник. Оригинальное название: Stochastic Adaptive Fourier Decomposition for Operator Learning. arXiv:2610.04241; полный текст PDF.