Улучшение речи Фаза DSP
Улучшение речи

Фаза как круговая величина: GRE-Net для улучшения речи

PD 8.47

Это фазо-ориентированная статья про улучшение речи, которая хорошо дополняет обычные magnitude-first подходы. Авторы утверждают, что фазу нельзя удобно моделировать как плоский евклидов признак: у нее круговая топология, и сеть должна уважать глобальную вращательную эквивариантность. Главный ход - разнести magnitude и phase в два потока, но разрешить им обмениваться информацией так, чтобы фазовый поток сохранял геометрию.

Метод. В Magnitude-Phase Interactive Convolutional Module обмен между потоками идет через modulus-based gating, чтобы фаза не теряла эквивариантность к глобальному повороту. Bottleneck HADF объединяет attention и dual feed-forward структуру, снова сохраняя GRE в фазовом потоке. Модель проверяется не только на denoising, но и на отдельной задаче phase retrieval, dereverberation, bandwidth extension и смешанных искажениях, что делает работу ближе к DSP-анализу, чем к обычному сравнению PESQ.

Результаты. В phase retrieval на VoiceBank предложенная small-модель с 0.90M параметров и 22.89 GMAC/s дает PESQ 4.61, SI-SDR 16.03 dB, WOPD 0.044 и PD 8.47; у MP-SENet Update PD 11.38, у SEMamba 12.46, у DiffPhase 85.66. В denoising на VoiceBank+DEMAND полная модель 1.55M дает PESQ 3.598, STOI 0.960, SI-SDR 19.925, UTMOS 4.082 и PD 7.212. В zero-shot переносе на DNS-2020 Non-Reverberant она получает PESQ 2.920 и SI-SDR 17.867 против 2.790 и 16.277 у MP-SENet Update. На DNS-2020 при обучении на большом DNS-наборе модель достигает PESQ 3.645, SI-SDR 21.060 и PD 6.571.

Ограничения. Основные выводы держатся на объективных и reference-free метриках, а DNSMOS местами ведет себя иначе, чем фазовые и intrusive метрики. VoiceBank+DEMAND небольшой и может наказывать валидные изменения из-за особенностей clean reference. Стоимость 34.97 GMAC/s не выглядит бесплатной для мобильного вывода, а субъективного MUSHRA/MOS-прослушивания в статье нет.

Фишка из статьи. Сильнее всего убеждает не общий выигрыш PESQ, а абляция, где авторы намеренно ломают GRE в разных блоках. Фазовые метрики почти всегда сразу ухудшаются.

Вариант на DN+DR+BWEPESQSTOIUTMOSPDWOPD
Proposed2.2060.9283.59828.4130.462
break MPICM GRE2.0490.9173.39529.7110.493
break Attention GRE2.0430.9193.56430.1780.496
break FFN GRE2.1450.9263.61628.6520.469

Как это читать: один reference-free показатель UTMOS может слегка вырасти даже при нарушении FFN GRE, но PESQ, STOI, PD и WOPD в целом поддерживают фазовую гипотезу. Это редкий случай, где авторы прямо показывают, что индуктивное ограничение важно не только для среднего качества, но и для фазовой точности.

Оригинальная статья на arXiv