HyPASE: гиперболическая донастройка для распознавания эмоций по речи

HyPASE решает задачу распознавания эмоций по речи через донастройку большой аудио-языковой модели, но делает это не обычной LoRA-прибавкой. Авторы исходят из идеи, что эмоции имеют иерархическую и неравномерную структуру: часть классов близка, часть редка, часть лучше переносится между корпусами. Поэтому они добавляют гиперболическое пространство, где такие отношения можно задавать через геометрию, а не только через линейный классификатор.

Метод. В HyPASE есть две основные части. HGA агрегирует признаки разных слоев в гиперболическом пространстве и должен лучше сохранять крупно- и мелкозернистые эмоциональные связи. EMCA добавляет несколько ветвей емкости и прототипные эмоциональные якоря; радиальная регуляризация в шаре Пуанкаре заставляет модель упорядочивать классы не только по углу, но и по расстоянию от центра. По сравнению с обычной параметрически эффективной донастройкой это попытка явно задать структуру пространства эмоций.

Результаты. На MELD HyPASE получает UA 50.59, WA 68.97 и F1 53.32. Это выше LoRA по всем трем метрикам: 46.88, 65.43 и 47.84 соответственно. На IEMOCAP картина смешанная: UA растет до 82.13 против 78.90 у LoRA, но WA и F1 немного ниже LoRA, 79.08 и 78.38 против 80.60 и 79.28. В переносе без дообучения с MELD на другие корпуса HyPASE заметно лучше базового Qwen2-Audio: на SAVEE 66.67 WA против 30.83, на RAVDESS 56.33 против 50.42, на IEMOCAP 76.14 против 51.52.

Ограничения. Улучшения сильнее всего видны на MELD и в zero-shot переносе; на IEMOCAP модель не доминирует по всем метрикам. Метод чувствителен к настройкам геометрических потерь: в приложении авторы показывают, что слишком большая температура или радиальная регуляризация могут обрушить WA примерно к 30%. Поэтому это не "включил гиперболу и забыл", а аккуратная инженерная надстройка.

Фишка из статьи. Абляция показывает, что важна не только сама гиперболическая геометрия, но и согласованная супервизия для нее.

Как это читать: простое добавление веток без правильных геометрических ограничений даже хуже изолированной HGA-ветки. Полный выигрыш появляется, когда архитектура и потери согласованы, а евклидовый аналог HGA+EMCA остается на WA 65.34.