Всегда ли экспертная речь улучшает синтез: отрицательные результаты оптимизации предпочтений

Хорошая экспертная запись не обязательно является полезной целью для уже обученного синтезатора. В этой работе качество демонстрации, вероятность её акустических элементов у ученика и качество новых генераций рассматриваются отдельно. Получаются показательные отрицательные результаты: обучение предпочтениям может сильно ухудшить понятность, а промежуточная цель иногда лишь уменьшает ущерб, не превосходя исходную модель.

Метод. Проверяются CosyVoice и GPT-SoVITS, реальные записи и синтетический эксперт Qwen3-TTS, четыре цели DPO, WPO, APO-zero и NCA. В прямом режиме предпочтительна полная экспертная последовательность. В Bridge она сначала сочетает экспертный префикс с продолжением ученика, затем вводится полная экспертная цель и обновлённые отрицательные примеры. Отношение префикса выбирается по вероятностному критерию, не по качеству звука. На фиксированных экспертных и исходных последовательностях отдельно измеряются изменения логарифмического правдоподобия.

Результаты. Для CosyVoice с реальным LibriTTS и DPO при β=0,1 WER LibriTTS составляет 4,59% против 3,87% до настройки. Снижение β до 0,01 увеличивает его до 29,78%, а на SEED TTS Eval с 6,33 до 63,02%. APO-zero и NCA в тех же двух точках гораздо стабильнее. С синтетическим экспертом Qwen3-TTS прямой DPO, наоборот, улучшает LibriTTS WER до 3,27% и SEED до 2,60%, хотя вероятность фиксированных экспертных последовательностей уменьшается. Вероятностная подгонка и полезность генерации действительно могут расходиться.

Ограничения. Исследованы конкретные ученики, источники и всего два значения β, без доказательства оптимальности диапазонов. WER, сходство диктора и NISQA не заменяют прослушивание. Мелкие разницы являются точечными оценками; даже статистика по клипам условна на обученных контрольных состояниях. Bridge одновременно меняет состав целей, стадийность и отрицательные примеры, поэтому эффект нельзя целиком приписать одному экспертному префиксу.

Фишка из статьи. «Лучше прямой настройки» не означает «лучше исходного синтезатора». Таблица 3 особенно ясно показывает это для реального экспертного материала и β=0,1.

Как это читать: промежуточное обучение восстанавливает часть понятности, но все четыре результата остаются хуже исходного по WER. При смене эксперта знак эффекта Bridge может поменяться. Для собственного эксперимента необходима строка исходной модели и независимые метрики генерации, иначе смягчение деградации легко ошибочно назвать улучшением качества.

Источник. Оригинальное название: Does Expert Supervision Improve Text-to-Speech? An Empirical Study of Preference Optimization. arXiv:2610.25292; полный текст PDF.