Избыточность квантователя и точная перекодировка индексов в замороженном нейросетевом аудиокодеке
В конкретном нейросетевом кодеке повторные ступени скалярного квантования используют одинаковые немасштабированные сетки и порождают сильно зависимые индексы. Автор сжимает именно эту избыточность, сохраняя веса, все входы декодера и его порядок операций. Результат полезен как инженерный разбор представления данных, но не означает улучшения исходного качества звука или универсального нового низкобитового кодека.
Метод. В идеальной арифметике продолжение последовательности индексов после первой ступени во многом предсказуемо: для чётной сетки возникают чередования двух центральных значений, для нечётной — нулевые остаточные вклады. Реальные float32-исключения сохраняются целиком, поэтому точность восстановления не зависит от верности идеальной модели. Предиктор дополняют адаптивным кодированием контекста и выбором минимального из трёх готовых полезных блоков с явным заголовком.
Результаты. На 512 файлах итоговый полный поток занимает 129,591 кбит/с с заголовками против 174,988 кбит/с у исходных индексов, сжатых XZ: экономия 25,943%. На 62 файлах — 142,696 против 193,606 кбит/с. Независимые читатели точно восстанавливают индексы и метаданные всех 574 файлов; побитовое совпадение латентных представлений и сигнала подтверждено в исходных CPU-запусках. Поздние эксперименты с упаковкой не повторяли нейросетевой вывод.
Ограничения. Обе выборки использовались при разработке кодирования и не являются независимой случайной проверкой. Модель и исходные материалы не опубликованы, разделение с обучающими данными полностью не установлено. Полная цена генерации трёх кандидатов не измерена; потоковая обработка и случайный доступ не проверялись. Точное сохранение относится к индексам конкретной реализации, а не к исходному аудио, уже прошедшему сжатие с потерями.
Фишка из статьи. Эквивалентность в вещественной арифметике недостаточна для побитовой эквивалентности декодера. Попытка заменить исходные суммы каноническими значениями меняет все 62 восстановленные записи, пусть и очень слабо.
| Проверка | Наблюдение | Следствие для формата |
|---|---|---|
| Исключения предиктора, 62 файла | 2 из 15 864 832 кортежей | Оба сохраняются полностью |
| Исключения предиктора, 512 файлов | 10 из 121 807 104 кортежей | Редкость не позволяет игнорировать их |
| Каноническая замена, 62 файла | Меняет все сигналы; max |Δ|=1,654×10⁻⁶ | Исключена из результата без потерь |
| Исходные индексы и порядок суммирования | Побитовое совпадение в исходных CPU-проверках | Сохраняются как контракт декодирования |
Как это читать: почти всегда верный предиктор годится для сжатия, если все исключения кодируются точно. Он не даёт права упрощать вычисления декодера, даже когда численная разница кажется неслышимой.
Источники. Страница arXiv; PDF статьи. Оригинальное название: Quantizer Redundancy and Exact Index Recoding in a Frozen Neural Audio Codec.