От 2,1 млн часов необработанного эфира к самообученной модели финской речи: фильтрация по уверенности и анализ архитектур
Работа прослеживает весь путь от 2,1 млн часов вещательного аудио до крупной самообученной модели финской речи и показывает, что качество отбора важнее простого объёма. Уверенность распознавателя отфильтровывает данные лучше языкового классификатора даже при одинаковой доле сохранённых часов.
Метод. После определения речи остаётся 1,2 млн часов, после удаления повторов — 890 тыс., а порог уверенности −0,1 оставляет 471 тыс. часов, из которых 99% распознаны как финские. На одном наборе данных сравниваются Transformer, Conformer и E-Branchformer от 95 млн до примерно миллиарда параметров.
Результаты. Для 95-миллионной модели Conformer даёт WER 5,69% на Common Voice, 10,56% на FLEURS и 22,71% на KAVI; Transformer — 9,74%, 13,02% и 24,85%. При удержании примерно 72% данных фильтр уверенности лучше LID в трёх из четырёх тестов. На масштабе около миллиарда параметров различия архитектур уменьшаются: Transformer получает 3,85/19,54% на Common Voice/KAVI, Conformer — 3,68/20,75%.
Ограничения. Обучение требует чрезвычайно большого вычислительного бюджета LUMI и 4,6 тыс. часов размеченной речи для последующего дообучения. Проверен один язык; фильтр уверенности наследует предпочтения исходного распознавателя и может вымывать диалекты и сложные акустические условия.
Фишка из статьи. Больше сырых часов и более глубокий свёрточный кодировщик не дают монотонного выигрыша.
| Решение | Объём/масштаб | Наблюдение |
|---|---|---|
| Порог уверенности −0,1 | 471 тыс. ч, 53% | 99% финской речи |
| Уверенность против LID | около 72% сохранено | лучше в 3/4 тестов |
| Conformer против Transformer | 95 млн параметров | явный выигрыш |
| Те же семейства | около 1 млрд | преимущество неустойчиво |
Как это читать: фильтрация убирает почти половину уже очищенного корпуса и всё равно улучшает представления. Архитектурный вывод зависит от масштаба: преимущество локальных свёрток заметно у базовых моделей, но не гарантируется у крупнейших.
Источник: arXiv:2610.13102. Оригинальное название: From 2.1M Hours of Raw Broadcast Audio to Finnish Speech SSL: Confidence Filtering and Architectural Analysis at Scale.