
Rumble-2-Flash распознаёт речь на 40+ языках и запускается локально
18 ноября Reson8 открыла веса Rumble-2-Flash, модели распознавания речи на 500 млн параметров. Она преобразует аудио в текст, автоматически определяет язык и поддерживает более 40 языков, включая русский и украинский. До этого, с 3 ноября, модель была доступна через облачный API Reson8.
Веса можно бесплатно скачать из репозитория на Hugging Face и использовать в том числе в коммерческих проектах на условиях Apache 2.0. Опубликованные файлы занимают около 1,39 ГБ. Для локального запуска в карточке модели есть примеры с Transformers и vLLM.
По данным Reson8, средняя доля ошибок на девяти языках в Open ASR Leaderboard составила 6,96%. Для китайского считали ошибки по символам, для остальных языков — по словам. В этой выборке Rumble-2-Flash показала меньшую долю ошибок, чем Meta omniASR-LLM 7B и OpenAI Whisper large-v3.
На наборе AppTek с 302 часами звонков и 14 вариантами английского произношения модель показала 7,86% ошибок по словам (WER). У NVIDIA Nemotron 3.5 Transcribe с 30 млрд параметров результат составил 7,78%. Разница в этом тесте — 0,08 процентного пункта.
В карточке модели указано, что тесты Open ASR Leaderboard проводили на NVIDIA H200 с vLLM. На крупных наборах при полностью заполненных пакетах пропускная способность превышала скорость реального времени в 7 000 раз. В пересчёте это около часа аудио за полсекунды, если складывать длительность записей, обработанных параллельно. Время расшифровки отдельного файла на домашнем ПК зависит от оборудования и способа запуска.
Rumble-2-Flash ориентирована на расшифровку готовых записей. По документации Reson8, разметка по говорящим и определение конца реплики доступны у старшей Rumble-2. Для обработки через облачный API в тарифе Scale указана ставка €0,01 за час записанного аудио без НДС. Сам тариф стоит €100 в месяц.