Существующие решения для диктовки текста меня не устраивали по одной и той же причине: голос уходит на чужой сервер, а за это ещё и просят подписку. Wispr Flow, Blabby, встроенный Win+H — всё либо в облаке, либо работает так, что проще напечатать.
Хотелось простого: нажал хоткей, сказал, нажал ещё раз — текст появился в том поле, где стоял курсор. Хоть в браузере, хоть в IDE, хоть в мессенджере. Локально. Бесплатно. Без прав администратора.
Получился WhisperType — MIT, Windows 10/11 x64, ~250 МБ после установки плюс 1.6 ГБ модели. Актуальная версия — 1.3.1. Ниже — как он устроен внутри, потому что интересная часть здесь не «прикрутил Whisper», а «заставил Whisper на голом CPU отвечать за секунду».
Модель — deepdml/faster-whisper-large-v3-turbo-ct2, то есть large-v3-turbo, сконвертированный в формат CTranslate2, в квантизации int8_float32. Репозиторий модели задаётся параметром конфига: кому нужна точность важнее скорости, ставит Systran/faster-whisper-large-v3 и получает более аккуратную расшифровку за в несколько раз большее время. Все замеры ниже — на turbo, Ryzen 5 7500F (6 ядер / 12 потоков), инференс только на CPU.
