Перевод субтитров Context-Aweare на CPU: Driven Training, Evaluation and Latenity Design
arXiv: 2607.0957v3 Annuate Type: заменить резюме: мы изучаем перевод субтитров с английского на китайский язык (Тайван) для бесплатного расширения браузера, где модель должна работать на процессоре зрителя примерно 500 мс за субтитр. Мы готовим две модели, основанные на базовых моделях LMT-60: Sotto-1.7B и развернутые Sotto-0.6B с конкретным терминологией, непрерывной предварительной подготовкой, контролируемой корректировкой, интерполяцией веса, перегонки логитов и оптимизацией преференций в рамках политики. Поскольку справочные переводы субтитров ненадежны, мы оцениваем их по парному сопоставлению с одним фиксированным исходным показателем Google Translate, при этом каждая пара оценивается в обоих приказах группой из двух судей LLM. На 1 820 оставленных субтитров, Sotto-1.7B имеет победу в 0,576 против базовой и получает от головы четыре открытых модели перевода и несколько ниже 27В модели. Мы разделили латентность на предварительное заполнение и декодирование: заправка в режиме холостого времени, что предварительно заполняет известную часть сигнала во время ожидания nex
