Все началось вообще не с идеи написать очередной бенчмарк. Мне нужно было собрать локальный пайплайн для длинных подкастов: получить транскрипт, найти в нем интересные куски, выбрать несколько сильных фрагментов и уже из них делать короткие вертикальные ролики. Облачные модели с этой задачей справляются, но постоянно гонять туда длинные расшифровки не очень хотелось. Плюс было интересно понять, насколько далеко сейчас можно уехать на железе. Под рукой была GTX 1080 Ti на 11 ГБ. Карта 2017 года, архитектура Pascal, никаких Tensor Cores. Так из прикладной задачи постепенно вырос небольшой домашний стенд. Я прогнал три модели в одинаковых условиях, отдельно проверил длинный контекст, затем сделал свой набор reasoning‑задач и сравнил режимы с размышлением и без него. Результаты получились не совсем такими, как я ожидал. Читать далее
Все началось вообще не с идеи написать очередной бенчмарк. Мне нужно было собрать локальный пайплайн для длинных подкастов: получить транскрипт, найти в нем интересные куски, выбрать несколько сильных фрагментов и уже из них делать короткие вертикальные ролики.
Облачные модели с этой задачей справляются, но постоянно гонять туда длинные расшифровки не очень хотелось. Плюс было интересно понять, насколько далеко сейчас можно уехать на железе.
Под рукой была GTX 1080 Ti на 11 ГБ. Карта 2017 года, архитектура Pascal, никаких Tensor Cores.
Так из прикладной задачи постепенно вырос небольшой домашний стенд. Я прогнал три модели в одинаковых условиях, отдельно проверил длинный контекст, затем сделал свой набор reasoning‑задач и сравнил режимы с размышлением и без него. Результаты получились не совсем такими, как я ожидал.
Похожие статьи
Двач
Двач
Маленький вкусный малыш не хочет упаковываться, ну что ж… тогда съедим эту булочку так
Маленький вкусный малыш не хочет упаковываться, ну что ж… тогда съедим эту булочку так
СМИ: банк Swissquote начал закрывать счета россиян, проживающих в Швейцарии
Швейцарский банк Swissquote и его дочерняя компания Yuh начали закрывать счета россиян, проживающих в Швейцарии, пишет местное издание Inside Paradeplatz со... РИА Новости, 15.08.2026
СМИ: концерт Канье Уэста в Алма-Ате перенесли на субботу из-за непогоды
Концерт американского рэпера Канье Уэста (Ye) на Центральном стадионе Алма-Аты, который должен был состояться 14 августа, перенесли на субботу из-за сильного... РИА Новости, 15.08.2026
СМИ: ADNOC заявила об атаке ее судна в Ормузском проливе
Эмиратская нефтегазовая компания ADNOC заявила, что ее судно подверглось атаке в Ормузском проливе, пострадавших нет, сообщает агентство Рейтер со ссылкой на... РИА Новости, 15.08.2026
