arXiv:2610.20175v1 Аннонс Тип: новое резюме: Параллельные составители, такие как DFlash и DSpark, сокращают запоздалость предложения, но ранние несоответствия ограничивают количество из каждого блока....
Как Splash ускоряет локальные языковые модели на Mac? Разбираем спекулятивное декодирование DFlash 2, результаты тестов разработчиков и ограничения движка. Объясняем, что учитывать при выборе Q4 или Q...
arXiv:2609.36173v1 Анонс Тип: перекрестное резюме: Параллельные спекулятивные формулировки генерируют несколько кандидатов в одном основном пропуске, но независимый отбор символов может привести к неп...
Хабр
Помните DFlash? В начале года о нём много шумели: способ ускорить любую LLM, не трогая саму модель. Nvidia тогда выкатила заголовки «До 15x к пропускной способности на Blackwell» . Цифра весомая, звуч...
arXiv:2608.20530v1 Спекулятивное декодирование ускоряет вывод языковой модели путем составления будущих токенов, которые целевая модель проверяет параллельно. Голова блока в стиле диффузии, такая как ...
arXiv:2608.20375v1 Спекулятивное декодирование на основе дерева поднимает средние принятые токены стандартного спекулятивного декодирования, проверяя несколько набросков путей, и существующие строител...
arXiv:2608.20743v1 Спекулятивное декодирование ускоряет авторегрессивную генерацию, позволяя легковесному составителю предлагать будущие токены, в то время как целевая модель проверяет их параллельно....
Article URL: https://inco.ai/blog/dflash2/ Comments URL: https://news.ycombinator.com/item?id=49366792 Points: 34 # Comments: 5