Немотрон-лабсы - диффузион - Юни: Элистическая саморефлексификация унифицированная дистилляция LLM с межрадиговой дистиллацией на уровне политики

arXiv: 261 0366466v 1 Annualce Type: New Humber Abstract: Мы предлагаем Nemotron-Labs-Difsumputing-Uni (NLD-UНИ) - унифицированную дискретную многоязыковую модель для визуального понимания и выполнения задач поколения. По сравнению с предыдущими унифицированными моделями распространения НЛД-Уни ввела два основных новшества. Во-первых, мы предлагаем унифицированную систему межпарадигма на уровне политики дистилляции (ОПД), которая успешно передает способность к визуальному пониманию авторегрессивных VLM и способности визуального генерации моделей непрерывного потока в единый DLM. Во-вторых, НЛД-Уни включает в себя новый прогрессивный процесс распространения самоочищающихся материалов, который постепенно искажает каждый символ на различных этапах обучения, а не использование обычной формы распространения с маскированной формой, которая напрямую портит символ чистого изображения до знака неинформационной маски. В заключение следует отметить, что этот проект позволяет НЛД-Уни взять на себя промежуточные обязательства и дать возможность постепенной самоочистке для улучшения визуального качества. Через обширных экспери