Реклама

Выбор данных калибровки для сохранения неопределенности в квантовых языковых моделях

#Выбор #Квантизация #Различные #Doubt-Preserving #Quantization

arXiv:2608.21019v1 Квантизация широко используется для развертывания больших языковых моделей, но ее влияние на поведение неопределенности, такое как уверенность, поля и воздержание, редко рассматривается как основная цель. Мы подбираем калибровочные данные для квантования в качестве задачи…