Выбор данных калибровки для сохранения неопределенности в квантовых языковых моделях
arXiv:2608.21019v1 Квантизация широко используется для развертывания больших языковых моделей, но ее влияние на поведение неопределенности, такое как уверенность, поля и воздержание, редко рассматривается как основная цель. Мы подбираем калибровочные данные для квантования в качестве задачи…