Реклама

Структурный налог: каким образом структурированный продукт влияет на эффективность работы МЛМ

#Структурный #Annuales #Type #Habretainment #Развертывание

arXiv: 2610.12056v1 Annuales Type: New Habretainment: Развертывание крупных языковых моделей в производстве часто требует ограничения выпуска таких структурированных форматов, как JSON или XML. Мы вновь рассматриваем это утверждение, оценивая аккумулятор моделей, наборов данных и схем, измеряя точность задач, калибруя доверие и скрытую геометрию. Как оказалось, налог зависит от схемы, а не от структуры как таковой: заказ на первое поле совпадает или превышает точность свободной формы, в то время как ответные заказы вызывают резкие падения, особенно при небольших моделях. Форматные шкалы чувствительности обратно с собственными структурными ограничениями задачи, и схемы, которые сохраняют рассудительный порядок также улучшают калибровку, показав большую отделимость между правильными и неверными представлениями в средних слоях трансформатора. Наши выводы показывают, что надлежащим образом структурированные форматы могут соответствовать или превышать бесплатную форму для