U-Space: Непонятное, когда и почему неопределенность возникает в языковых моделях

arXiv: 2610,09087v 1 Annuate Type: New Habstract: Major Language Models formula_BAR_(Модели большого языка, которые являются источником информации для принятия решений с все более высокими ставками. По мере роста последствий их ошибок становится все труднее проигнорировать главный вопрос: насколько мы можем доверять ответу отдельного человека? Однако определить, когда откладывать, по-прежнему трудно, так как языковые модели могут давать неправильные выводы с красноречивыми объяснениями и авторитетным тоном. Количественная оценка факторов неопределенности призвана устранить это несоответствие путем оценки надежности отдельных прогнозов. Однако многие существующие методы требуют много поколений или отдельно подготовленных компонентов, и их скалярные оценки не показывают, где возникает неопределенность и как она развивается в ходе рассуждений. Недавняя работа также показала, что продолжительность поколения может быть тесно связана с оценками неопределенности и правильностью, в связи с чем возникает вопрос о том, насколько прогнозируемая способность оценщика зависит от конкретной информации по неопределенностям, а не только от длины выпуска. Механизм i