Сфера убеждений: анализ доказательств - пересмотр суждений и изменение давления в крупных языковых моделях
arXiv: 2610.11305v1 Вид уведомления: новое резюме: Языковая модель может пересмотреть то же самое предложение после получения действительно значимых доказательств или после того, как будет оказано давление со стороны пользователя, которое не добавляет никакого значимого факта. Таким образом, наблюдаемый сдвиг в уровне реагирования сам по себе не показывает того, какой источник привел к изменению. Мы введем систему Вероучения, контролируемую черную коробку для разделения этих двух источников влияния вокруг фиксированного целевого предложения. Вера пересекается с доказательствами и давлением при помощи местных механизмов контроля, учитывающих конкретные факторы, и измеряет изменения в реагировании посредством сообщений о вероятностях, категорических оценок и практических рекомендаций по соответствующим диапазонам. Чтобы определить, когда эти наблюдаемые контрасты подтверждают надежное распределение, мы оцениваем проект наблюдения в контролируемых синтетических условиях. Известная регенерация правды и целенаправленные абляции определяют, где можно отделить эффекты, связанные с доказательствами и давлением, в то время как полусинтетические тесты на стресс показывают, каким образом изменяется возможность восстановления
