Могут ли МЛМ доверять надлежащим образом? Оценка калиброванной зависимости от несовершенных партнеров
arXiv:2610.34107v1 Вид уведомления: перекрестное резюме: Большие языковые модели все более тесно сотрудничают с людьми и агентами АИ, чьи материалы могут быть неполными, непоследовательными или неточными. Эффективное сотрудничество требует взвешенного доверия, при котором решения о том, чтобы полагаться на партнера, проверять его или оказывать ему помощь в рациональной адаптации по мере накопления эмпирических данных. Мы расследуем вопрос о том, могут ли модели привести к тому, что данные партнеров будут использоваться в рамках надлежащей политики опоры. Мы ввели контрольный показатель из 324 сценариев по 23 категориям сотрудничества. Каждый сценарий предусматривает принятие трех последовательных решений с четко выраженной переходной динамикой, обратной связью выбросов и графиком расходов, что позволяет точно анализировать выбор вариантов с учетом ожидаемых последствий их осуществления по отношению к оставшемуся взаимодействию. Анализируя семь моделей наряду с 36 контрольными ретроспективами истории, мы отделяем чувствительность доказательств от нормативных действий. В то время как наиболее сильная модель на границе подходит к почти оптимальным решениям, другие модели показывают, что
