Совместное моделирование преференций и неадекватное принятие решений в крупных языковых моделях

arXiv: 261 0333651v 1 Annuales Type: кросс-бюллетень: Определены ли предпочтения крупных языковых моделей (LMS) в стандартных задачах по сбору информации, спрогнозирующих их стратегическое поведение? агенты ЛМ, взаимодействующие с людьми и другими системами ИИ, сталкиваются с потенциально противоречащими друг другу целями, такими как индивидуальное благосостояние, групповое благополучие и экологические проблемы. Предыдущая работа характеризует предпочтения ЛММ с помощью поведенческих, экономических и психологических вычислений или стратегических игр, но редко проверяет последовательность различных параметров и прогнозирование в других стратегических средах. Это требует моделирования того, каким образом конкурирующие цели совместно определяют поведение, в то время как существующие подходы обычно измеряют аспекты преференций изолированно. Опираясь на теорию полезности, мы внедряем модель преференции-поведений (ПБР), которая сочетает представление преференций с механизмами, обеспечивающими несовершенную максимизацию полезности. Мы формулируем оценку как обратно-игровую проблему, совместно вынося предпочтения и поведенческие параметры из наблюдаемых параметров