В отношении контекста чувствительность моральных суждений ЛЛМ

arXiv: 2603 231114v2 Annuales Type: заменить перекрестное резюме: моральное решение человека в значительной степени зависит от контекста. Тем не менее исследования по вопросам морали ЛММ в значительной степени изучались постоянные сценарии. Мы устраняем этот пробел, введя контекстуальную мораль - набор данных о моральных дилеммах с систематическими контекстуальными изменениями, известными от моральной психологии к изменению человеческого мнения: конъюнктурный, эмоциональный и релятивный. Оценивая 22 МЛМ, мы обнаруживаем, что почти все модели чувствительны к контексту и переключают свои суждения на поведение, которое нарушает правила. Сопоставив с человеческим обследованием, мы обнаруживаем, что модели и люди в наибольшей степени вызваны различными контекстуальными колебаниями и что модель, согласованная с человеческими решениями в базовом случае, не обязательно увязана с ее контекстуальной чувствительностью. Это поднимает вопрос о контроле контекстуальной чувствительности, который мы рассматриваем с помощью подхода к активации рулевого управления, способного надежно увеличить или уменьшить контекстуальную чувствительность модели. Код и данные: https://github.com/a