Играя в "Адвокат Дьявола": "Векторы-победители", специально предназначенные для сикофагирования
arXiv:2605.21006v3 Тип уведомления: заменить перекрестное резюме: Sycophancy - это тенденция языковых моделей согласовывать с пользователями независимо от правильности. В ходе предыдущей работы были извлечены переносчики сикофансовых персонажей и причинно-следственным образом проконтролированы эти свойства посредством активации рулевого управления (Chen et al., 2025; arXiv: 25007.2109). Мы задаемся вопросом о том, переносятся ли существующие векторы общих ролей, извлекаемые без учета сикофазий, на эту задачу по смягчению последствий. Мы сравниваем вектор критических и конформистских ролей с базовым показателем, ориентированным на сикофакцию противоестественного активации (CAA), при помощи уравновешивания контрольного показателя FilPapers с использованием коэффициента для конкретного задания. На Gemma 2 27B и Qwen 3 32B выбранные векторы критических ролей достигают среднего сокращения сикофантов-логита примерно на 68% и 98%, соответственно, таких же размеров, как у CAA. Эффект конформистской-роли слабый и неоднородный. Ролевые векторы имеют низкий абсолютный косинус с измеренным направлением CAA, что устанавливает геометрическое разделение при вмешательстве
