Почему некоторые эмоции тяжелее для МЛМ? Раскрыть причинно-следственные механизмы эмоциональных последствий с помощью Sparse Autoencoders
arXiv:2604.25866v3 Annuales Type: заменить резюме: Большие языковые модели (LMM) все чаще используются в эмоционально чувствительных прикладных программах для человека-АИ, где важное значение имеет надежное обнаружение эмоций. Однако их способности к распознаванию эмоций остаются неравномерными: модели часто хорошо работают на одних чувствах, но постоянно борются с другими. Несмотря на то, что в последнее время были изучены эмоциональные механизмы в МЛМ, мало известно о том, почему модели слабее по некоторым эмоциям по сравнению с другими с точки зрения механистической интерпретируемости. В рамках этой работы мы расследуем предубеждение по отношению к конкретным эмоциям с помощью причинно-следственных механизмов, позволяющих сделать вывод о наличии эмоций при использовании малозначительных автогенкодаторов (САЕ). Мы систематически выявляем причинно-следственные узкие эмоциональные особенности, которые вызывают эмоции и анализируют их незначительную причинную структуру внутри и между эмоциями. Мы показываем, что некоторые эмоции, такие как сюрприз и страх, опираются на высококонцентрированные наборы характеристик, в то время как отвращение проявляется более широко распространенной слабой причинно-следственной организацией: ее c
