Использование модифицированных сенсационных представительств в крупных языковых моделях

arXiv: 2610,05069v1 Annuales Type: New Humber Abstract: Предварительная работа предполагает, что сентиментальные настроения часто можно запечатлеть приблизительно линейными направлениями в пространстве активации LLM, но одно направление может не полностью улавливать представления чувств. В естественной коммуникации чувства формируются не только полярностью, но и такими факторами использования, как тон и адаптация аудитории. Мы проверяем, систематически ли эти факторы изменяют представления настроений за пределы общих чувств. Мы составляем набор данных с регулируемыми парами, в котором содержание событий фиксируется при различных чувствах полярность и коэффициенты использования, а также анализируем Llama, Mistral и Gemma. Мы идентифицируем общее направление настроения, удалим его и проверим остаточную структуру с помощью стирания и тона в поколении. В рамках моделей общее направление является прочным (средний косинус 0,953-0,975), однако его удаление оставляет 0,833-099 от первоначальной нормы позитивного негативного представления - различия. Остатки содержат компактные, репроду