Ортогональное и параметизированное многоатрибутное управление МЛМ

arXiv: 261 030.37517v 1 Annuate Type: New Habstractive: Enterputation Firering предлагает эффективный и действенный способ изменить поведение LLM в момент вывода. Вместе с тем остается неясным, каким образом следует применять рулевое управление таким образом, чтобы сигнал был постоянно сильным и сила рулевого управления имела универсальное толкование. Сначала мы будем решать эту проблему путем определения наиболее подходящего интервала для каждого вектора поворота рулевого колеса и соответствующего увеличения диапазона рулевого управления. Основываясь на этом, мы внедряем более интерпретируемый метод рулевого управления под названием "определенное управление", который вместо того чтобы толкать активацию в направлении, он определяет их желаемую силу. Затем, с многопутным управлением, мы наивно сочетаем векторы, что заставляет их вмешиваться друг в друга. В ответ мы разрабатываем метод ортогонализации векторов; он отделяет эти черты, позволяя модели проявлять одно поведение без побуждения других, что позволяет одновременно управлять несколькими чертами.