См., MLP Refutions: Отслеживание путей обеспечения безопасности в рамках программы " Внимание к МLP >

arXiv: 261 010.13078v1 Annualte Type: New Humber: Safety-Treatment-Models (LLMS) попрежнему уязвимы для тюремных расставаний и могут чрезмерно отклонять доброжелательные запросы. Чтобы понять эти ошибки, нужно отличать вредоносность от вычислений, которые пишут отказ. Мы переформулируем это как вопрос пути и сделаем его измеримым на обновлениях остаточного потока в только декодерных Трансформерах, отделяя информацию о вредоносности, которую модифицирует модуль от изменений, которые он производит с помощью учитываемых доказательств отказа. В 18 парах базовых инструкций, охватывающих Qwen, Llama и Gemma, вредность более легко расшифровывается из обновлений внимания, особенно на ранних этапах, в то время как обновления MLP вносят больший вклад в создание необъективной записи отказа в согласованных моделях. Послеучебная подготовка укрепляет процесс написания отказов по ПМП во всех 18 парах без систематического повышения степени декодируемости вредных свойств, в то время как положительные результаты ПМП становятся более концентрированными после прохождения обучения в более глубоких слоях. По шести причинамi