Следуйте по графику: отслеживание процесса снижения безопасности и возвращение к данным о подготовке кадров

arXiv: 261 030.37481v 1 Annuales Type: новый резюме: тонкая настройка крупных языковых моделей (LMS) на данных о инструктаже может тихо подорвать их безопасность, даже если ни один пример обучения не выглядит вредным. Поскольку эти данные о разложении безопасности выглядят доброкачественными, фильтры стандартного содержания пытаются поймать их. Мы решим эту проблему, разработав метод SimpleLoRIF - масштабируемый градиентный встроенный метод, который выявляет точный пример, у которого уклоны совпадают с небезопасным поведением. Упрощая метод атрибуции на низком уровне и ограничивая обратный переход четырьмя конечными блоками трансформаторов, SystemLoRIF может вводить наборы данных по порядку миллиона примеров, повышая градиентное аккредитование из маломасштабного аналитического инструмента в практический фильтр для полных послеучебных наборов данных. Сначала мы подтвердим его на появлении неправильной связи, где градиенты могут увязать данные о ненадежности кода с широко вредными поведением после доработки, при этом AUC в пространстве градиентов отключённых моделей до 0,865.