Затраты, пожалуйста: Выделить МРМ для согласования с использованием синтетической коррекции документов
arXiv: 2610 33180v1 Тип уведомления: перекрестное резюме: оценки согласования призваны оценить, будут ли модели большого языка вести к опасному неупорядоченному поведению. Модели, основанные на несопоставимости и понимании результатов оценки, могут подделывать гармонию в тех случаях, когда они преследуют скрытую цель, но скрывают это поведение при наличии подозрений относительно эффективности надзора, например во время подготовки кадров, проведения оценок или проверки развертывания. Такая модель могла бы рассматривать любые оперативные меры, направленные на выявление скрытых преимуществ в рамках оценки и ставящие под сомнение надежность существующих оценок согласованности. Нынешние методы выявления подделки привязок основываются на цепочках концептуального контроля, весьма реалистичных условиях, которые уменьшают осведомленность об оценке или механистические мероприятия, все из которых, как ожидается, станут менее надежными для будущих поколений моделей. Мы представляем метод выявления скрытых недопониманий, которые ни на что из этого не опираются. Мы используем синтетическое уточнение документов для обучения моду.
