Не учится ли неживому сотрудничеству? Необучаемые группы общего образца LLM

arXiv: 2610.25731v1 Сообщение типа: новое резюме: необучаемое обучение LLM необходимо для удаления чувствительных или нежелательных знаний при сохранении полезных возможностей. По мере того, как группы ЛММ все чаще используются для решения сложных проблем, забвение должно оставаться эффективным в ходе сотрудничества. Несмотря на успехи в забвении эффективности, результативности и надежности процесса переобучения, развертывание групп по-прежнему недостаточно изучено. Мы считаем, что сотрудничество ослабляет забвение: в оценках окончательных ответов отсутствуют извлеченные доказательства в коллективных сообщениях, включая дополнительные подсказки для поддержки совместного восстановления. Теоретически мы устанавливаем и эмпирически подтверждаем, что контроль за окончательным ответом или индивидуальным сообщением не обеспечивает низкого восстановления от их сочетания. Для решения этой проблемы мы предлагаем осуществить агрегацию и избежать обучения (АКУ). КГБ готовит общую модель с использованием реконструкционных отзывов, полученных из индивидуальных и объединенных сообщений, определяет приоритетность мнений с повышенным риском восстановления и использует систему кредитования на основе замены