ParetoRSI-Gym: Могут ли агенты АИ усовершенствовать языковые модели по многим доменам?

arXiv: 261 030.34386v 1 Annuate Type: New Humber: Recursive самосовершенствование (RSI) требует агентской системы для проектирования, подготовки и оценки собственного преемника. Одним из центральных элементов этого цикла является обучение, ориентированное на конкретные данные, однако существующие оценки позволяют измерить его по единому контрольному параметру, когда агент выбирает из статического пула или дистиллирует более сильную модель для повышения одного балла за один прогон. Реальная послеучебная подготовка является многодоменной, и выигрыш в одной области следует взвешивать с регрессией в другой. Мы предлагаем ParetoRSI-Gym, в котором агент ищет данные, курует их, поезда, читает результаты по каждому домену и повторяется со всеми данными, кроме фиксированных: начальный LLM, пять областей (математические, коды, финансы, медицина, наука), инструментарий и трубопровод SFT. В каждой области обобщенные контрольные показатели являются отдельными выгодами для потенциала, поскольку они не соответствуют тем оценкам, которые оптимизируют агенты. В трех системах агентов, трех базовых моделях, пяти раундах и множестве семян, самой сильной системе — Cl