MLE-World: Прогнозирование результатов экспериментов в области машинного обучения с использованием накопленной мировой модели

Компьютерные науки > Машинное обучение [представлено 27 октября 2026 года] Название: MLE-World: Прогнозирование результатов экспериментов в области машинного обучения с использованием извлеченной модели PDF HTML (экспериментального) резюме: Исследовательские агенты AI могут предлагать, осуществлять и усовершенствовать программы решения задач по машинному обучению. Вместе с тем для осуществления каждой программы по кандидатам требуется обучение и оценка моделей ML, что ограничивает число кандидатов, которые могут быть изучены агентом на каждом этапе. Мы представляем MLE-World, всемирную модель с откорректированной на Qwen3.5-4B, которая предсказывает конечную выходку программы (отслеживающие действия, учебные журналы и оценки достоверности) из ее кода и описания данных без его выполнения вместе с надёжным счетом для определения точности предсказания. Поскольку прогнозирование стоит одного вывода, а не тренировочного процесса, MLE-World делает масштаб времени испытаний (TSTS) доступным для этих агентов. Мы строим пять направлений политики ТТС под руководством MLE-World, которые сравнивают несколько кандидатов на шаг с их прогнозируемыми результатами: последовательность в пересмотре, лучшее из N, Pairways судьi, Fusion и правило стиля UCB, которое также добавляет бонус от разведки с этой оценки уверенности. Поскольку предсказания могут быть ошибочными, мы действительно используем кандидата только тогда, когда его уверенность в себе является низкой. На 17 MLE-bench Lite,…