Эмпирическое исследование законов об укреплении системы обучения

Компьютерные науки > Машинное обучение [представлено 24 октября 2026 года] Название: Эмпирическое исследование по укреплению законодательства в области расширения масштабов обучения с точки зрения PDF HTML (экспериментальное) Резюме: Открытие законов о масштабировании позволяет прогнозировать эффективность, оптимистичную стратегию распределения ресурсов и наилучшую конфигурацию крупномасштабной учебной работы на основе недорогих экспериментов в меньших масштабах. Руководствуясь этими эмпирическими законами о расширении масштабов деятельности, сообщество глубокого обучения добилось больших успехов в подготовке крупных (самоуправляемых) моделей по наборам данных в масштабе Интернета. В отличие от этого, несмотря на его потенциал и широкое применение, более эффективное обучение (УО) еще не нашло руководящего принципа для предсказуемого расширения масштабов. В этой работе мы проводим эмпирическое исследование законов RL масштабирования актерско-критического алгоритма в двух процедурно созданных средах: Старпилоте и Кравтаксе. Мы обнаруживаем эмпирические законы масштабирования с сильными прогнозными показателями в обеих средах. Законы о расширении масштабов, которые были открыты, точно предсказывают три вышеупомянутых количества для более масштабных учебных работ до двух порядков в общем количестве учебных показателей. В частности, мы используем вариант оценки Elo для парадигмы одного агента RL в качестве альтернативной метрики эффективности по сравнению с широко используемым…