Самосовершенствование моделей крупных языков: технический обзор и перспективы на будущее
arXiv:2603.25681v3 Вид уведомления: заменить резюме: Поскольку крупные языковые модели (LMS) продолжают развиваться, их совершенствование исключительно за счет надзора со стороны человека становится все более дорогостоящим и ограниченным в плане масштабируемости. По мере приближения моделей к возможностям человека в определенных областях обратная связь с людьми может уже не служить достаточно информативным сигналом для дальнейшего улучшения. В то же время растущая способность моделей принимать автономные решения и осуществлять сложные действия, естественно, позволяет абстрагироваться в тех случаях, когда компоненты процесса разработки модели могут постепенно автоматизироваться. В совокупности эти проблемы и возможности привели к повышению интереса к самосовершенствованию, когда модели самостоятельно генерируют данные, оценивают результаты и итеративно совершенствуют свой собственный потенциал. В настоящем документе мы представляем системный подход к самосовершенствованию языковых моделей и введем единую систему, которая организует существующие методы. Мы концептуализируем систему самосовершенствования:
