Реклама

Соревнование по гвоздям объясняет масштабирование при отборе проб для выявления поддающихся проверке проблем

#Соревнование #Annuate #Type #Humber #Brief

arXiv: 2610.19362v1 Annuate Type: New Humber Brief: Лучший из N - это простая стратегия масштабирования времени для больших языковых моделей, однако его поведение при неполных моделях вознаграждения остается плохо понятным. Мы изучаем "Лучший из N" как соперничество между экстремальными наградными хвостами правильного и неправильного ответа. Эта точка зрения показывает, что успех зависит не только от вероятности выбора правильного ответа на выборку, но и от того, доминируют ли правильные ответы в верхнем хвосте. Используя теорию экстремальной ценности, мы характеризуем три асимптотических режима: правильную-доминированную, неправильную-преобладающую и критически объясняя как монотонные выгоды, так и деградацию в результате награждения. Мы далее выбираем законы о масштабировании конечных выборок для представительных распределения вознаграждений, демонстрируя, что в соответствии с гассианскими наградами неправильные ответы с достаточно большими различиями могут доминировать в отборе даже тогда, когда их среднее вознаграждение ниже. В отличие от выбора оракул, совпадение с неполным отбором