Совместное обучение и обоснование образцовых срезов

arXiv: 2610.10.12927v1 Annuate Type: New Habrial: Major Language Models (LMS) превосходят различные задачи, извлекая пользу из знаний, аргументации in-context и вычисления тестового времени. Несмотря на эти сильные стороны, однотипные рассуждения по-прежнему уязвимы для распространения ошибок, поскольку последующие шаги зависят от предыдущих результатов модели, что затрудняет независимую переоценку слепых точек зрения. Для устранения этого ограничения мы разрабатываем текстит {совместное обучение}, который охватывает формирование разнородных партнеров и изучение эффективного сотрудничества между различными моделями. В частности, текстит {разрез модели} заменяет крупную модель более мелкими и разнородными моделями в рамках сопоставимого бюджета параметров, что позволяет проводить предварительную оценку доводов с точки зрения различных параметризаций моделей. Мы оцениваем наш подход по четырем направлениям