Преодоление преференционных барьеров: надзор за тем, как ведётся тонкая подача в рамках системы распределения хвостов на большие расстояния

arXiv: 2610.12345v1 Annuate Type: New Hightreat: Controled-Toduction (SFT) адаптирует заранее подготовленные модели большого языка (LMM) к заданиям низового уровня, однако требуемые концепции могут получать значительно различные уровни предварительной поддержки. Частые концепции скорее всего будут хорошо извлечены, в то время как редкие концепции могут оставаться слабо представленными. Мы введем новое понятие, названное преференционным барьером для количественной оценки того, насколько хорошо предквалифицированная модель поддерживает конкурирующие концепции по сравнению с концепцией цели. Мы отмечаем, что в основе предыдущих барьеров лежит концепция распределения хвоста и головы на разных начальных этапах СФТ: концепции головной части сталкиваются с более низкими преференционными барьерами, тогда как концепции хвостовой породы требуют дополнительных инструкций для преодоления своих более высоких ранее существовавших барьеров. Наш теоретический анализ также позволяет предположить прогнозируемый риск, связанный с СФТ при наличии преференционных барьеров на длительном уровне и четко характеризующий то, каким образом предыдущий барьер и накопленные данные о СФТО совместно определяют эффективность прогнозирования. Мотивируется tii