Совершенствование процесса связывания рациональных моделей на основе длительного противопоказателя

arXiv: 261 030.34336v 1 Annuales Type: New Humber Abstract: Крупные модели рассуждений стоят дорого, потому что они большие и создают длинные цепочки мышления (CT). Обрезка веса и компрессия coT касаются этих двух издержек отдельно, но они вмешиваются в это стирание добавляют ненужные рассуждения по проблемам, которые модель все еще решает, и неполные доводы по тем из них, что она больше не решает, а при решении более сложных проблем модель становится менее сжатой благодаря последующей оптимизации привязки к длине. Мы отследим это до слепой точки с каждой стороны: критерии обрезки не отличают необходимости от ненужных рассуждений, и компрессия на основе преференций не получает никакого сигнала о подготовке по проблемам, которые всегда или никогда не решаются износившейся моделью. Мы предлагаем противопоставить сет-различие (КУР), которое определяет нейроны, обогащенные излишними рассуждениями путем сравнения их активации на длинных и коротких правильных решениях той же проблемы, и отдаёт им предпочтение, и мы распространяем предпочтения парам проблем pr.