Разведка с целью определения корреляции для целей долгосрочного исследования
arXiv: 261 030,34949v1 Annualce Type: Cross Brieft: Рассознательные модели, подготовленные с помощью Group Orgenous Policy Оптимизации (GRPO), в настоящее время создают цепи мыслительных цепей на протяжении многих тысяч символов, и недавние исследования показывают, что такая подготовка подвержена краху политики. Энтропия регуляризации - это стандартное средство, но она работает путем отталкивания вероятностной массы от немногих символов, которые несут ее и к огромному низковероятному хвосту словаря. И она применяет эту силу раз на каждый знак следа аргументации. Это ставит бонус в прямое противоречие с энтропией распада, которую требует конвергенция, и затрудняет установление ее коэффициента при режиме долголетия. Для того чтобы преодолеть эту напряженность, мы предлагаем создать информационную теоретическую систему, которая развивает связь между политикой и скрытым предыдущим. Вместо того, чтобы повсюду поднимать энтропию, Info-GRO опирается на взаимную информацию между скрытой переменной и траекторией, которую она вызывает: увеличение импульсов с латентными семенами во время