Адаптация стратегий обоснования к байесовской непараметрической памяти
arXiv: 2610,06516v1 Annualce Type: New Humber Abstract: Хотя современные крупные языковые модели (LMS) были обучены рассуждать с помощью словесных цепочек мышления, стоимость поколения значительно возрастает из-за неоптимальных путей достижения окончательного ответа. Кроме того, по мере выявления новых идей при наблюдении за различными вводимыми запросами (например, посредством самоанализа) существуют ограниченные механизмы для учета этих выводов в целях их применения к последующим проблемам. Список таких стратегий или поведения можно рассматривать как растущую измену, с элементами, найденными в этом модуле памяти в момент вывода. В этой работе мы рассматриваем структурированные листы измен, с усвоенными блоками поведения. Мы введем модель гассового смешивания иерархического дирихета (HDP-GMM) по отношению к встроенным компонентам, которые делят компоненты между домиками при одновременном допуске смешанных весов для конкретных доменов, а также используем задний прогноз для извлечения соответствующих моделей поведения для запроса; мы называем это $textit {Baeesian Cheats