От скоростных к деревьям: эффективное построение деревьев на основе руководства LLM для малоразмерной табличной классификации
arXiv:2610.10227v1 Вид уведомления: новое резюме: хотя крупные языковые модели (ММЛ) обладают богатыми знаниями и впечатляющими возможностями обобщения, их непосредственному применению к классификации табличных данных препятствуют высокие затраты на выводы и ограниченная интерпретация. В отличие от этого, деревья принятия решений являются быстрыми и транспарентными, но зачастую они не дают достаточных результатов в рамках режимов с низким уровнем данных. В этой работе мы предлагаем новые рамки, которые увязывали бы эти парадигмы путем использования знаний ЛУЗМ в интерпретируемых деревьях для принятия решений при небольшом числе случаев быстрого обучения. Вместо того, чтобы напрямую побуждать ЛМЗ к образованию полных деревьев, которые зачастую являются нестабильными и неэффективными, мы разрабатываем трехэтапную парадигму, которая побуждает ЛМД разрабатывать правила и организовывать правила в дерево. Эксперименты с множеством наборов данных в реальном мире показывают, что наш метод позволяет добиться более высокой точности и интерпретируемости при значительно меньшем числе накладных расходов по сравнению с существующими базовыми показателями.
