Внимание, внимание к тонкозерновым галлюцинациям

arXiv: 25009.0900v2 Annuales Type: заменить резюме: после широкомасштабного внедрения моделей большого языка (MLM) в различных видах применения возрастает озабоченность по поводу надежности, обусловленная их тенденцией генерировать неточный текст, т.е. галлюцинации. В этой работе мы предлагаем Cross-Layer Evenue Probing (CLAP) — новый метод исследования активации для обнаружения галлюцинаций, который обрабатывает активацию LLM по всему остаточному потоку в качестве совместной последовательности. Наши эмпирические оценки с использованием пяти МЛМ и трех задач показывают, что КЛАП улучшает обнаружение галлюцинаций по сравнению с исходными показателями как жадных декодированных ответов, так и ответов, отобранных при более высоких температурах, тем самым позволяя тонкозернистому обнаружению, т.е. способности отсеивать галлуцинации и неголюцинации среди различных выборочных ответов на данный момент времени. Это позволяет нам предложить стратегию обнаружения и смягчения последствий с использованием CLAP для сокращения галлюцинаций и повышения надежности LLM по сравнению с прямой ап