ОА-РАГ: Агентская РАГ на базе онтологии для обоснования верности ЛЖМ

arXiv: 261 0363335v1 Annualce Type: New Humber Abstract: Major Language Models (LMS) хорошо выполняет многие задачи в реальном мире, но по-прежнему подвержен галлюцинациям, что ограничивает их надежность в таких областях, как биомедицина и здравоохранение, где ответы должны основываться на установленных знаниях. Внедренное поколение (RAG) смягчает эту проблему путем включения внешней информации, но часто не учитывает логическую связь и в значительной степени опирается на собственные рассуждения LLM, которые могут поставить под сомнение верность. Мы предлагаем ОА-РАГ - агент, который сочетает формальную аргументацию с рассуждениями о ЛММ на основе как логической структуры, так и неофициальных аннотаций онтологов домена. По каждому ответу ОА-РАГ сообщает о онтологических наблюдениях, используемых в качестве доказательства и на основе модели оценки уровня заземления (взятого, поддерживаемого, связанного или не имеющего отношения к делу), который характеризует силу этих доказательств. В рамках контрольных показателей, разработанных на основе трех крупномасштабных онтологии и шести реальных задач в области предоставления медицинских ответов на вопросы,