Условная оценка Vendi: Оперативная оценка разнообразия для генерирующих моделей и МЛМ АИ

arXiv: 2411.02817v3 Тип уведомления: заменить перекрестное резюме: Генерационные модели, основанные на текстовых сигналах, широко оцениваются с точки зрения достоверности и оперативной увязки данных, однако их способность к получению различных результатов по-прежнему недостаточно изучена. Существующие показатели разнообразия, такие как Vendi и RKE, которые основаны на энтропах фон Нейманна и Реньи ядер матриц были разработаны для безусловных моделей и не могут отличать быстро возникающую изменчивость от вызванной моделями. Мы устраняем этот пробел, внедряя \текстит {conditional-Vendi} и textit {Condititional-RKE} — меры разнообразия, вытекающие из условной энтропии позитивных полудефинитовых матриц. Эти оценки изолируют вызванное моделью разнообразие в быстро направленного поколениях, при этом коэффициент конвергенции условно-режимного RCE составляет 1 долл. США(1/скрт {n}). В отношении условно-Венди мы введем приближение к усеченному спектру, которое позволяет получать масштабные и последовательные оценки. Эксперименты по тексту-изображению, съемке изображений и задач LLM показывают, что условные оценки