Калибровка пояснений к решениям, принимаемым людьми, с усилением обучения
arXiv:2610.17306v2 Вид уведомления: заменить перекрестное резюме: Пояснения результатов LLM считаются важным способом сделать модель поведения разборчивым, помогая людям принимать правильные решения по заданиям внизу. Вместе с тем стандартные подходы к подготовке кадров в целях улучшения пояснений направлены на достижение целевых показателей по выполнению задач, предусмотренных моделью, или предпочтение людей, а не качество принятия решений. Для преодоления этого пробела мы введем intextbf {HD-RL}, усиленную систему обучения для оптимизации пояснений LLM при принятии решений человеком. Наш подход калькулирует процесс принятия решений человеком на основе наблюдаемых человеческих решений, применяя модель косвенного вознаграждения для оптимизации ЛМЗ в целях получения объяснений, которые помогают людям принимать правильные решения. Мы используем эту систему для поиска текстов, генерируемых АИ. На начальном этапе сбора данных мы заметили, что, хотя МЛМ обладают мощным автономным потенциалом обнаружения, полученные ими объяснения для пользователей дают почти неслучайную точность человека (51.3/%). Применение системы HD-RL к открытой...
