Omni CapBench: Глубокая структура системы оценки для высокоспециализированного аудио-видения

arXiv: 261 010.12458v 1 Annualce Type: New Humber: Multilateral models крупных языков (MLMs) быстро развивается в направлении непрерывной аудиовизуальной аргументации, что создает неотложную потребность в оценках, которые выявляют пределы их возможностей. Аудиовизуальные субтитры являются идеальной диагностической задачей, однако нынешние контрольные показатели сталкиваются с одновременной компромиссной проблемой: оценки по всему периметру обеспечивают охват без локализации, местные обследования позволяют осуществлять локализацию без охвата и неподготовленные судьи ЛЛД создают нестабильность. Мы представляем Omni CapBench (Омни-Видео Кэпмент Контрольный параметр), ориентир, который переформулирует оценку аудиовизуальных субтитров как глубоко структурированную диагностическую систему. Omni CapBench переносит цель прогнозирования с свободного текста на наборы атомных, поддающихся проверке оценочных единиц по трем направлениям: ссылки на образования, визуальные съемки и аудиособытия, что позволяет получать надежную оценку с помощью проверок детерминистских ограничений и локально-семантических сопоставлений на основе LLM. С 786 густо аннотированными видео, Omni CapBench effec