Компьютерные науки > Машинное обучение [представлено 25 октября 2026 года] Название: QECGBERT: Модель, основанная на самообучении языка с помощью VQ-VAE Waveform Tokenization View PDF HTML (экспериментальное) резюме: Final Models играет ключевую роль в продвижении диагностирования сердечного заболевания по данным электрокардиографа (ЭКГ), особенно для редких заболеваний, когда отсутствие достаточных данных с маркировкой затрудняет контролируемое обучение. Однако большинство самоконтролях учебных методов рассматривают ЭКГ как общую последовательность или данные изображений, не используя при этом лежащую в основе физиологической структуры. Для устранения этого ограничения мы предлагаем QECGBERT, самоконтрольную языковую модель ЭКГ, которая четко кодирует физиологические семантики путем символизации P, QRS, T и изоэлектрических фоновых волновых форм. Векторная вариативная аутогенкодер (VQ-VAE) применяется к каждому 12-свинцовому ЭКГ с помощью символов, обогащенных элементами непрерывной волны для сохранения морфологии, утраченной во время квантизации без увеличения длины последовательности. Этот дизайн позволяет моделировать язык в виде компактной BIT с помощью маскировки с короткими последовательностями, повышать масштабируемость и уменьшать вычислительные издержки по сравнению с подходами на основе долгой последовательности. QECGBERT применяет предварительную подготовку BERT к набору данных MIMIC-IV, в котором содержится более 800 000 немаркированных записей ЭКГ, и точная…
QECGBERT: Модель масштабируемого фонда ЭКГ, основанная на самообучении языка с помощью VQ-VAE Tokenization
arXiv: 261 030.33964v 1 Annuales Type: New Habrit: IA Foundation Models играет ключевую роль в продвижении диагностирования сердечно-сосудистых заболеваний на основе данных электрокардиограммы (ECG), особенно для редких болезней, когда отсутствие достаточных помеченных данных затрудняет контролируемое обучение. Однако большинство самоконтролях учебных методов рассматривают ЭКГ как общую последовательность или данные изображений, не используя при этом лежащую в основе физиологической структуры. Для устранения этого ограничения мы предлагаем QECGBERT, самоконтрольную языковую модель ЭКГ, которая четко кодирует физиологические семантики путем символизации P, QRS, T и изоэлектрических фоновых волновых форм. Векторная вариативная аутогенкодер (VQ-VAE) применяется к каждому 12-свинцовому ЭКГ с помощью символов, обогащенных элементами непрерывной волны для сохранения морфологии, утраченной во время квантизации без увеличения длины последовательности. Этот дизайн позволяет компактно моделировать язык в масках BERT с короткими последовательностями, повышать масштабируемость и уменьшать вычислительную стоимость по отношению к длинносекьюру