Компьютерные науки > Машинное обучение Такая практика косвенно предполагает, что все последовательности в равной степени способствуют обучению представленности. Однако при выполнении задач по прогнозированию белков ниже по течению они регулируются трехмерной структурной зависимостью и контактами с остатками на большие расстояния, которые вызывают сильные неместные соединения между остатками. Мы представляем Bucket Masking, стратегию маскировки структуры, которая выбирает группы остатков на основе их близости в трехмерном пространстве, предпочтительно скрывая структурные сцепленные регионы во время обучения. Привязывая дистрибуцию с помощью маскировки к контактам с остатками, Бакет Маскинг переключает цель обучения на моделирование дальнедисперсных взаимодействий, которые имеют решающее значение для функции протеина. В рамках четырех задач прогноза белковой фитнес-подготовки Bucket Masking позволяет на 14% улучшиться по сравнению со стандартными случайными масками, превосходя их в прогнозировании мутации высшего порядка. С помощью контролируемых абляции мы показываем, что эти усовершенствования обусловлены размещением масок, а не размерами поверхностей и установлением маскировки как индуктивного отклонения. [Представлено 15 мая 2026 года), последний пересмотренный вариант 14 сентября 2026 (эта версия v2) (настоящий вариант) Название: Структурная-программа Macing for Protein Performation Upduction No Industed, щелчок для просмотра других форматов Резюме: Masked Language…
Маскирирование структуры для обучения представленности протеинов
arXiv:2605.16581v2 Annualce Type: заменить резюме: Masked Language Modeling (MLM) является стандартной целью для подготовки моделей языка протеина, которая обычно осуществляется путем случайной маскировки отдельных остатков с фиксированной скоростью (например, 15%). Такая практика косвенно предполагает, что все последовательности в равной степени способствуют обучению представленности. Однако при выполнении задач по прогнозированию белков ниже по течению они регулируются трехмерной структурной зависимостью и контактами с остатками на большие расстояния, которые вызывают сильные неместные соединения между остатками. Мы представляем Bucket Masking, стратегию маскировки структуры, которая выбирает группы остатков на основе их близости в трехмерном пространстве, предпочтительно скрывая структурные сцепленные регионы во время обучения. Привязывая дистрибуцию с помощью маскировки к контактам с остатками, Бакет Маскинг переключает цель обучения на моделирование дальнедисперсных взаимодействий, которые имеют решающее значение для функции протеина. Через четыре белковых силикона вниз по течению