Обнаружение глобальных ложных отрицаний на лету для самоконтроля за Контрастным обучением

arXiv: 2502,20612v2 Annualce Type: кросс-бюллетень: В самоконтролях контрастного обучения отрицательные пары обычно строятся с использованием якоря и образца, взятого из всего набора данных, исключая якорь. Однако такой подход может привести к созданию пар негативных с аналогичной семантикой, которая называется "ложными отрицаниями", в результате чего их привязки могут быть ложно разделены на части. Для решения этой проблемы мы внедряем GloFND, основанный на оптимизации подход, который автоматически обучается порогу для каждой якорной информации с целью выявления ее ложных негативных последствий в ходе обучения. В отличие от предыдущих методов ложного негативного открытия, наш подход в глобальном масштабе обнаруживает ложные негативные эффекты по всему массиву данных, а не локально внутри мини-батарей. Кроме того, расходы на расчеты в расчете на единицу данных по-прежнему не зависят от размера набора данных. Экспериментальные результаты по данным изображения и текстовому снимку свидетельствуют об эффективности предлагаемого метода. Наша реализация доступна по адресу: