Ленз: включение правильного семантического взгляда в основное направление обучения на основе свободного от профессиональной подготовки и смешанного представительства

arXiv:2609.20252v1 Тип объявления: перекрестное резюме: высококачественные представления имеют важное значение для широкого круга задач, стоящих на нижнем этаже. Специальные модели внедрения явно оптимизированы для обучения представленности, однако их данные о профессиональной подготовке зачастую являются более ограниченными по масштабам и разнообразию, чем массивная корпора, которая используется для предварительного обучения современных моделей большого языка и мультимодальных моделей крупного языка. Крупномасштабная предварительная подготовка и обучение после того, как авторегрессивные модели позволяют выбирать соответствующие доказательства, интегрировать мультимодальную информацию и определять семантику в различных областях деятельности, создавая отличную возможность для бесплатного обучения. Однако наш анализ показывает, что существующие методы семантического выравнивания не обеспечивают надежной ориентации извлекаемых государств на семантическую перспективу, необходимую для выполнения задачи по нисходящей линии. Следовательно, в полученных представлениях зачастую доминируют основные элементы вводимой информации. Мы характеризуем эту проблему как семантическая перспектива