LIME: Моделирование взаимодействия с разукрупненным XOR на основе ссылки для пользователей
arXiv:2510.18239v4 Тип уведомления: заменить перекрестное резюме: для расширения крупных систем рекомендаций требуется продвижение трех основных границ: обработка более длинных истории пользователей, расширение набора кандидатов и увеличение пропускной способности моделей. Несмотря на вселяющие оптимизм, шкала вычислительной стоимости трансформаторов в четыре раза с длительностью последовательности пользователей и линейно с числом кандидатов. Такой компромисс делает чрезмерно дорогостоящим расширение набора кандидатов или увеличение продолжительности последовательности на конечных этапах, несмотря на значительное улучшение показателей работы. Мы введём новую архитектуру, которая решает эту проблему. Благодаря двум ключевым нововведениям LIME существенно снижает вычислительную сложность. Во-первых, низкоуровневые "встроенные ссылки" позволяют предварительно компьютеризировать весы внимания путем отделения взаимодействия между пользователями и кандидатами, что делает затраты на вывод почти независимыми от размера набора кандидатов. Во-вторых, механизм линейного внимания, lextbf {LIME-XOR}, уменьшает сложность в отношении сиквелов пользователя