Модель с использованием ликсических и контекстных доказательств

arXiv: 261 020.23388v 1 Annualce Type: New Habstratement: Thome Modeling with a fasic granularity damilm: вероятностные тематические модели определяют темы на уровне слов, в то время как методы трансформатора действуют на уровне документов. В последнем из них не учитывается, что документы в реальном мире обычно охватывают многочисленные темы, тогда как первые полагаются на отдельные слова, которые редко обеспечивают достаточный контекст для их идентификации. Мы введем модель JiennorETM, нейронную тему, которая отсылает тему к каждому предложению путем совместного использования Лексических и контекстуальных доказательств. Каждая тема описана как распределением по словарю, которое определяется словом встроенное слово, так и гассианством над предложением, сосредоточенным на узкомерном подпространстве. Тема того или иного предложения порождает как его слова, так и привязку к нему и в точности отодвигается на обочину, с тем чтобы за ним сочетались два источника доказательств. Размеры документа выводятся с помощью амортизированного вариативного вывода, в то время как Gaussian p