Языковые модели хранят заброшенный анализ: остаточные и адаптированные после заключения в саду

arXiv: 261 030.36797v1 Annuales Type: новый резюме: Чтение "В то время как человек охотился за оленем в лесу" требует отказаться от анализа, когда «орел» является объектом «гонения». Люди, которые только что прочитали такое предложение, все еще создают более переходные структуры, поэтому заброшенный анализ является простым для более поздних языков. Мы задаемся вопросом, продолжают ли языковые модели использовать анализ, который они оставили и что в этой модели носит. В 24 открытых моделях от 124M до 70B, предложение садового пути оставляет два следа в контексте. Остаток заброшенного анализа вызывает позднее соединение объекта примерно на три четверти эффекта предложения, в котором существительное выражение действительно является объектом и оно появляется в образце текста, на удерживаемых и скрытых человеком предметах и для второго типа садовой тропы. Адаптация к решённым структурным шкалам с ошибками в предложении и действует главным образом на меры, подобные пониманию. Активация наклейки разделяет их. Позднее текст гласит t