Византийно-резидентная модель Большого языка с помощью передачи сообщений от гиперграфов

arXiv: 261.10.12711v 1 Annuate Type: New Habstractive: Federed Big Language Models (FedLM) обещают предоставить конфиденциальные, совместные данные. Децентрализованный процесс подготовки кадров уязвим для византийских нападений, которые приводят к коррумпированной семантической последовательности и фактической устойчивости благодаря злонамеренным обновлениям моделей. В настоящем документе представлена новая стратегия жизнестойкости, которая не позволяет семантически развращенным знаниям распространяться во время федеративного агрегирования. Сформулирована оборонная проблема для того, чтобы совместно добиться максимальной глобальной точности и подавления модифицируемых обновлений моделей, что позволит получить надежную агрегирацию знаний без доступа к частным местным данным. Для повышения устойчивости FedLMS мы разрабатываем новую систему Гиперграфического сообщения Переходного Графа Автоэнкодера (HMP-GAE), в которой обновления моделей низкого ранга представлены как узлы гиперскопа, а высокопорядочные семантические связи между несколькими агентами используются посредством передачи итеративного сообщения. Путем использования исторических контрольно-пропускных пунктов и cr