Диагнозирование режима отказа GNN с энтропией градусов

arXiv: 261 020.22595v 1 Annualce Type: New Humber: Graph Neural Networks (GNS) обычно оцениваются только на их заключительном слое, скрывая то, каким образом в процессе передачи сообщений развивается информация, имеющая отношение к задачам. Мы введем пост-специальную диагностику, которая заморозит тренированную GNN, подойдет к независимому линейному зонду для каждого слоя и отслеживает точность пробоотборника наряду с нормализованной энтропией. В реальных и синтетических настройках графа энтропия по квадратной стрелке отличает полезное, нейтральное и вредное гладление - способность, которая не подтверждается существующими геометрическими показателями. Кроме того, сравнивая неглубокие и глубокие модели, мы показываем, что начало процесса энтропии разделяет два основных способа отказа GNN: структурное несоответствие при гетерофиле, которое проявляется на самых ранних слоях даже в мелких моделях, и чрезмерно глубокое переосмысление, которые возникают только по мере увеличения глубины распространения. Эти результаты позволяют установить траектории зондирования в качестве инструмента анализа потока информации в ГНН и стимулирования