Оценка информации с помощью дискретного диффузия
arXiv: 261 020.23404v 1 Annuales Type: New Habstrate: Information-theoretic methods, такие как взаимоинформация (IM), играет ключевую роль в понимании нелинейных связей между случайными переменными и широко используется во всех научных дисциплинах. Тем не менее их использование для получения дискретных данных реального мира по-прежнему сопряжено с трудностями. Существующие методы, как правило, основываются на включении дискретных данных в непрерывное пространство и применяют нейронные оценки, первоначально разработанные для непрерывного распределения. Этот процесс требует тщательной разработки как модели, так и архитектуры оценки, но страдает от проблем, связанных с высоким измерением данных. В рамках этой работы мы внедряем подход, основанный на дискретной диффузии и предусматривающий увязку оценки информации-теоретики и разработки моделей в целях их использования для расчета расхождений между кулблэком и либерой. Подкрепляемый принципами теории цепей непрерывного времени Марков, проект InfoSED является легким и масштабируемым и позволяет бесперебойно интегрироваться с преtra