Исследователи из РЭУ имени Г.В. Плеханова и Саратовского национального исследовательского государственного университета имени Н.Г. Чернышевского предложили принципиально новую архитектуру скрытого слоя для резервуарных нейросетей. Такие сети помогают прогнозировать поведение сложных систем — от погодных явлений до активности нервных клеток. Вместо случайных связей авторы построили резервуар из плотно связанных групп искусственных нейронов (треугольников или тетраэдров) и изолированных узлов. Такой подход в разы уменьшил ошибку прогноза, в десятки раз сократил число необходимых соединений и сделал алгоритм менее чувствительным к случайному выбору структуры. Результаты опубликованы в журнале Chaos при поддержке РНФ.
Многие природные и инженерные системы демонстрируют сложное, нелинейное поведение, прогнозировать которое традиционными методами крайне трудно. Для таких задач всё чаще применяют резервуарные вычисления: обучается только выходной слой, а внутренняя структура остаётся фиксированной, что делает алгоритм быстрым и нетребовательным к ресурсам. Однако в классических резервуарах нейроны связаны случайно, из-за чего качество предсказаний сильно зависит от конкретной реализации связей: одна случайная сеть может работать отлично, а другая — плохо. Избыток связей также усложняет физическую реализацию, особенно на интегральных схемах.
Ранее те же исследователи усовершенствовали метод подачи данных, чтобы нейросеть автоматически подстраивалась под временные масштабы сигнала. В…
Пе…
