LAIR-Net: Утечка в гармонизационных и импортных остаточных сетях для таблочного регулирования

arXiv: 261 0.111538v 1 Annualce Type: New Humber: Deep случайные модели фиксируют параметры скрытого слоя посредством произвольной инициализации и учатся только закрытым считывающим устройствам, обычно добавляя глубину путем штабелирования случайных трансформаций без контроля за развитием скрытого состояния. Мы предлагаем LAIR Net — утечку из остаточной сети, которая смешивает неглубоко обучённый якорь в каждое скрытое состояние через протекающий остаточный переход. Мы вычисляем однородность глубины, связываемую чувствительностью к входу и турбулентности, и используем контролируемые имитации для отнесения прибыли по случайным исходным условиям к якорю вместо рекурсии или дополнительной мощности. Выгоды возникают в тех случаях, когда нелинейная целевая структура обучается на существующем уровне шума и уменьшается при почти линейных целях или доминирующем шуме. В рамках 23 контрольных наборов данных LAIR-Net достигает наилучшего среднего ранга среди восьми случайных сетей и 12 обычных моделей, при этом относительная эффективность связана с одной нелинейной структурой