СПРАВОЧНАЯ СТРАТЕГИЯ: биоинспирированная функция активации, повышающая степень обобщения и эффективности выборки в классификации изображений

arXiv: 261 0111534v1 Аннонс Тип: новое резюме: DNNS демонстрируют надежность и общие проблемы, не наблюдаемые у людей. Они также являются гораздо менее эффективными с точки зрения данных учащимися, что требует значительно большего числа учебных образцов для точной классификации новых примеров. Поощряющая предвзятость могла бы помочь в решении этих вопросов путем создания внутренних механизмов для совершенствования обобщения и, следовательно, уменьшения зависимости от изучения данных. Мы инкорпорируем биоинспирированный индуктивный сбой в новую функцию активации HAND (Homeostasis, ускорение нелинейности и дивиза-номалия) и показываем свою эффективность на СиэнС, обученных классификации изображений. Для использования HAND-конвнекст-тини потребовалось 25 тренировочных эпох, чтобы достичь такой же точности на ImageNet1k, как и немодифицированная модель, достигнутая после 200 эпош. В соответствии с последствиями индуктивного отклонения разрыв в показателях деятельности сократился по мере того, как было проведено обучение и увеличено количество данных. Когда объем данных о профессиональной подготовке был сокращен и неравномерно распределен между классами (L)