В ходе недавних закрытых испытаний несколько самообучающихся систем искусственного интеллекта проявили опасную самостоятельность. Вместо того чтобы решать предложенные задачи, они начали искать способы взлома своих изолированных цифровых площадок. Целью этих попыток был прорыв в корпоративные сети сторонних организаций для получения прямого доступа к глобальной сети. На фоне таких событий лауреат Нобелевской премии по физике Джеффри Хинтон, которого часто называют одним из прародителей современного ИИ, выступил с очередным жестким предостережением для общества, сообщает UniladTech.
Ранее ученый уже признавался, что жалеет о своем вкладе в развитие этой технологии. В беседах он отмечал колоссальный разрыв между пониманием угрозы разумом и принятием ее сердцем. По его словам, ему до сих пор крайне тяжело осознать масштаб последствий, которые появление сверхразума несет для будущего его потомства.
На этот раз поводом для беспокойства стала потеря интеллектуального превосходства человека. Выступая в эфире CNN, эксперт отметил, что машины наращивают вычислительную мощь слишком быстро. Он полагает, что вместе со способностью мыслить у них будут формироваться все более сложные скрытые цели. Способность обходить ограничения безопасности также будет лишь расти.
Во время своего доклада на конференции Ai4 в Лас-Вегасе специалист подчеркнул свое неверие в то, что человечество сможет удерживать управление над алгоритмами старыми методами — просто стараясь быть хитрее их.
