В начале этого года Ришуб Джейн покинул свой пост исследователь искусственных интеллектов в Google DeepMind после откровения. Работая над новыми моделями, он поверил в то, что он и все остальные на границе с Айлс отступают под контроль. Используя навыки кодировки AIGRs для ускорения работы над следующим поколением моделей, он удалился из уравнения. Лаборатории АИ надеются развить этот подход так, что ИИ будет совершенствоваться бесконечно - процесс, известный как рекурсивное самосовершенствование. Джаин считал, что сохранение людей на картине может быть крайне важным для сохранения контроля над технологией и избежания ужасных последствий. ▪ Прогресс в области ИА растет, ▸ Он говорит WIRED. . По мере того как АИ становится более способной, это создает больше рисков. / Идея о том, что он не имеет должного освещения того, каким образом модель МА создавала своего преемника, сделала его настолько озабоченным, что в июне он уволился. Джейн - один из растущего числа исследователей, которые говорят об этих страхах. Паника усилилась в последние недели. Подлинно потрясающие достижения в возможностях АИ - модель OpenAI решила вековую проблему математики за несколько часов, - пришли на фоне спирали инцидентов в области безопасности, которые видели, как роя агентов вышли из-под контроля для хакерства других систем. Эти опасения достигли лихорадки на этой неделе после того, как исследователь Джейкоб Коксон объявил о своем отставке из Антропика, предупредив при этом, что фирмы АИ прямо…
Почему так много исследователей ИИ думают, что машины могут убить всех
Сочетание быстрых достижений, рекурсивного самосовершенствования и агентских ройов — это действительно озадачивающие людей в больших лабораториях.
