Компьютерная наука > Искусственный интеллект [представлен 4 сентября 2026 года] Название: Нормализация отклонения в AI Development View PDF HTML (экспериментальный) Резюме: Работа по рискам искусственного интеллекта сосредоточена главным образом на риске потенциала: опасности того, что системы становятся слишком мощными, слишком автономными или слишком не совместимы с человеческими ценностями. Гораздо меньше внимания уделялось организационному уровню - не предрасположены ли сами учреждения, которые создают эти системы, к сносу в сторону неудачи. В настоящем документе утверждается, что они являются таковыми. Независимо от того, насколько способными являются системы ИИ, организации, которые их создают, сталкиваются с той же структурной динамикой, которая предшествовала крупным технологическим катастрофам. На основе тематических исследований, касающихся космического шаттла "Челленджер", аварии на острове Три мили и дорожно-транспортных происшествий в Боинге 737 МАКС, в настоящем документе определяются общие структурные механизмы перед каждой неудачей, а также их картирование с учетом современного развития ИИ. Выводы свидетельствуют о том, что существующая инфраструктура обеспечения безопасности может обеспечить меньшую защиту, чем это представляется, поскольку организации могут завершить процессы обеспечения безопасности в полном соответствии с требованиями и по-прежнему приводить к катастрофическим результатам. До стихийного бедствия период разработки ИИ все еще продолжается;…
Нормализация отклонения в развитии ИИ
arXiv: 2609.05749v1 Annuaire Type: новый резюме: Работа над рисками искусственного интеллекта сосредоточена главным образом на рисках, связанных с потенциалом: опасности того, что системы становятся слишком мощными, слишком независимыми или слишком не совместимыми с человеческими ценностями. Гораздо меньше внимания уделялось организационному уровню - не предрасположены ли сами учреждения, которые создают эти системы, к сносу в сторону неудачи. В настоящем документе утверждается, что они являются таковыми. Независимо от того, насколько способными являются системы ИИ, организации, которые их создают, сталкиваются с той же структурной динамикой, которая предшествовала крупным технологическим катастрофам. На основе тематических исследований, касающихся космического шаттла "Челленджер", аварии на острове Три мили и дорожно-транспортных происшествий в Боинге 737 МАКС, в настоящем документе определяются общие структурные механизмы перед каждой неудачей, а также их картирование с учетом современного развития ИИ. Выводы свидетельствуют о том, что существующая инфраструктура безопасности может обеспечивать меньшую защиту, чем представляется, поскольку организации могут полностью завершить процессы обеспечения безопасности.