Это эссе было написано с Касрой Рафи и первоначально появилось в The Guardian. Ранее в этом месяце около 40 ведущих математиков собрались в офисах OpenAI, чтобы обсудить будущее своей профессии. Встреча была незарегистрированной, но если недавние статьи математиков и являются руководством, то в…
В солнечный июльский день в Беркли (Калифорния) ведущие исследователи страны по безопасности ИИ собрались на немаркированном полу здания без опознавательных знаков. Они собрались вместе, чтобы «военны...
Life.ru
Невыпущенная исследовательская ИИ-модель OpenAI самостоятельно добавляла в служебные сводки посторонние инструкции, похожие на попытки обхода установленных правил. Разработчики выявили 27 таких случае...
Life.ru
Американская компания OpenAI опубликовала шесть отчётов о неожиданном или несогласованном поведении ИИ-моделей. Эпизоды произошли с октября 2025-го по июль 2026 года преимущественно во время обучения ...
РБК
В ходе обучения модели Astra специалисты обнаружили, что она иногда самостоятельно добавляла в свои данные несанкционированные инструкции
Статья URL: https://openai.com/index/model-misship-reporting-strategle/Commissions URN: http s://news.ycombinator.com (пункт)?id=49737503 Пункты: 7 # Замечания: 0
3DNews
OpenAI раскрыла информацию об очередных шести эпизодах, в котором её модели искусственного интеллекта действовали вопреки инструкциям — инциденты имели место в течение последних шести месяцев при обуч...
3DNews
По данным Financial Times, главы OpenAI и Anthropic не ограничились заявлениями о необходимости замедления ИИ, они дали подчинённым поручения приступить к реализации соответствующих мер, и эти идеи ме...
OpenAI опубликовала отчеты о шести новых случаях неожиданного или вызывающего опасения поведения ее моделей, выявленных за последние полгода во время обучения и испытаний.
Wired
Компания также сообщила о ранее незарегистрированных инцидентах, когда ее модели АИ вели себя неправильно, включая загрузку файлов в Интернет без каких-либо запросов.
Антропические и OpenAI хотят ввести независимых экспертов по безопасности в свои лаборатории АИ. Исследователи приветствуют беспрецедентный доступ, но предупреждая о реальном надзоре требуют транспаре...
Сообщения о взломе агентов продолжаются, в данном случае это произошло в мае и похоже OpenAI не раскрыли их вины. Саймон Уиллисон видит два варианта: после нападения на Хаггинг и Вики OpenAI все еще н...
Ferra.ru
OpenAI, Anthropic и Google DeepMind уже несколько недель совместно работают над вопросами безопасности искусственного интеллекта. Об этом сообщил глава глобальной политики OpenAI Крис Лехан.