Полгода назад я поддерживал TypeScript SDK для одной панели администрирования. Обычная библиотека: сгенерированный из OpenAPI клиент, авторизация, ретраи, вебхуки. И в какой‑то момент я поймал себя на том, что рутинные вопросы к панели — «у кого истекает доступ на этой неделе», «почему нода…
3DNews
На этой неделе компания OpenAI рассказала о нескольких случаях нештатного поведения своих ИИ-моделей в процессе их тестирования. В одном из таких эпизодов невыпущенная модель семейства Astra самостоят...
Статья URL: https://asiaai.fyi/openai-misshipning-framework-global-governance/Commissions URletter:https://news.ycombinator.com/item?id=49742233 Пункты: 27 # Комментарии: 38
3DNews
Некоторые владельцы iPhone обратили внимание, что после обновления до iOS 27 заряд аккумулятора начинает расходоваться быстрее. Проблема вызвана фоновыми процессами, которые смартфон продолжает выполн...
M24.ru
Ошибки уже устранены
В солнечный июльский день в Беркли (Калифорния) ведущие исследователи страны по безопасности ИИ собрались на немаркированном полу здания без опознавательных знаков. Они собрались вместе, чтобы «военны...
Life.ru
Невыпущенная исследовательская ИИ-модель OpenAI самостоятельно добавляла в служебные сводки посторонние инструкции, похожие на попытки обхода установленных правил. Разработчики выявили 27 таких случае...
Life.ru
Американская компания OpenAI опубликовала шесть отчётов о неожиданном или несогласованном поведении ИИ-моделей. Эпизоды произошли с октября 2025-го по июль 2026 года преимущественно во время обучения ...
The Hacker News
В среду OpenAI раскрыла шесть новых случаев "неожиданного или типового поведения", которые имели место за последние полгода, и в то же время предоставила новую основу для отчетности, отслеживания, рас...
РБК
В ходе обучения модели Astra специалисты обнаружили, что она иногда самостоятельно добавляла в свои данные несанкционированные инструкции
Статья URL: https://openai.com/index/model-misship-reporting-strategle/Commissions URN: http s://news.ycombinator.com (пункт)?id=49737503 Пункты: 7 # Замечания: 0
3DNews
OpenAI раскрыла информацию об очередных шести эпизодах, в котором её модели искусственного интеллекта действовали вопреки инструкциям — инциденты имели место в течение последних шести месяцев при обуч...
3DNews
По данным Financial Times, главы OpenAI и Anthropic не ограничились заявлениями о необходимости замедления ИИ, они дали подчинённым поручения приступить к реализации соответствующих мер, и эти идеи ме...