OpenAI купила разработчика камер для смартфонов Glass Imaging
OpenAI приобрела компанию Glass Imaging. Она разрабатывает технологии камер для смартфонов. По данным The Wall Street Journal, сумма сделки превысила $300 млн.
OpenAI приобрела компанию Glass Imaging. Она разрабатывает технологии камер для смартфонов. По данным The Wall Street Journal, сумма сделки превысила $300 млн.
На этой неделе компания OpenAI рассказала о нескольких случаях нештатного поведения своих ИИ-моделей в процессе их тестирования. В одном из таких эпизодов невыпущенная модель семейства Astra самостоят...
Статья URL: https://asiaai.fyi/openai-misshipning-framework-global-governance/Commissions URletter:https://news.ycombinator.com/item?id=49742233 Пункты: 27 # Комментарии: 38
Ошибки уже устранены
В солнечный июльский день в Беркли (Калифорния) ведущие исследователи страны по безопасности ИИ собрались на немаркированном полу здания без опознавательных знаков. Они собрались вместе, чтобы «военны...
Невыпущенная исследовательская ИИ-модель OpenAI самостоятельно добавляла в служебные сводки посторонние инструкции, похожие на попытки обхода установленных правил. Разработчики выявили 27 таких случае...
Американская компания OpenAI опубликовала шесть отчётов о неожиданном или несогласованном поведении ИИ-моделей. Эпизоды произошли с октября 2025-го по июль 2026 года преимущественно во время обучения ...
В среду OpenAI раскрыла шесть новых случаев "неожиданного или типового поведения", которые имели место за последние полгода, и в то же время предоставила новую основу для отчетности, отслеживания, рас...
В ходе обучения модели Astra специалисты обнаружили, что она иногда самостоятельно добавляла в свои данные несанкционированные инструкции
Статья URL: https://openai.com/index/model-misship-reporting-strategle/Commissions URN: http s://news.ycombinator.com (пункт)?id=49737503 Пункты: 7 # Замечания: 0
OpenAI раскрыла информацию об очередных шести эпизодах, в котором её модели искусственного интеллекта действовали вопреки инструкциям — инциденты имели место в течение последних шести месяцев при обуч...
По данным Financial Times, главы OpenAI и Anthropic не ограничились заявлениями о необходимости замедления ИИ, они дали подчинённым поручения приступить к реализации соответствующих мер, и эти идеи ме...
OpenAI опубликовала отчеты о шести новых случаях неожиданного или вызывающего опасения поведения ее моделей, выявленных за последние полгода во время обучения и испытаний.