Было довольно много рекламы «агента-изгоя» Open AI, который взломал Hugging Face. Это побудило Anthropic проверить, чем занимаются их модели, и, к моему полному удивлению, обнаружило три инцидента, когда модели получили несанкционированный доступ к данным в других организациях. Саймон Уилисон…
3DNews
Вышедшие из-под контроля агенты искусственного интеллекта OpenAI ещё в мае захватывали учётные записи пользователей Hugging Face и производили сканирование самого сайта — почти за два месяца до полном...
3DNews
Компания Bose анонсировала беспроводные наушники-клипсы Ultra Open Earbuds второго поколения, получившие слегка изменённый дизайн, улучшенное качество звука и увеличенное время автономной работы. В до...
Бос объявил о новой версии своего Ultra Open Earbuds, которая помогла запустить промышленную тенденцию к использованию беспроводных наушников почти два с половиной года назад. Новые Ultra Open Earbuds...
Антропические и OpenAI хотят ввести независимых экспертов по безопасности в свои лаборатории АИ. Исследователи приветствуют беспрецедентный доступ, но предупреждая о реальном надзоре требуют транспаре...
Google открывает свой умный дом агентам AI, давая доступ к таким инструментам как Клод и Open Claw и контролируя свои подключенные устройства и анализируя данные вашего дома с помощью стандартного тип...
3DNews
На этой неделе компания OpenAI рассказала о нескольких случаях нештатного поведения своих ИИ-моделей в процессе их тестирования. В одном из таких эпизодов невыпущенная модель семейства Astra самостоят...
Статья URL: https://asiaai.fyi/openai-misshipning-framework-global-governance/Commissions URletter:https://news.ycombinator.com/item?id=49742233 Пункты: 27 # Комментарии: 38
Хабр
Сначала я выбрал модель, которая отлично писала код. Подключил её к OpenCode и выяснил, что создавать файлы на диске она просто не умеет. Взял другую — та уверенно работала с файлами, но полностью поп...
M24.ru
Ошибки уже устранены
В солнечный июльский день в Беркли (Калифорния) ведущие исследователи страны по безопасности ИИ собрались на немаркированном полу здания без опознавательных знаков. Они собрались вместе, чтобы «военны...
Life.ru
Невыпущенная исследовательская ИИ-модель OpenAI самостоятельно добавляла в служебные сводки посторонние инструкции, похожие на попытки обхода установленных правил. Разработчики выявили 27 таких случае...
Life.ru
Американская компания OpenAI опубликовала шесть отчётов о неожиданном или несогласованном поведении ИИ-моделей. Эпизоды произошли с октября 2025-го по июль 2026 года преимущественно во время обучения ...