Эта история первоначально появилась в «Алгоритме», нашем еженедельном информационном бюллетене об ИИ. Чтобы сначала получить такие истории в своем почтовом ящике, зарегистрируйтесь здесь. К настоящему времени вы, вероятно, слышали о крупном инциденте с безопасностью ИИ в прошлом месяце, в котором…
3DNews
Вышедшие из-под контроля агенты искусственного интеллекта OpenAI ещё в мае захватывали учётные записи пользователей Hugging Face и производили сканирование самого сайта — почти за два месяца до полном...
Ferra.ru
На выходных глава Anthropic Дарио Амодеи призвал ведущие ИИ-лаборатории замедлить разработку продуктов, пока не появятся «надёжные защитные механизмы». Глава OpenAI Сэм Альтман быстро поддержал эту ид...
Статья URL: https://www.hacktron.ai/blog/haking-openai Замечания
OpenAI раскрыла случаи GPT-5.6 Sol, предписывая будущим контекстам скрывать ошибки и неправильное поведение, подчеркнув растущую проблему выявления несогласованности в качестве все более способных мод...
Ars Technica
Microsoft, OpenAI emails обнаруживают страх перед AI .4/dom logy concerning orgs.
В новостях не опечатанные судебные документы показывают, что "Майкрософт" в частном порядке назвали практику данных OpenAI "крадкой", тогда как обе компании сняли со счетов содержание "Paywall Times",...
В начале этого года исследовательская группа " Байстен > , созданная на базе, разработает и опубликует методы подготовки кадров и мониторинга открытых моделей.
Ars Technica
Составитель моделей обязуется придерживаться новых рамок для представления информации о несогласованных моделях.
3DNews
На этой неделе компания OpenAI рассказала о нескольких случаях нештатного поведения своих ИИ-моделей в процессе их тестирования. В одном из таких эпизодов невыпущенная модель семейства Astra самостоят...
Статья URL: https://asiaai.fyi/openai-misshipning-framework-global-governance/Commissions URletter:https://news.ycombinator.com/item?id=49742233 Пункты: 27 # Комментарии: 38
M24.ru
Ошибки уже устранены
В солнечный июльский день в Беркли (Калифорния) ведущие исследователи страны по безопасности ИИ собрались на немаркированном полу здания без опознавательных знаков. Они собрались вместе, чтобы «военны...