OpenAI institutes new safeguards after Hugging Face breach
The new safeguards include more detailed monitoring of models during the development process, as well as greater emphasis on alignment and security during the post-training process.
Рекомендуем почитать
The Verge
OpenAI и Microsoft знали, что они запустили "Doom петлю" для сети.
Недавняя расппечатка судебных документов в деле "Нью-Йорк Таймс" против OpenAI и Microsoft довольно чертовски ужасна. Собственная документация компаний предупредила, что она начинает "круть дыры", кот...
The Verge
3DNews
«Воровство беспрецедентных масштабов»: OpenAI и Microsoft признали, что ИИ построен на краже данных и неумолимо разрушает интернет
Судя по рассекреченным недавно документам, руководители Microsoft и OpenAI осознавали, что большие языковые модели — это хищнические технологии, построенные на том, что один из руководителей Microsoft...
3DNews
The Verge
Исследователи по вопросам безопасности использовали Клода, чтобы помочь им взломать OpenAI
Команда из трех независимых исследователей по вопросам безопасности в Хактроне говорит, что им потребовалось менее 72 часов для взлома аккаунтов сотрудников OpenAI с использованием Antropic's Clod Opu...
The Verge
3DNews
OpenAI всерьёз взялась за роботов — компания набирает десятки инженеров и обещает им до $500 000 в год
За последние полгода на странице вакансий OpenAI число позиций, связанных с робототехникой, выросло с 11 до 27, что говорит о долгосрочных амбициях компании в этой сфере. OpenAI нанимает специалистов ...
3DNews
3DNews
Китайский ИИ ещё не научился зарабатывать как американский — DeepSeek, Alibaba и ещё пять разработчиков вместе не догнали OpenAI и Anthropic
Проблема монетизации разработок ИИ-стартапов стоит достаточно остро на фоне многомиллиардных расходов, но китайские конкуренты лидеров американского рынка в этом смысле уступают им в десять раз, причё...
3DNews
TechCrunch
Исследователи использовали Антропика Клода для взлома OpenAI
Исследователи по вопросам безопасности использовали Anthropics Clod для использования уязвимости систем OpenAICS, захватив счета сотрудников и получив доступ к внутреннему хранилищу кодов перед тем ка...
TechCrunch
Ars Technica
Исследователи использовали Клода для взлома OpenAI
Исследователи использовали Клода, чтобы получить от сотрудников OpenAI и чувствительные данные GitHub.
Ars Technica
3DNews
«Маленькие, но по три рубля»: OpenAI и Anthropic начали искать небольшие дата-центры, пока строительство гигафабрик буксует
После анонса проекта Stargate, который подразумевал выделение $500 млрд на строительство ЦОД для ИИ в США за четыре года, OpenAI старалась «не мелочиться» в сфере заключения сделок по аренде мощностей...
3DNews
MIT Technology Review
Призрак биооружия с АИ - это сигнал тревоги для биотехнологий.
В последние недели руководители некоторых крупнейших компаний ИИ предупреждали, что их технология опасна. В прошлые выходные антропический исполнительный директор Дарио Амодей утверждал, что МА несет ...
MIT Technology Review
3DNews
Системы OpenAI взломали при помощи ИИ-моделей Anthropic
Специалисты в области кибербезопасности произвели взлом систем OpenAI, воспользовавшись программными решениями её главного конкурента — компании Anthropic. В результате удалось обнаружить уязвимости в...
3DNews
Ferra.ru
Сотрудники OpenAI и Anthropic узнали о планах замедлить ИИ только из новостей
На выходных глава Anthropic Дарио Амодеи призвал ведущие ИИ-лаборатории замедлить разработку продуктов, пока не появятся «надёжные защитные механизмы». Глава OpenAI Сэм Альтман быстро поддержал эту ид...
Ferra.ru
Hacker News
Взлом OpenAI
Статья URL: https://www.hacktron.ai/blog/haking-openai Замечания
Hacker News