Ни для кого не секрет, что люди часто халатно относятся к ИИ и доверяют ему излишне. Представьте: вы покупаете камеру видеонаблюдения, а в её прошивке находится административный токен доступа к сотням репозиториев GitHub производителя. Или вы решаете сделать проект или написать статью по академической работе, а эта работа оказывается нейрослопом. Люди пытаются бороться с этим — кое-где закрывают баг-баунти-программы, где-то PR, сгенерированные ИИ, не принимают. В этой статье я хочу рассказать о ситуациях, связанных с халатностью разработчиков, атаками агентов и кризисом доверия. А также попробуем выяснить: это отдельные ошибки или уже системный сбой? Читать далее
ИИ и контроль: токены Пентагона, агенты-хакеры на PyPI и научный слоп
Ни для кого не секрет, что люди часто халатно относятся к ИИ и доверяют ему излишне.
Представьте: вы покупаете камеру видеонаблюдения, а в её прошивке находится административный токен доступа к сотням репозиториев GitHub производителя. Или вы решаете сделать проект или написать статью по академической работе, а эта работа оказывается нейрослопом.
Люди пытаются бороться с этим — кое-где закрывают баг-баунти-программы, где-то PR, сгенерированные ИИ, не принимают.
Похожие статьи
РБК
РБК
В Британии начнут выращивать человеческие мини-органы из клеток пациентов
Проект в Кембридже стоимостью £20 млн позволит создать библиотеку стандартизированных органоидов для разработки препаратов. Исследователи рассчитывают точнее оценивать их действие и снизить зависимост...
Складной Google Pixel 11 Pro Fold за 1900 долларов получил новый шарнир и меньшую батарею по сравнению с прошлогодней моделью
Зато новая платформа и меньшая масса После обычных Pixel 11 и моделей Pro компания Google также анонсировала складной Pixel 11 Pro Fold. Как и моноблочные модели, эта особо не изменилась относительно ...
Представлен Google Pixel 11, который подорожал, но лишь условно
Младшая версия теперь имеет 256 ГБ памяти Компания Google представила свои новые смартфоны линейки Pixel 11. Они были почти полностью рассекречены до анонса, но теперь всё официально, к тому же теперь...
