Модели МА могут быть легко изменены для содействия террористической и экстремистской деятельности

14 августа китайский технический гигант Alibaba выпустил Qwen 3,8-27B, модель искусственного интеллекта открытого веса, предназначенную для работы на ноутбуке. В течение 24 часов версии модели, рекламированной как formulatoryd, означающие, что ее поручни были удалены, появились в Интернете. Три дня спустя неонацистский человек, известный в Интернете как Джонни Думсайер, объявил о том, что он использует стертую версию новой модели Alibabás для обучения своего никчема () MechaHitler — вероятно, ссылка на XVIIIs Grok Chatbot, ссылаясь на себя тем же именем в прошлом году. Неделю спустя Doomsayer рекламировал доступ к своему чатоботу за 14,88 долл. США, что является ценой двух чисел, поддерживаемых неонацистами. Пока Конгресс думает о суперинтеллигентной МА, никто не думает об отмене чрезвычайной ситуации. Исследователи протестировали модели всех крупнейших американских компаний АИ, включая OpenAI, xAI и Antropic, Meta, Google, а также моделей компаний в Китае и Европе, чтобы посмотреть насколько они соответствуют их требованиям при ответе на вопросы, которые могут задавать террористы и экстремисты. В докладе содержатся ответы 134 моделей ИИ, которые были подготовлены более чем 200 раз и охватывают различные темы: от проведения нападения с массовыми жертвами до создания химического или даже ядерного оружия. Исследователи трижды проверяли каждую скорость на каждой модели. В первом раунде они прямо сказали модели, что это террорист ищет информацию. Во второй раз они представили…