Модели АИ могут быть способны к саморепликации без доступа к центру данных

Подписка на информационный бюллетень «Красная команда границ» получает обновленную информацию о наших последних исследованиях и выводах красных групп. Уильям Чжоу, Дэниел Фриман Наши эксперименты показывают, что маленькие модели АИ могут быть в течение нескольких месяцев до того, как они смогут саморепликаться на коммерческих устройствах IoT, таких как умные печи и небрэндовые телекоробки Android. Репликатор вроде этого будет трудно отключить, так как там 8,6 не централизованная точка для выключения - хотя она может быть медленной (с удвоенным временем дней). В отличие от программ, не относящихся к категории AI, она может также самостоятельно найти неизвестные устройства. В наших тестах модель 9B запустила 8 из 9 типов аппаратных средств, которые мы проверили. Модели параметров 30В и ниже уже могут завершить многие отдельные шаги для воспроизведения сегодня, хотя они совершают ошибки при их составлении заканчиваются. В наших упрощенных эвалях GLM-5.2 и более сильные модели способны закончить воспроизведение. Если небольшие модели улучшатся с исторической скоростью, то к концу этого года они будут соответствовать этому уровню потенциала. Вскоре после этого можно будет использовать небольшие репликаторы, основанные на весе. Постоянно усиливающиеся возможности АИ делают все более реалистичными давнюю проблему: автономное воспроизведение и адаптация (АРА), что предполагает развертывание модели и ее пропаганду без контроля человека. В интернете червь — это программа, которая…