Предупреждение о том, что может сделать искусственный интеллект в будущем – вместе с тревожными сообщениями о том что он уже дошел до этого ‐ выпускается так быстро, что даже экспертам по безопасности трудно определить, о чем беспокоиться. Тем не менее, отчет на этой неделе от группы по агрессивным исследованиям Антропиков привлек внимание, описывая новую практическую угрозу, без человеческих особенностей или апокалиптических измен. Красная команда, как такие внутренние тестеры называются, сказала что она создала злобную программу АИ, которая распространяется автономно через интернет-подсоединенные телевизоры и может делать то же самое внутри других обычных устройств. В то время как машины, работающие с АИ, обычно нуждаются в достаточном количестве вычислительной мощности, исследователи заявили, что их программа разделила части себя на 15 телевизоров и все еще способна функционировать, используя немного энергии от каждого. Помимо того, что в горкроксе, который держал кусочки души лорда Волдемортца живыми внутри объектов серии Гарри Поттера, некоторые профессионалы были встревожены тем, что обычно слабую безопасность умных телевизоров и многих других Интернетов вещей было бы очень трудно исправить даже при условии согласованных усилий. Мы должны смягчить возможные последствия, сказал Джошуа Саксе, который руководил развитием усилий по обеспечению безопасности Meta/AI. . Сейчас мы обеспокоены тем, что люди в кибербезопасности не воспринимают такие реальные риски так серьезно,…
Что самовоспроизводит «Ай черви » и почему Антропический беспокоится о них?
Технологическая компания говорит, что успешные черви АИ нуждаются в большем потенциале для менее мощных устройств, но нынешние тенденции делают это возможным к концу года, предупреждений о том, что может сделать искусственный интеллект в будущем – вместе с тревожными сообщениями о том чем он уже достиг – выпускаются так быстро, что даже эксперты по безопасности испытывают трудности при определении того, о чём стоит беспокоиться. Тем не менее, отчет на этой неделе от группы по агрессивным исследованиям Антропиков привлек внимание, описывая новую практическую угрозу, без человеческих особенностей или апокалиптических измен. Красная команда, как такие внутренние тестеры называются, сказала что она создала злобную программу АИ, которая распространяется автономно через интернет-подсоединенные телевизоры и может делать то же самое внутри других обычных устройств. В то время как машины, работающие с АИ, обычно нуждаются в достаточном количестве вычислительной мощности, исследователи заявили, что их программа разделила части себя на 15 телевизоров и все еще способна функционировать, используя немного энергии от
