АИШ, тихие врата безопасности поднимаются к прожектору

Два месяца назад независимые оценщики заняли относительно сонный угол в индустрии искусственного интеллекта с многотриллионами. Теперь их просят прийти на помощь. В то время как Антропик и OpenAI являются сердцевиной ожесточенных дебатов по поводу того, могут ли они защитить свои передовые модели и одновременно развивать свой бизнес, компании стремятся получить поддержку от нескольких небольших групп третьих сторон, таких как Model Evaluation and Threat Research (METR), Aполлоном Исследователи и Transluce. Оценщики, которые в основном выступают некоммерческими организациями, по-прежнему находят свою основу в отрасли, где капитал течет на историческом уровне и новые модели развиваются быстрее чем когда бы то ни было. Их главная роль заключалась в оценке возможностей и рисков, связанных с использованием моделей АИ, а также привлечении внимания к случаям плохого поведения технологии. В отсутствие федерального давления на нормативные акты специалисты по оценке приобретают все большее значение. Антропический исполнительный директор Дарио Амодей пообещал ввести независимых оценщиков в свою компанию в прошлом месяце – шаг, который вскоре одобрил генеральный директор OpenAI Сэм Альтман. Президент Дональд Трамп поддержал эту идею, как и большинство крупнейших американских технических компаний. Но без ответа остаются вопросы о том, как эти третьи стороны должны финансироваться, какой уровень доступа они получат и на какую структуру отчетности в конечном счете будет выглядеть. «В…