Первый встроенный оценщик - это... акцент?

Дарио Амодейс планирует создать в лабораториях AI оценщиков безопасности третьей стороны: Антропик сказал, что сотрудники компании-консалтингчика Гиганта Аксентура начнут работать внутри компании для проверки своих моделей и персонала. В блоге «Антропик» говорилось, что факультет — компания Accenture, приобретенная в январе для выполнения функций своего отдела АИ, — начнет оценивать и красную команду, проводить оценки соответствия и тестировать гарантии модели. Обе компании рассчитывают инвестировать по меньшей мере 1 млрд. долл. США на проект в течение следующих пяти лет. Выбор Accenture удивил многих наблюдателей IA — и рынки, где акции консалтинговой компании (IA) выросли на 8% за несколько часов. В ходе дискуссии вокруг встроенных специалистов по оценке, появившихся из блога Amodei/62/s, основное внимание было уделено таким научно-исследовательским организациям АИ, как METR, Redwood Research и Apollo Resources. Это особенно верно в Антропии, что ставит безопасность и регулировку АИ во главу угла своей миссии. Антропик заявил, что в предстоящие недели будет объявлено о большем числе специалистов по оценке и что он ведет переговоры с МЕТРИ и другими некоммерческими организациями относительно того, как пилотировать элементы встроенной оценки за счет своего собственного финансирования. Она также является крупной государственной компанией, которая предшествовала революции в области ИИ и более функционально независимой от антропической и слайдэс-комплексной экосистемы вокруг…