Кому?

К кому? О риске безопасности для тех из вас, кто строит агенты: поскольку вы эксперт в вопросах X, Y и Z, ваш агент скорее всего будет феноменальным в этих вещах, а вам не грозит опасность в таких областях. Но есть множество других проблем, которые вы либо плохо или неправильно определённо не в состоянии оценить правильность самого себя и невозможно оценить риск этого. Вы очень сильно зависите от приводов модели, чтобы сделать хорошую работу для уменьшения этого риска. Это чрезвычайно в неизвестной территории для вас обоих и использования модели. Для меня очень трудно иметь высокую степень доверия к моделям приводов, потому что я эксперт в области программного обеспечения и я не доволен (и никогда не был) по умолчанию поведением модели при создании программного обеспечения. Мой опыт в области программного обеспечения делает меня необычно хорошо видимой, и я гораздо менее готов слепо доверять своим приводам в бухгалтерском учете с двойной записью, финансах, праве, операциях или чем-то еще, что я лично не могу оценить на уровне экспертов. Инженеры по программному обеспечению (и в последнее время математики!) на данный момент очень хорошо знакомы с результатами модели, которая, хотя и выполняет свою работу, является плохой в некотором смысле. Каждый из них является регистром или слишком оборонительным элементом, когда-либо наблюдавшимся от моделей разработчиков программного обеспечения, потому что неэксперт вознаградил модель за такое поведение во время тренировки. Приводы…