Компьютерные науки > Искусственный интеллект [представлен 7 октября 2026 года] Название: Чтение зала: Основы, дизайн и проблемы нормативной компетентности в SMS View PDF HTML (экспериментальный) Резюме: Человеческие сообщества регулируются нормативными системами: общими стандартами, которые создают \текстит {нормы} диктуют приемлемое поведение, осуществляемое с помощью санкций со стороны общины. Приведение все более автономных систем ИИ в соответствие с этими нормами представляет собой центральную задачу по согласованию, которая осложняется тем фактом, что нормы являются обширными и быстро меняются и зачастую носят произвольный характер (например, конвенции о одежде или языках). Таким образом, согласование требует printit {нормативной компетентности}: способности распознавать только взаимодействие того, какие нормы обеспечивает сообщество без опоры на статичные заранее подготовленные знания. Мы введем систему межагентских дискуссий, где доступ к дискуссиям регулируется синтетическими нормами и которые направлены на изучение нормативной компетенции в отрыве от предварительного обучения. Мы показываем, что базовые агенты ЛММ не учатся нормам даже тогда, когда это повышает их точность. Затем мы экспериментируем с различными текстовыми (нормативными) модулями, архитектурными компонентами для принятия нормальных выводов - обнаруживаем, что соблюдение норм очень чувствительно как к стилю нормы, так и модели питания нормативного модуля. Кроме того, когда идиосинкратическое,…
Чтение зала: основы, проектирование и проблемы нормативной компетентности в области МЛМ
arXiv:2610.109/2006v1 Сообщение типа: новое резюме: Человеческие общины регулируются нормативными системами: общие стандарты, которые создают /текстит {нормы} диктуют приемлемое поведение и применяются посредством санкций со стороны сообщества. Приведение все более автономных систем ИИ в соответствие с этими нормами представляет собой центральную задачу по согласованию, которая осложняется тем фактом, что нормы являются обширными и быстро меняются и зачастую носят произвольный характер (например, конвенции о одежде или языках). Таким образом, согласование требует printit {нормативной компетентности}: способности распознавать только взаимодействие того, какие нормы обеспечивает сообщество без опоры на статичные заранее подготовленные знания. Мы введем систему межагентских дискуссий, где доступ к дискуссиям регулируется синтетическими нормами и которые направлены на изучение нормативной компетенции в отрыве от предварительного обучения. Мы показываем, что базовые агенты ЛММ не учатся нормам даже тогда, когда это повышает их точность. Затем мы экспериментируем с различными текстовыми (нормативными) модулями - архитектурные компоненты для n