В России разработают критерии проверки отечественных ИИ на соответствие закону и духовным ценностям
Российские IT-компании смогут проверять свои модели на соответствие законодательству и традиционным духовно-нравственным ценностям, пишут «Ведомости». Для этого планируется создать независимые испытательные лаборатории. Порядок подтверждения соответствия ИИ-моделей нужным критериям определит Правительство, а в подготовке документов примут участие Минцифры, ФСБ и Федеральная служба по техническому и экспортному контролю (ФСТЭК). Проверять модели планируют с помощью специальных тестов. Положительное заключение станет одним из этапов для получения моделью статуса национальной, что в дальнейшем позволит претендовать на меры господдержки, сообщает источник издания.
Тестирование поможет выявлять перекосы в ответах ИИ и донастраивать модель так, чтобы она могла показывать разные точки зрения, заявил в разговоре Readovka директор Исследовательского центра ИИ ИОН РАНХиГС Сергей Боловцов. Эксперт отмечает, что сформировать критерии оценки вполне реально на основе Большой российской энциклопедии или новых учебников по истории Мединского и обществознанию Медведева. Современные инструменты позволяют создавать на основе таких источников специальные тесты и проверять, насколько ответы модели смещены в ту или иную сторону.
При этом даже успешное прохождение тестов не гарантирует, что в реальном использовании ИИ всегда будет отвечать так же. На поведение модели могут повлиять персонализация,…
