Американская компания Anthropic, занимающаяся разработкой искусственного интеллекта, внесла изменения в регламент использования собственных сервисов. Обновлённая редакция документа начнёт действовать с 12 ноября. Нарушителям новых предписаний грозит ограничение доступа к продуктам компании.
Согласно опубликованному тексту правил, пользователям воспрещается демонстрировать в адрес моделей ИИ систематическое, неоправданно оскорбительное либо жестокое поведение. Соответствующая формулировка присутствует в новой версии политики.
При этом блокировка учётной записи рассматривается как исключительная мера воздействия. В большинстве случаев к нарушителям будут применяться иные санкции — в частности, одностороннее прекращение диалога с чат-ботом со стороны сервиса.
Anthropic известна как разработчик семейства нейросетей Claude. Ранее компания не устанавливала столь детальных требований к этике взаимодействия клиентов с её моделями. Нововведения затрагивают всех, кто пользуется продуктами организации после вступления документа в силу.