Антропическая система запрещает пользователям быть «жестокими» в своих системах АИ

Антропический запрет на "жестокость" пользователей к своим системам АИ - Опубликованный Anthropic поднял брови, объявив о том, что он запрещает пользователям "устойчивые и ненужные" злоупотребления в отношении его ИИ. Мастер Клод сказал, что в четверг он обновляет свою политику использования, чтобы позволить своим инструментам прекратить взаимодействие там, где люди являются "жестокими", - то, что было сделано им ранее. Теперь он будет включен в список запрещенных действий, которые также содержат издевательства над другими людьми, поощрение членовредительства и создание неконсенсуальных интимных образов. Хотя Антропик сказал, что эта политика будет применяться только в "тяжких случаях" неоднократных злоупотреблений, она вновь начала дебаты о том, как нам следует общаться с инструментами ИИ. Компания заявила, что она не будет применяться к "обычным версиям разочарования пользователей, отталкивания назад, темным творческим темам или тестированию моделей и исследованиям", предполагая, что они будут применяться только в четко продуманных случаях. Однако то, что Антропик считает «навязчивым или жестоким поведением» в отношении своих моделей, остается неясным. В социальных сетях широко распространяются и комментируются основы новой политики, причем некоторые из них восхваляют ее как «хорошие манеры» или «модели благосостояния». Но другие критиковали план, один человек назвал его "глубоко неправильным, внешним", а другой утверждал, что это может подорвать злоупотребления в…