Новое требование не ограничивает критику ответов или работу над мрачными художественными сюжетами. Под санкции попадает лишь целенаправленная травля. В компании пояснили, что начали изучать этот вопрос в августе, исследуя этические аспекты взаимодействия человека и алгоритмов. Anthropic подчеркивает, что это не наделяет Claude статусом разумного существа или правами, а лишь устанавливает границы допустимого поведения внутри интерфейса.
Обновление также ужесточает контроль над использованием технологий в опасных целях. Anthropic запретила скрытые политические кампании и манипуляции в ходе выборов, включая создание фальшивых аккаунтов. Расширен запрет на разработку программного обеспечения для оружия и автономных систем, таких как дроны. Отдельно прописаны ограничения на инструменты слежки и участие ИИ в принятии решений в сфере уголовного правосудия. В проектах, где нейросети управляют физическим оборудованием, отныне обязательно присутствие оператора, способного принудительно остановить работу системы в случае угрозы.
Комментарии (0)
Пока нет комментариев. Будьте первым!