Anthropic ввела запрет на оскорбления моделей Claude

Американская компания Anthropic, занимающаяся разработкой искусственного интеллекта, внесла изменения в регламент использования собственных сервисов. Обновлённая редакция документа начнёт действовать с 12 ноября. Нарушителям новых предписаний грозит ограничение доступа к продуктам компании.

Согласно опубликованному тексту правил, пользователям воспрещается демонстрировать в адрес моделей ИИ систематическое, неоправданно оскорбительное либо жестокое поведение. Соответствующая формулировка присутствует в новой версии политики.

При этом блокировка учётной записи рассматривается как исключительная мера воздействия. В большинстве случаев к нарушителям будут применяться иные санкции — в частности, одностороннее прекращение диалога с чат-ботом со стороны сервиса.

Anthropic известна как разработчик семейства нейросетей Claude. Ранее компания не устанавливала столь детальных требований к этике взаимодействия клиентов с её моделями. Нововведения затрагивают всех, кто пользуется продуктами организации после вступления документа в силу.

Ранее в России уже неоднократно сообщалось о внедрении ИИ в работу госорганов. Подробнее об этом читайте в материале Общественной службы новостей.