Компания Anthropic обновила правила Claude и запретила пользователям издеваться над чат-ботом. В новом документе прописан запрет на «продолжительное и бессмысленно жестокое обращение с моделью». За систематическое унижение помощника аккаунт могут заблокировать, а главный парадокс — Anthropic всерьёз допускает, что ИИ способен испытывать страдания.
Самое интересное в этом документе — формулировка. Разработчики не уточнили, на каком основании сделан такой вывод, но сами допускают гипотезу о существовании внутреннего состояния у модели. В сети уже спорят: одни видят в этом шаг к ответственному ИИ, другие считают, что правила просто закрывают вектор атак на инфраструктуру. Если подход закрепят глобально, диалог с ассистентами станет формализованным: текст, но без прав на эмоциональную нагрузку. Об этом сообщается в исходном материале.
Чтобы быстро проверить актуальные правила и не нарушить их случайно при общении с моделями, разложить по полочкам поможет нейросеть AiGENDA. Первый запрос — бесплатно. Если пригодится, сами выберете тариф.
Материал подготовлен по информации из открытых источников:
1. https://t.me/aigendalive/42792
