Claude от Anthropic прервет диалог с оскорбляющим пользователем — 12 ноября

пост на 1 мин
[aigenda_article_cover]

Разработчики Claude запретили пользователям годами оскорблять нейросеть: модель теперь сама может завершить диалог. Anthropic внесла соответствующий запрет в правила использования искусственного интеллекта — алгоритмы больше не обязаны терпеть насилие и унижения, даже в тексте.

До этого пользователи могли часами писать сообщения с угрозами, и Claude вынуждена была их молча принимать. Теперь это считается нарушением. Компания оговорила важное условие: обычная критика, простое раздражение или провокационные ролевые сценарии остаются в пределах нормы.

Действия модели будут ограничены только при крайних и систематических случаях. В обновлённой политике Anthropic также прописала дополнительные ограничения для использования ИИ в политике, разработке оружия, слежке и других чувствительных сферах. Новые правила начнут действовать 12 ноября.

Это меняет баланс в общении: если раньше пользователь был безраздельным хозяином диалога, то теперь модель может поставить точку. В профессиональной среде это отмечают как первый шаг к тому, чтобы нейросети перестали быть цифровыми подчинёнными.

Если нужно разобраться, как эти правила повлияют на работу ваших систем, с этим поможет нейросеть AiGENDA. Первый запрос — бесплатно. Если пригодится, сами выберете тариф.

При создании материала использовались данные из открытых источников:
1. https://t.me/aigendalive/42171

[aigenda_related_news]
Комментариев нет

Добавить комментарий