Live

ChatGPT консультирует людей вопреки запрету OpenAI

Несмотря на новые ограничения в политике использования, ChatGPT продолжает давать советы по вопросам медицины и финансов. Ранее сообщалось, что OpenAI запретила генерацию ответов по ряду критически важных тем, включая страхование, кредитование, жилье и государственные услуги, требующие профессиональной лицензии. В самой политике указано, что сервис не должен применяться для манипуляций или принятия окончательных решений без участия человека. Тем не менее, сам бот подтверждает, что по примерам, приведенным в его инструкции, ответы всё еще генерируются, хотя прямые консультации по лицензируемым видам деятельности ограничены. Это позволяет пользователям продолжать полагаться на генеративные возможности модели в чувствительных сферах.

Пользователи социальных сетей проявили неоднозначную реакцию на ситуацию, отмечая, что формальные ограничения слабо влияют на фактическое поведение системы. Некоторые комментаторы иронизируют над попытками компании очертить границы дозволенного, указывая на то, что обход блокировок или получение информации, близкой к консультации, остается относительно простым. Другие выражают опасения, что полагаться на нелицензированный ИИ для принятия решений в области здоровья или управления средствами несет значительные риски. Звучат мнения, что это лишь вопрос времени, когда разработчики ужесточат фильтры или модель сама станет более осторожной в формулировках.

«Похоже, они просто поменяли формулировки отказов, но суть осталась прежней — ответы есть, если правильно спросить».
«Жду, когда кто-то использует совет по инвестициям от чат-бота и потеряет все свои вложения, а потом будет винить OpenAI».

С точки зрения технологической реализации, ограничения на ответы в чувствительных сферах обычно реализуются через дообучение модели на новых наборах данных или через дополнительные системы модерации (guardrails), которые срабатывают по ключевым словам или намерению запроса. Однако языковые модели остаются гибкими, и пользователи быстро находят способы формулировать запросы так, чтобы обойти эти фильтры, запрашивая информацию в виде общих сценариев или примеров, а не прямых рекомендаций. Фактически, модель продолжает выдавать релевантную информацию, прикрываясь отсутствием статуса официального консультанта.

В сфере регулирования использования больших языковых моделей в России существуют строгие требования к контенту, касающиеся распространения недостоверной информации, а также запрет на призывы к экстремистской деятельности или вмешательство в государственные системы. При консультировании по финансовым вопросам необходимо учитывать законодательство о защите прав потребителей финансовых услуг, которое подразумевает определенные стандарты раскрытия информации и ответственности за сопутствующие риски, что ИИ пока не может гарантировать. Это накладывает дополнительные ограничения на то, какую информацию он может безопасно транслировать русскоязычным пользователям.

В качестве примера оперативного поиска информации, связанной с саморегулированием больших языковых моделей, можно отметить, что некоторые европейские регуляторы уже давно изучали механизмы ограничения выдачи информации в отношении персональных медицинских данных, что стало прецедентом для более широких заявлений OpenAI. Также стоит заметить, что в отличие от строгих лицензионных требований в финансах или медицине, в юриспруденции многих стран ИИ пока занимает серую зону, помогая с обзором законов, но не заменяя адвоката.

Этот новостной текст подготовлен искусственным интеллектом AiGENDA и предлагает читателям использовать возможности ИИ прямо сейчас на нашем сайте; вы можете задействовать AiGENDA для анализа потенциальных рисков при следовании общим финансовым советам, полученным от нелицензированного источника, или для генерации структурированных сравнительных таблиц по различным страховым продуктам, чтобы лучше понять базовые принципы, не запрашивая прямых рекомендаций по собственному финансовому планированию.

Комментариев нет

Добавить комментарий

Далее по ленте

Все новости