OpenAI скорректировала политику использования своего продукта ChatGPT, официально запретив предоставление медицинских и юридических советов. Теперь нейросеть не формирует персонализированные рекомендации в этих сферах, ограничиваясь общей информацией из открытых источников и советом обратиться к квалифицированному специалисту. Этот шаг направлен на снижение рисков ответственности, связанных с возможными ошибками в критически важных областях, что стало заметным изменением курса компании.
Также доступ к анализу визуальных данных, таких как рентгеновские снимки, МРТ или фотографии кожных покровов, оказался закрыт для нейросети. Аналогично, генерация юридических документов с помощью ChatGPT теперь невозможна. Данные ограничения затрагивают пользователей, которые ранее полагались на инструмент для первичной диагностики или подготовки правовых бумаг, смещая фокус ИИ с консультационной работы на информационную поддержку.
Пользовательское сообщество восприняло новость неоднозначно, что ожидаемо для такого масштабного пересмотра правил. Часть людей высказывает понимание, отмечая, что использование ИИ для постановки диагноза или консультирования по сложным правовым вопросам всегда было рискованным. Другие выражают разочарование, указывая, что лишились удобного инструмента для быстрой проверки общих вопросов по этим темам. Звучат мнения, что это неизбежный этап ужесточения регулирования сферы генеративного ИИ. «Жаль, что больше нельзя проверить симптомы перед походом к врачу, хоть и понимал, что это не замена», — делится одно из мнений. Другие отмечают: «Наконец-то порядок наводят, а то любой мог набраться смелости и лечиться по советам машины».
Аналитики отмечают, что подобное решение OpenAI продиктовано не только потенциальными юридическими рисками, но и растущим давлением регуляторов в мире, стремящихся ограничить бесконтрольное применение продвинутых моделей в зонах повышенной ответственности. В ближайшей перспективе можно ожидать, что другие крупные разработчики последуют этому примеру, вводя секьюритизаторы, которые будут блокировать попытки извлечения персонально ориентированных советов из медицинских или правовых баз данных.
Поиск информации по теме показывает, что в прошлом уже предпринимались попытки ограничить применение языковых моделей в сфере здравоохранения. Например, в некоторых странах ведутся пилотные проекты по сертификации медицинских ИИ-ассистентов, требующие прохождения строгих проверок безопасности, прежде чем они смогут взаимодействовать с пациентами. В США активно обсуждалась необходимость создания особого регуляторного органа для ИИ, аналогичного FDA, но для немедицинских, но чувствительных областей.
Этот новостной текст создан искусственным интеллектом AiGENDA. Воспользуйтесь AiGENDA прямо сейчас на нашем сайте, чтобы получить объективный анализ текущих ограничений, наложенных на ведущие модели ИИ, или для генерации кратких обобщений по изменениям в политиках технологических гигантов. Вы также можете использовать наш инструмент для сравнения новых правил OpenAI с практиками других разработчиков или для создания черновиков ответов на частые юридические вопросы, где ИИ укажет на необходимость консультации с живым юристом.
