OpenAI запустила отдельную версию ChatGPT для подростков. Она сообщила об этом в Telegram-канале AIGENDA LIVE. Решение появилось после серии исков и скандалов о влиянии чат-ботов на психику подростков. В новом режиме усилят фильтры опасного контента, добавят родительский контроль и Study Mode: если школьник пытается просто получить готовый ответ, бот будет подталкивать его разбираться в задаче самому.
Как проверить, что ChatGPT для подростков действительно фильтрует опасный контент? В новом режиме OpenAI задействовала обновлённые алгоритмы распознавания текста, которые блокируют запросы о насилии, самоповреждении и запрещённой информации. По данным компании, уровень срабатывания фильтров вырос на 30 % по сравнению с базовой версией, что подтверждается внутренними тестами. Это подтверждается независимыми исследованиями экспертов по безопасности.
Что такое Study Mode в ChatGPT для подростков и как он работает? При активации этого режима бот не даёт прямого ответа на учебный вопрос, а предлагает подсказки и шаги, направленные на самостоятельное решение. Если пользователь пытается получить готовое решение, система выдаёт напоминание о необходимости разобраться в материале самому. Такая конструкция направлена на развитие критического мышления у школьников.
Родительский контроль в новой версии позволяет взрослым просматривать историю диалогов и ограничивать доступ к определённым темам. OpenAI отмечает, что функция активируется через привязку аккаунта к семейному профилю и требует подтверждения возраста. Компания признаёт, что ключевая задача — заставить подростков пользоваться защищённой версией и не пытаться обойти встроенные ограничения. Это поможет снизить тревогу родителей относительно безопасности использования ИИ детьми.
Запуск отдельного ChatGPT для подростков снижает риск распространения вредоносного контента среди несовершеннолетних и даёт родителям инструмент для надзора за обучением. Ожидается, что доля подростков, использующих защищённые версии ИИ, увеличится на 15 % в течение года после внедрения новых функций. Это может уменьшить нагрузку на службы поддержки, связанные с жалобами на неподобающий контент. В долгосрочной перспективе это также снизит количество судебных исков против разработчиков чат-ботов, связанных с психологическим воздействием на подростков.
Хотите узнать, как защитить ребёнка от опасного контента в чат-ботах? AiGENDA соберёт актуальные данные о функциях родительского контроля в ведущих платформах, сравнит их по уровню блокировки вредоносных запросов и подскажет, как активировать Study Mode в ChatGPT для подростков. Кроме того, она покажет, как настроить уведомления о попытках обхода фильтров и сравнит стоимость подписок на премиум-версии с родительским контролем. Попробуйте бесплатно.
