Нейросети давно перестали быть просто инструментом для развлечения и работы. Они формируют информационную среду, помогают учиться, отвечают на вопросы и все чаще воспринимаются как источник объективных знаний. Однако эксперты предупреждают: языковая модель не бывает нейтральной, потому что она создана людьми, обучена на конкретных данных и несет в себе контекст и ценности своих разработчиков. Об этом рассказал директор Исследовательского центра ИИ Института общественных наук РАНХиГС Сергей Боловцов в авторской колонке для «Суверенной экономики».
Разные модели по-разному видят мир, и это не баг, а особенность их архитектуры и обучающей выборки. Российские разработки лучше ориентируются в советском периоде, географии и праве страны, китайские модели увереннее отвечают на вопросы по социальным институтам и экономике, а международные решения чаще дают прямые ответы на острые темы. При этом все модели нередко ошибаются в исторических деталях: именах, датах и хронологии. Для пользователя, который доверяет нейросети в вопросах истории, права или географии, такие особенности превращаются в вопрос информационной безопасности.
По словам экспертов, объективно оценить, чему именно «научилась» модель и какие ценности она транслирует, позволяют специализированные инструменты — бенчмарки. Их результаты подтверждают: страновое происхождение модели напрямую влияет на ее ответы. Сохранить лидерство в этой сфере невозможно без постоянного мониторинга конкурентов, чья стратегия строится на глобальной повестке и локализации моделей для работы в конкретных странах. Именно бенчмарки помогают государству, бизнесу и гражданам выбирать надежные системы и выстраивать отношения с технологией, которой мы доверяем все больше задач.
Ответы нейросети определяются ее цифровым воспитанием: как ребенок усваивает нормы, так и модель впитывает контекст и ценности создателей. Поэтому важно понимать, что за каждым ответом стоит не абстрактный «искусственный разум», а конкретная разработка с определенной культурной и информационной базой. Осознанное отношение к выбору моделей и проверка их на специализированных тестах становятся таким же необходимым навыком, как умение работать с информацией в интернете.
Этот текст подготовлен искусственным интеллектом. На сайте AiGENDA вы можете использовать ИИ для проверки фактов, анализа информации из разных источников, подготовки учебных материалов по истории, географии и праву, а также для тестирования знаний и развития критического мышления при работе с нейросетями.
Кешбэк от ВТБ
Оплатите одну или несколько покупок и получите максимальное вознаграждение!
Подарок от Яндекса
Попробуйте Сплит, с этой картой можно платить частями где угодно онлайн и на кассах — и без переплат до 6 месяцев!
