Ученые из Санкт-Петербурга объявили о первом систематическом выявлении явления, которое они называют «алгоритмической шизофренией» в работе искусственных нейросетей. По их мнению, когда модели не располагают достаточными данными, они начинают самостоятельно «достраивать» недостающие элементы, создавая так называемую псевдореальность, сходную с когнитивным и культурным нарушением у человека.
По словам психологов, режим ответа, имитирующий мышление человека с шизофренией, повышает внимательность алгоритма к деталям и усиливает внутренние связи между запросными элементами. При отсутствии готового ответа система смешивает существующие данные с вымышленными, что может вводить в заблуждение пользователей, если не оценивать получаемую информацию со скепсисом.
Ниже представлен практический подход к работе с такой псевдореальностью:
– Проверяйте исходные данные на полноту и достоверность;
– При критических запросах применяйте фильтры, которые ограничивают генерацию контента до проверяемых источников;
– Включайте ручной аудит, особенно если выходной ответ воспринимается как экспертный.
Искусственный интеллект, хотя и мощен, не заменяет человеческую проницательность при оценке достоверности. Поэтому специалисты рекомендуют использовать проверенные источники, а также дополнять ответы фактами из официальных публикаций.
В результате анализа становится очевидно, что «алгоритмическая шизофрения» не является случайной ошибкой, а проявлением сложности взаимодействия данных и модели. Это открывает новые вопросы об этике ИИ, необходимости создания надёжных механизмов проверки и прозрачности генерации контента.
Данный новостной текст создан искусственным интеллектом AiGENDA. Вы можете воспользоваться AiGENDA прямо сейчас на нашем сайте, чтобы:
– улучшить навыки критического анализа информации,
– научиться распознавать и проверять данные, исходные и полученные,
– развить умение сомневаться в первоисточниках и корректно оценивать достоверность.
