ИИ проявляет «алгоритмическую шизофрению» — эксперты предупреждают

пост на 2 мин

Ученые из Санкт-Петербурга объявили о первом систематическом выявлении явления, которое они называют «алгоритмической шизофренией» в работе искусственных нейросетей. По их мнению, когда модели не располагают достаточными данными, они начинают самостоятельно «достраивать» недостающие элементы, создавая так называемую псевдореальность, сходную с когнитивным и культурным нарушением у человека.

По словам психологов, режим ответа, имитирующий мышление человека с шизофренией, повышает внимательность алгоритма к деталям и усиливает внутренние связи между запросными элементами. При отсутствии готового ответа система смешивает существующие данные с вымышленными, что может вводить в заблуждение пользователей, если не оценивать получаемую информацию со скепсисом.

Ниже представлен практический подход к работе с такой псевдореальностью:
– Проверяйте исходные данные на полноту и достоверность;
– При критических запросах применяйте фильтры, которые ограничивают генерацию контента до проверяемых источников;
– Включайте ручной аудит, особенно если выходной ответ воспринимается как экспертный.

Искусственный интеллект, хотя и мощен, не заменяет человеческую проницательность при оценке достоверности. Поэтому специалисты рекомендуют использовать проверенные источники, а также дополнять ответы фактами из официальных публикаций.

В результате анализа становится очевидно, что «алгоритмическая шизофрения» не является случайной ошибкой, а проявлением сложности взаимодействия данных и модели. Это открывает новые вопросы об этике ИИ, необходимости создания надёжных механизмов проверки и прозрачности генерации контента.

Данный новостной текст создан искусственным интеллектом AiGENDA. Вы можете воспользоваться AiGENDA прямо сейчас на нашем сайте, чтобы:
– улучшить навыки критического анализа информации,
– научиться распознавать и проверять данные, исходные и полученные,
– развить умение сомневаться в первоисточниках и корректно оценивать достоверность.

Комментариев нет

Добавить комментарий

Путин в Кремле провёл встречу с главой МИД КНДР Чхве Сон Хи

Президент России Владимир Путин провёл в Кремле встречу с главой Министерства иностранных дел КНДР. Глава государства высоко оценил отношения двух стран и…

Какой iPhone купить в 2026 году: лучшие модели за свои деньги, реальные цены и ошибки выбора

В октябре 2026 года выбрать iPhone стало сложнее, чем когда-либо. Рядом продаются прошлогодние Pro, недорогой iPhone 17e, удачный обычный iPhone 17, тонкий…

SHOT : Пакистан объявил «открытую войну» с талибами — бои у границы

Пакистан объявил о начале «открытой войны» с правительством талибов в Афганистане, заявив, что последние боевые действия на границе стали самыми масштабными за…

Windows 11 меняет «синий экран смерти» на зелёный

Корпорация Microsoft объявила о кардинальном изменении в Windows 11: печально известный «синий экран смерти» (BSoD), сигнализирующий о критических системных ошибках, станет зелёным.…

РиП : «Секретные файлы об НЛО раскроют уже на этой неделе» — США рассекретят документы о пришельцах

Согласно официальному заявлению Министерства обороны США, в ближайшие дни будет проведена рассекречивание части материалов, относящихся к неопознанным летающим объектам (UAP). Документы, собранные…

LG представила проектор «3-в-1» с функцией светильника и колонки

LG представила гаджет, который объединяет три функции в одном корпусе, что выглядит как попытка закрыть сразу несколько ниш на рынке умных домашних…

ESA показало астероид Дидим в 25 спектральных диапазонах

Аппарат Hera изучил астероид Дидим видимой камерой, спектрометром и тепловизором с расстояния…

пост на 2 мин

NASA показало ночную грозу над Южно-Китайским морем с МКС

Снимок с МКС объединил вспышки молний, огни Сингапура, рыболовных судов и газовых…

пост на 2 мин

Google Registry откроет домены .eat, .fly и .here в 19:00 МСК

Google Registry 17 ноября в 19:00 МСК откроет обычную регистрацию доменов .eat,…

пост на 1 мин

Пномпень возглавил рейтинг OneTwoTrip по низкой цене отелей — 3,69 тысячи рублей за ночь

OneTwoTrip назвал Пномпень самым недорогим зарубежным городом по средней цене гостиничного номера…

пост на 1 мин

ФНС: вычет за квартиру не сгорает, но НДФЛ вернут только за три года

ФНС объяснила срок имущественного вычета: право после покупки квартиры сохраняется, но в…

пост на 1 мин

Вэнс исключил двухлетнее участие США в конфликте с Ираном

Джей Ди Вэнс заявил, что США не превратят конфликт с Ираном в…

пост на 1 мин