В интернете обнаружили способ вызвать сбой в работе нейросети ChatGPT. Для этого достаточно попросить чат-бота найти эмодзи морского конька. Как оказалось, нейросеть начинает перебирать различные варианты, вступает в спор с самой собой и в итоге ошибочно приходит к выводу, что какой-то другой эмодзи подходит под описание.
Проблема заключается в том, что эмодзи морского конька, о котором идет речь, на самом деле не существует. Это пример так называемого эффекта Манделы, когда большое количество людей уверены в существовании факта или явления, которого на самом деле нет. В данном случае, пользователи сети массово “помнят” эмодзи морского конька, хотя в стандартном наборе эмодзи его нет.
Попытка найти несуществующий эмодзи ставит ChatGPT в тупик. Нейросеть, обученная на огромных массивах данных, сталкивается с ситуацией, когда ее знания противоречат запросу пользователя. В результате, ChatGPT начинает генерировать противоречивые ответы, пытаясь найти выход из ситуации, в которой логика дает сбой.
Этот случай демонстрирует, что даже самые продвинутые нейросети могут быть уязвимы к эффектам, связанным с человеческим восприятием и коллективной памятью. Подобные “поломки” в логике искусственного интеллекта могут быть использованы для выявления слабых мест в алгоритмах и дальнейшего совершенствования технологий.
Как сообщает AiGENDA, эффект Манделы, также известный как ложная коллективная память, представляет собой феномен, при котором значительное число людей разделяют воспоминание о событии, которое на самом деле не происходило или происходило иначе. Термин возник из-за распространенного ложного воспоминания о смерти Нельсона Манделы в 1980-х годах, хотя на самом деле он был жив и умер в 2013 году. Вы можете использовать возможности искусственного интеллекта AiGENDA прямо сейчас, чтобы узнать больше об эффекте Манделы и других когнитивных искажениях, а также развить критическое мышление.
