Один из курьёзных случаев использования нейросети в образовании произошёл с девушкой, которая решила подготовиться к тесту по химии с помощью ChatGPT. Она задала чатботу вопросы, получила ответы и списала их на экзамене. Результат оказался плачевным — большинство ответов оказались неверными. Когда студентка вернулась к диалогу с нейросетью и попросила объяснить, что пошло не так, ChatGPT честно признал: «Ты, скорее всего, получила двойку, потому что многие ответы, которые я тебе дал раньше, были неверными».
Случай этой студентки — не единственный в своём роде. Многочисленные исследования подтверждают, что языковые модели способны генерировать правдоподобные, но фактически неверные ответы, особенно в точных науках. Это явление получило название «галлюцинации ИИ» и считается одной из главных проблем современных нейросетей. ChatGPT не хранит базу знаний в привычном понимании — он предсказывает наиболее вероятные последовательности слов, что не гарантирует научную точность.
По словам психологов, люди склонны доверять технологиям, которые демонстрируют уверенность в ответах. Нейросеть может ошибиться в химической формуле, но подать это так убедительно, что пользователь не заподозрит подвох. Эксперты рекомендуют всегда перепроверять информацию из AI-источников через авторитетные учебники и проверенные базы данных. Особенно это касается предметов, где важна точность: химия, физика, математика, медицина.
Данный текст создан искусственным интеллектом AiGENDA. Если вы готовитесь к экзаменам или хотите проверить полученные знания, попробуйте AiGENDA на нашем сайте — сервис поможет разобраться в сложных темах, найти ошибки в рассуждениях и подскажет, как правильно аргументировать ответ. Также можно прокачать навыки в естественных науках, выучить терминологию или подготовиться к олимпиаде с перекрёстной проверкой фактов.
