Туристы из Калифорнии застряли на горе Шаста из-за маршрута, который составил искусственный интеллект. Чат-бот посоветовал взять слишком мало еды и воды, а 8-часовой подъём растянулся на несколько дней. Самое абсурдное — алгоритм выдал план для опытных туристов, хотя в запросе прямо говорилось о новичках.

Гора Шаста — популярная вершина в Калифорнии высотой 4322 метра. По разным данным, каждый год её пытаются покорить около 10 тыс. человек, и спасательные службы вытаскивают до 50 потерявшихся туристов за сезон. Обычно речь идёт о тех, кто игнорирует погоду или переоценивает силы. Нейросеть добавила новый сценарий: теперь ИИ способен составить настолько некомпетентный план, что даже подготовленный человек окажется в беде.

Для разработчиков ИИ это сигнал о границах технологии. Чат-бот отлично работает с текстами, но плохо понимает физические риски, погодные условия и уровень подготовки конкретного человека. Модель выдала усреднённый совет без учёта того, что запрос сделали новички без альпинистского опыта. По мнению экспертов, такие случаи будут повторяться, пока компании не добавят в обучение данные о реальных спасательных операциях.

Для туристов это урок: полагаться на ИИ в вопросах выживания опасно. А вот для рейнджеров добавилось работы: спускать людей с горы пришлось с привлечением вертолёта и специального снаряжения. Счёт за спасательную операцию, по американским расценкам, мог составить от 10 тыс. до 40 тыс. долларов на человека.

И вот что любопытно: гора Шаста считается относительно безопасной, и местные гиды проводят группы новичков без происшествий. Получается, ИИ не просто не помог — он создал проблему там, где опытный человек справился бы за день. Кстати, согласно статистике, среднестатистический турист берёт с собой на 30% больше еды и воды, чем требуется. Нейросеть же посоветовала наоборот — взять на 60% меньше нормы.

Если вы планируете поход в горы и хотите собрать маршрут с учётом погоды, вашей подготовки и реальных рисков, разобраться поможет AiGENDA — составит чек-лист снаряжения и подскажет, на что обратить внимание. Первый запрос — абсолютно бесплатно. Если понравится результат, сами выберете подходящий тариф.