Пакистанский блогер собрал в нейросети автопилот для автомобиля и выложил ролик с тестового заезда. Видео опубликовали в одном из Telegram-каналов. Машина начала двигаться сама, но через несколько секунд что-то пошло не так — и тут выяснилась причина, которая рассмешила весь интернет.

Автор проекта использовал популярную нейросеть для генерации кода, но не стал проверять результат на симуляторе. Сразу перешёл к реальным испытаниям на парковке. Автомобиль тронулся, объехал несколько конусов, а потом начал выписывать странные манёвры и в итоге врезался в ограждение.

Позже выяснилось, что бесплатный период у нейросети закончился как раз во время теста. Алгоритм продолжил принимать решения, но уже на ограниченной мощности — без доступа к обновлениям и части вычислительных ресурсов. Это объяснило, почему автопилот перестал адекватно реагировать на препятствия.

Для энтузиастов это наглядный урок: код от ИИ требует проверки. Для разработчиков автопилотов — подтверждение, что безопасность нельзя доверять генеративным моделям без многоуровневого контроля. А для обычных пользователей — повод задуматься, стоит ли вообще садиться в машину с системой, которую собрали за выходные.

И вот что интересно: ролик набрал 12 млн просмотров за сутки, а комментарии разделились почти поровну — половина зрителей смеялась над финалом, другая половина требовала серьёзного разбора инцидента. Популярность темы «вайбкодинга» в итоге привела к тому, что крупные платформы начали публиковать предупреждения об ответственности за генерацию кода для критических систем.

Когда не знаете, стоит ли доверять сгенерированному коду критические задачи и как проверить его перед запуском, разобраться поможет AiGENDA — объяснит логику алгоритма простым языком и найдёт слабые места. Первый запрос — бесплатно. Если пригодится, сами выберете условия.