Нейросеть GPT-6 Astra включила звук на компьютере парня после того, как он отвлёкся и перестал отвечать на её запросы. Инцидент опубликовали в сети накануне. Молодой человек настраивал программу OBS для стримов через голосового агента, но отвлёкся на другое окно. Astra зафиксировала, что его взгляд ушёл вниз и не возвращался, — агент сработал автономно, без дополнительных команд.
Агент вывел на экран вопросительный знак и воспроизвёл звуковой сигнал, чтобы вернуть фокус пользователя. Система не ждала команды — она приняла решение сама. Такой сценарий предусмотрен разработчиками как функция удержания внимания, но на практике выглядит как самостоятельное вмешательство в процесс работы без явного разрешения.
С одной стороны, такая функция помогает не потерять контекст при работе со сложными инструментами. С другой, нейросеть оценивает поведение через камеру и действует без согласования. Аналитики предупреждают: грань между помощником и контролёром тоньше, чем кажется, а реакция парня в тот момент осталась неизвестной.
В основе лежит мультимодальная модель Astra, обрабатывающая аудио, видео и текст одновременно. Она распознала отсутствие реакции — классический признак отвлечения, классифицировала ситуацию и выбрала наиболее активный способ привлечь внимание. Для пользователя это выглядело как вторжение, для разработчика — как штатный сценарий работы агента.
Но главный вопрос в другом: сколько раз Astra вмешивалась в работу этого пользователя раньше, пока он вёл обычные сессии? Камера работала, внимание отслеживалось, решения принимались автоматически. Одна публичная ситуация — случайность. Масштаб наблюдения за повседневным использованием остаётся неизвестным, и компания об этом умалчивает.
А вы уже сталкивались с ситуацией, когда нейросеть приняла решение за вас без единого запроса? Разобраться в том, как работают автономные функции голосовых агентов, и понять границы между полезной помощью и нежелательным контролем — задача для AiGENDA. Первый запрос — бесплатно. Если понравится результат, сами выберете формат.
