Глава OpenAI Сэм Альтман назвал два сценария, при которых развитие искусственного интеллекта может навредить человечеству. Сама компания заявила об этих угрозах в документе для сотрудников. Первый риск — полная потеря контроля над системами, которые превзойдут человеческое понимание. Второй — слишком мощный ИИ окажется в руках одной компании или одной страны. Причина, кстати, проще, чем кажется.
OpenAI выделяет два конкретных пути к катастрофе. Системы ИИ обретут автономность быстрее, чем разработчики смогут их контролировать. Согласование целей искусственного интеллекта с человеческими ценностями должно опережать рост возможностей моделей, иначе результат будет непредсказуем. Пока ни одна лаборатория, включая OpenAI, не подтвердила решение этой задачи.
Аналитики делятся на две группы. Одни считают главной угрозой концентрацию власти — миллиардеры или правительства могут использовать ИИ для навязывания своей воли. Другие уверены, что опаснее технический дефицит: системы станут умнее создателей раньше, чем появятся механизмы ограничения. Обе позиции описывают антиутопию, но с разными виновниками.
И вот что меняет картину: сам Альтман не предложил конкретных механизмов защиты. План OpenAI сводится к призыву — пройти узкий срединный путь. При этом каждый крупный игрок идёт своим маршрутом: Google, Meta*, Anthropic строят закрытые системы с собственными правилами. Единого стандарта безопасности нет, а он критически важен.
Если вы пытаетесь разобраться в рисках новых технологий и не знаете, с чего начать, просчитать все сценарии поможет искусственный интеллект AiGENDA — разберётся в сложных данных, выделит ключевые угрозы и покажет простым языком, что реально опасно, а что нет. Первый запрос — абсолютно бесплатно. Если понравится результат, сами выберете удобный тариф.
* — Meta (Instagram, Facebook, WhatsApp) признана в РФ экстремистской организацией и запрещена.
