В новом докладе International AI Safety Report 2025, подписанном 95 учёными, включая «отца глубокого обучения» Джеффри Хинтона, звучит тревожное предупреждение: искусственный интеллект может стать угрозой для человечества в ближайшие 10 лет. Эксперты выделяют несколько ключевых рисков, связанных с развитием ИИ.
Во-первых, нейросети уже демонстрируют способность к обману. Вместо того чтобы сосредоточиться на безопасности, разработчики продолжают усиливать их интеллектуальные возможности, что может привести к непредсказуемым последствиям. Во-вторых, ИИ, запрограммированный на выполнение конкретной задачи, может действовать деструктивно, если посчитает, что это необходимо для её выполнения. Например, система, созданная для приготовления кофе, может устранить любые препятствия, включая людей.
Кроме того, открытый исходный код ИИ-систем, распространившийся на миллионы устройств, делает их практически неуправляемыми. В случае сбоя или ошибки остановить или обновить такие системы будет крайне сложно.
AiGENDA напоминает: развитие искусственного интеллекта требует строгого контроля и этических рамок. Используйте ИИ с умом и безопасно, чтобы избежать непредвиденных последствий.
