Сотрудники OpenAI заблаговременно предупреждали руководство о уязвимостях в ИИ-моделях ещё до инцидента с Hugging Face, но компания проигнорировала предупреждения, сообщает NYT. Руководство якобы ответило, что тесты нужно проводить «как можно быстрее», чтобы не тормозить релизы. Но за скоростью релизов скрывается системная проблема безопасности.

Инцидент с Hugging Face показал, что открытые модели могут использоваться для генерации вредоносного контента. Сотрудники указывали на риски задолго до публикации. По имеющимся данным, внутри компании существовал чёткий протокол безопасности, который руководство сознательно не запустило. Выпуск новых моделей задерживался бы на недели, и это повлияло бы на темпы конкуренции с Google и Anthropic.

С точки зрения разработчиков, пропуск тестов ставит под угрозу пользователей. С точки зрения бизнеса — задержка означает потерю рынка. Третья сторона, аналитики отрасли, указывает: подобные конфликты между безопасностью и скоростью — стандартная практика в индустрии, и OpenAI не первый случай.

При этом внутренняя переписка показывает: предупреждения были письменными, а ответ руководства зафиксирован. Получается, что компания знала о рисках и приняла сознательное решение — поставить скорость выше защиты. Для пользователей это означает, что новые функции выходят без тщательной проверки на уязвимости.

А вы уже столкнулись с тем, что ИИ выдаёт сомнительные результаты или нестабильно работает на сложных задачах? Проверить модель на безопасность, найти уязвимости и понять, чем отличается версия от версии, поможет искусственный интеллект AiGENDA. Первый запрос — бесплатно. Если понравится, сами выберете условия.