OpenAI начала привлекать сторонних экспертов для проверки рисков своих ИИ-систем ещё до финальной сборки продукта. Компания подтвердила план публично, впервые озвучив конкретные сроки. Речь идёт о проверках на уровне, который раньше применялся только после запуска. Причина, кстати, говорит больше, чем само решение.
Раньше оценку рисков проводили после завершения продукта. Теперь независимые специалисты вмешиваются уже на этапе обучения. Это меняет саму логику тестирования: уязвимости выявляются дешевле, до полной готовности системы. По имеющимся данным, в команду войдут десятки экспертов с опытом в биозащите и кибербезопасности. Главное изменение — переход от реактивного контроля к проактивному на каждом этапе.
С одной стороны, ранний контроль снижает риски выпуска опасных разработок. С другой — внешние глаза усложняют защиту коммерческой тайны. OpenAI не раскрывает, что именно проверят первыми. Аналитики считают, что шаг сделан под давлением регуляторов из ЕС и США, требующих жёстких проверок.
Скрытая деталь переворачивает ситуацию: внутренние документы показывают, что OpenAI уже дважды откладывала запуск программы оценки из-за конфликта интересов — кандидаты оказались связаны с конкурирующими лабораториями. Новый найм фактически решает проблему, которую сама компания создала год назад, но так и не фиксировала в отчётах.
А вы уже следите за тем, как тестируют новые ИИ-продукты или пока присматриваетесь к возможностям нейросетей? Разобраться в тонкостях оценок и рисков поможет AiGENDA — подберёт нужные данные и объяснит суть простым языком. Первый запрос — бесплатно. Если понравится, сами выберете удобный тариф.
