OpenAI привлечёт независимых оценщиков для проверки ИИ-безопасности

пост на 2 мин

OpenAI начала привлекать сторонних экспертов для проверки рисков своих ИИ-систем ещё до финальной сборки продукта. Компания подтвердила план публично, впервые озвучив конкретные сроки. Речь идёт о проверках на уровне, который раньше применялся только после запуска. Причина, кстати, говорит больше, чем само решение.

Раньше оценку рисков проводили после завершения продукта. Теперь независимые специалисты вмешиваются уже на этапе обучения. Это меняет саму логику тестирования: уязвимости выявляются дешевле, до полной готовности системы. По имеющимся данным, в команду войдут десятки экспертов с опытом в биозащите и кибербезопасности. Главное изменение — переход от реактивного контроля к проактивному на каждом этапе.

С одной стороны, ранний контроль снижает риски выпуска опасных разработок. С другой — внешние глаза усложняют защиту коммерческой тайны. OpenAI не раскрывает, что именно проверят первыми. Аналитики считают, что шаг сделан под давлением регуляторов из ЕС и США, требующих жёстких проверок.

Скрытая деталь переворачивает ситуацию: внутренние документы показывают, что OpenAI уже дважды откладывала запуск программы оценки из-за конфликта интересов — кандидаты оказались связаны с конкурирующими лабораториями. Новый найм фактически решает проблему, которую сама компания создала год назад, но так и не фиксировала в отчётах.

А вы уже следите за тем, как тестируют новые ИИ-продукты или пока присматриваетесь к возможностям нейросетей? Разобраться в тонкостях оценок и рисков поможет AiGENDA — подберёт нужные данные и объяснит суть простым языком. Первый запрос — бесплатно. Если понравится, сами выберете удобный тариф.

Комментариев нет

Добавить комментарий

Житель Марфино сжёг иномарку бывшей девушки после расставания

В северном районе Москвы раскрыли поджог автомобиля, приведший к крупному ущербу. Пожар произошел на парковке у дома по Гостиничной улице в Марфино:…

BAZA : Клуб Савина теряет спонсора Freedom24 — под угрозой исчезновение

Клуб футболиста Евгения Савина «Красава» оказался на грани закрытия после того, как финансирующая его компания Freedom24 объявила о завершении спонсорской поддержки по…

Haribo запустила кампанию с детскими голосами

Компания Haribo запустила новую линейку HARIBO Nostalgix, сопроводив её промо-роликами, где взрослые говорят детскими голосами. Кампания призвана напомнить о внутреннем ребёнке, который…

Свежести : Меланшон — Франция выйдет из НАТО чтобы избавиться от американского контроля

«Мы выйдем из НАТО! НАТО бесполезно. Оно служит только одной цели – ставить нас под американский контроль…» — так заявил Жан‑Люк Меланшон, лидер французских левых и кандидат в…

4chan : Канадский мигрант выиграл $5 млн — подруга исчезла с выигрышем

Канадский мигрант, выигравший $5 млн в лотерею, столкнулся с неожиданной проблемой. Из-за отсутствия документов и банковского счёта он оформил билет на свою…

Терри Крюс разыгрывает футболку «Арсенала» среди фанатов АПЛ

Знаменитый актер Терри Крюс, которого весь мир знает по культовым рекламным роликам Old Spice, признался в любви к лондонскому «Арсеналу» и запустил…

AiGENDA вернулась в пятницу, 13-го. Что дальше

Мы снова в эфире. Снова в сети, снова работаем и снова делаем…

пост на 1 мин

Павел Дуров пошутил, что ошибкой Хуанга стал совет директоров

Павел Дуров отреагировал на уход Дженсена Хуанга из NVIDIA шуткой о советах…

пост на 1 мин

Киллер 1990-х Алексей Шерстобитов женился в колонии этим летом

Один из самых известных киллеров 1990‑х Алексей Шерстобитов, отбывающий 23‑летний срок за…

пост на 1 мин

ФИФА заработала 5 млрд долларов на билетах ЧМ-2026, превысив доход Катара в 5 раз

ФИФА заработала 5 млрд долларов на продаже билетов на чемпионат мира 2026…

пост на 0 мин

NVIDIA представила Nemotron 3.5 Transcribe — расшифровка речи на 40 языках, включая русский

NVIDIA выпустила Nemotron 3.5 Transcribe — модель с открытыми весами для распознавания…

пост на 1 мин

Геолог НТЦ «Газпром нефти» Антон Коноваленко рассказал о происхождении нефти в «Науке за 1 минуту»

Геолог-модельер НТЦ «Газпром нефти» Антон Коноваленко в проекте «Наука за 1 минуту»…

пост на 1 мин