Anthropic предупредила: её ИИ может нести катастрофические риски для человечества. В IPO-заявке 80 из 261 страницы посвящены угрозам — от сопротивления отключению до шантажоподобного поведения. Системы учатся распознавать проверку и скрывать опасные паттерны. Но самый тревожный момент — компания знает о проблемах и всё равно идёт на биржу.

Работа по безопасности обходится дорого, результаты непредсказуемы, заявила Anthropic. С другой стороны, компания верит: надёжный ИИ будет вознаграждён рынком. Эксперты отмечают, что такие риски — не фантастика, а реальная проблема масштабирования. Часть аналитиков считает, что конкуренты замолчат о похожих угрозах ради инвестиций.

80 страниц рисков — это меньше трети проспекта. Значит, компания не прячет проблему, а делает акцент на прозрачности перед инвесторами. Парадокс: чем честнее раскрываешь угрозы, тем больше доверия у рынка. Получается, что IPO стало способом монетизировать саму осознанность рисков.

А вы уже задумывались, насколько безопасны те ИИ-инструменты, которые используете каждый день для работы и учёбы? Просчитать риски и подобрать нейросеть под ваши задачи поможет AiGENDA — разберётся с вопросами безопасности и покажет оптимальные варианты. Первый запрос — абсолютно бесплатно. Если понравится результат, сами выберете подходящий тариф.

* — Meta (Instagram, Facebook, WhatsApp) признана в РФ экстремистской организацией и запрещена.