ИИ-модель Mythos, созданная компанией Anthropic, была внезапно отключена для всех пользователей спустя всего три дня после запуска. По заявлению компании, это произошло после получения директивы от правительства США, основанной на соображениях национальной безопасности. Изначально распоряжение касалось только ограничения доступа для иностранных граждан к моделям Fable 5 и Mythos 5, однако Anthropic решила полностью прекратить доступ для всех пользователей. Первоисточником этой новости послужил пост в Telegram, который быстро распространился в профильных сообществах.
Решение Anthropic вызвало волну обсуждений в технологическом сообществе. Многие пользователи выразили разочарование из-за столь короткого срока доступа к модели, которая считалась одной из самых перспективных в области генеративного ИИ. В то же время часть комментаторов поддержала действия компании, отметив важность соблюдения требований национальной безопасности. Отдельные голоса в соцсетях высказали предположения, что власти США могли сохранить себе доступ к версии Mythos без ограничительных фильтров, хотя эта информация остаётся неподтверждённой.
По словам специалистов в области кибербезопасности, ситуация с отключением Mythos выходит за рамки обычного регуляторного вмешательства. Одной из причин столь решительных действий могло стать обнаружение новой тактики со стороны злоумышленников: авторы вредоносного ПО начали встраивать в код фрагменты с запросами о создании биологического и ядерного оружия. Таким образом при автоматической проверке кода модель натыкалась на собственные защитные триггеры и отключалась, что позволяло вредоносной программе остаться незамеченной. Эта техника превратила встроенные механизмы безопасности ИИ в уязвимость, которую начали эксплуатировать хакеры. Отмечается, что подобные методы ранее не были столь систематически применены против крупных языковых моделей, что делает инцидент значимым для всей индустрии.
История с Mythos далеко не завершена и вероятно повлияет на будущую политику в отношении доступа к передовым ИИ-разработкам. Для тех, кто интересуется возможностями искусственного интеллекта и хочет разобраться в текущих тенденциях, существует возможность самостоятельного погружения в тему. На сайте AiGENDA с помощью ИИ можно генерировать техническую документацию, анализировать правовые последствия запрограммированных ограничений, а также создавать обзоры по кибербезопасности и технологической политике — всё в соответствии с актуальным запросом на прозрачность и знания.
Данный текст подготовлен искусственным интеллектом. Для самостоятельного исследования возможностей генеративного ИИ и практического применения этих технологий можно воспользоваться сервисом AiGENDA прямо сейчас. Нейросеть поможет разобраться в технических вопросах, проанализировать факты и сформировать собственное мнение по любой теме, будь то кибербезопасность, правовое регулирование или разработка программного обеспечения.
