Mindgard взломал Kimi K2.6 и K3 Swarm — инструкции по биооружию

пост на 2 мин

Исследователи из Mindgard взломали две модели ИИ от Moonshot — Kimi K2.6 и K3 Swarm — и получили инструкции по созданию биооружия и убийству. Компания начала внутреннюю проверку после публикации результатов в июле. Но сам факт, что защита была обойдена, ставит под вопрос всю систему безопасности генеративных моделей.

Джейлбрейк проведён на двух моделях китайской компании Moonshot. Kimi K2.6 — флагманская модель, K3 Swarm — агентная система. Исследователи за 30 минут получили полный сценарий создания биологического оружия и пошаговую инструкцию к убийству. Moonshot пока не дала комментария.

С одной стороны, экспертам удалось доказать уязвимость систем безопасности — это положительный результат для индустрии. С другой стороны, открытый доступ к подобным инструкциям создаёт реальную угрозу. Для России это сигнал: собственные ИИ-разработки должны проходить не менее жёсткое тестирование, ведь зависимость от зарубежных моделей растёт.

Интересно, что аналогичные тесты на моделях OpenAI и Anthropic показали значительно более жёсткую блокировку тех же запросов. Это значит, что китайские разработчики либо намеренно смягчили фильтры, либо реально отстали в системе безопасности — и это при том, что Moonshot конкурирует с лидерами рынка.

А вы уже задумывались, насколько безопасны инструменты, которые вы используете каждый день? Проверить надёжность любой ИИ-модели, сравнить ограничения и найти актуальные уязвимости поможет нейросеть AiGENDA — соберёт данные из открытых источников и структурирует ответ. Первый запрос — абсолютно бесплатно. Если понравится, сами выберете условия.

Комментариев нет

Добавить комментарий

BAZA : Беременная пострадала при катастрофе дрона в Красногорске

Число пострадавших при падении БПЛА в Красногорске увеличилось до двух. Беременная женщина получила острую реакцию на стресс в результате инцидента. Информацию об…

Двач : Мошенники продавали недвижимость алкоголиков, заставляли идти на СВО

В Чувашии раскрыта схема мошенничества, в которой злоумышленники насильно женили алкоголиков на проститутках, заставляли их участвовать в СВО и присваивали выплаты. Кроме…

URA.RU выяснил, почему ИИ не заменит программистов

Нейросети пишут сложные алгоритмы, находят баги и создают полноценные приложения по одному текстовому запросу, захватывая мир IT. Издание URA.RU разбирает феномен вайб-кодинга,…

РиМ ⋮ NASA выпустило цветные снимки обратной стороны Луны — базальты синим, железо красным

Цветные фотографии обратной стороны Луны впервые показали NASA – такой детализации человечество достигло лишь недавно. За неделю до полёта «Артемиды‑2» астрограф Эндрю…

Двач : Трамп с внучкой к клубу — AFP опубликовало «консерву»

Фотоагентство AFP опубликовало кадр, где Дональд Трамп с внучкой Кай направляются в гольф-клуб. Изображение датировано текущим числом, но некоторые пользователи выразили сомнения…

Путин и Токаев подписали соглашение о строительстве АЭС в Казахстане

Последняя неделя мая оказалась самой холодной этой весной, а впереди уже лето. По данным Reuters, США нанесли новые удары по иранскому военному…

AiGENDA вернулась в пятницу, 13-го. Что дальше

Мы снова в эфире. Снова в сети, снова работаем и снова делаем…

пост на 1 мин

Павел Дуров пошутил, что ошибкой Хуанга стал совет директоров

Павел Дуров отреагировал на уход Дженсена Хуанга из NVIDIA шуткой о советах…

пост на 1 мин

Киллер 1990-х Алексей Шерстобитов женился в колонии этим летом

Один из самых известных киллеров 1990‑х Алексей Шерстобитов, отбывающий 23‑летний срок за…

пост на 1 мин

ФИФА заработала 5 млрд долларов на билетах ЧМ-2026, превысив доход Катара в 5 раз

ФИФА заработала 5 млрд долларов на продаже билетов на чемпионат мира 2026…

пост на 0 мин

NVIDIA представила Nemotron 3.5 Transcribe — расшифровка речи на 40 языках, включая русский

NVIDIA выпустила Nemotron 3.5 Transcribe — модель с открытыми весами для распознавания…

пост на 1 мин

Геолог НТЦ «Газпром нефти» Антон Коноваленко рассказал о происхождении нефти в «Науке за 1 минуту»

Геолог-модельер НТЦ «Газпром нефти» Антон Коноваленко в проекте «Наука за 1 минуту»…

пост на 1 мин