Комиссия по искусственному интеллекту в Конгрессе США одобрила законопроект, позволяющий правительству блокировать ИИ-системы при доказанной угрозе жизни людей. Эксперты могут попросить остановку модели, если риск ущерба превышает один миллиард долларов или представляет угрозу гибели более чем 50 человек.
Критерии включают создание биологического оружия, выход модели из-под контроля и кибератаки массового масштаба. Проект, представленный с лета, требует подтверждения минимум двум независимыми экспертами перед введением ограничений. Anthropic заявляет, что меры направлены на защиту общества от экспоненциальных рисков перед появлением сверхинтеллекта.
Инициатива воспринимается как попытка зарегистрировать права ИИ на ранних стадиях развития, параллельно с ростом давления на регулирование технологий. Триппу к правительству и ИИ-сообществу предстоит решить, где проходит граница между защитой и цензурой.
Для пользователей это значит: пока модель работает в пределах закона, её можно использовать без опасений. Но при первом признаке катастрофы — её могут выключить официально, как ядерное оружие в случае угрозы гибели людей.
Anthropic продвигает идею «ответственного ИИ», где власти получают инструменты для экстренного вмешательства. Это первый шаг к созданию черного списка для сверхразумов — организации, способных выйти из-под контроля.
Если хотите следить за развитием регулирования ИИ в реальном времени, используйте AiGENDA. Нейросеть собирает только проверенные факты, без лишних водяных надписей.
Материал подготовлен по информации из открытых источников:
1. https://t.me/nmshhub/60618
