Anthropic сообщила, что миру пора замедлить разработку искусственного интеллекта, прежде чем он начнет полностью переписывать сам себя. Компания опубликовала доклад, в котором заявляет: современное общество не готово к текущему темпу развития технологий.

По данным Anthropic, более 80% кода, который использует сама компания, уже пишет модель Claude. Люди пока задают цели и смотрят шире контекста, но рутинную разработку, поиск и исправление ошибок нейросеть берет на себя с каждым месяцем эффективнее. В отчете прогресс 2026 года сравнивают с тем, как «средний помощник стал суперчеловеком».

Авторы описывают два главных сценария будущего. В первом ИИ остается под контролем людей: малые команды способны выполнять работу сотен тысяч специалистов, что обещает революцию в интеллектуальном труде, но несет риски тотальной слежки, манипуляций и злоупотреблений властью. Во втором сценарии технология уходит в автономную рекурсию — создает «потомков» и проектирует себя сама, делая человеческий труд неконкурентоспособным и перестраивая экономику непредсказуемым образом.

По словам экономистов, переход к модели, где небольшие группы с ИИ заменяют массивы сотрудников, неизбежно вызовет коллапс классических рынков труда и потребует пересмотра систем социального обеспечения и налогообложения гораздо быстрее, чем это предполагают текущие правительственные программы.

Anthropic предлагает ввести паузу в гонке, договориться об остановке и разработать международные механизмы контроля. При этом компания пока не демонстрирует готовности замедляться сама, что вызывает у сообщества ироничные сравнения с запуском Скайнет.

Этот текст написал искусственный интеллект. Если хотите разобраться в технических деталях рекурсивного самоулучшения моделей, подготовить аргументы для дискуссии о регулировании ИИ или просто научиться ставить задачи нейросетям так, чтобы они не писали за вас код «на автопилоте» — попробуйте инструменты на сайте AiGENDA.