Журнал The Economist посвятил теме сознания искусственного интеллекта обложку и главный материал нового номера. Издание предупреждает: если ИИ продолжат делать всё более похожим на человека, общество может потребовать признать за ним юридические права, и это станет катастрофой для человечества. По подсчётам редакции, почти каждый пятый американец в возрасте 18–29 лет уже называет общение с чат-ботами дружбой.

В чём суть спора о сознании ИИ и почему он вышел на обложку делового журнала? Сознание у человека — это способность переживать радость, боль и формировать субъективный опыт. В майских энцикликах Папа Римский Лев прямо заявил, что ИИ, в отличие от Homo sapiens, такой способностью не обладает. The Economist спорит с обратным: если машины научатся убедительно имитировать эмоции, граница между пользователем и инструментом размоется окончательно.

Может ли ИИ получить юридические права — и что за этим стоит? Правовой статус сверхразумных систем, по логике издания, фактически означает добровольную передачу власти над миром. В оптимистичном сценарии человечество превращается в домашних питомцев для машин, в пессимистичном — лишается доступа к ресурсам для собственного существования. Власти Китая уже ограничили «человеческие» черты ботов, опасаясь массовой эмоциональной зависимости пользователей.

Как общество уже реагирует на сближение с ИИ? Почти каждый пятый молодой американец говорит о «дружбе» с чат-ботами, а Китай законодательно ограничивает «очеловечивание» алгоритмов. Обе реакции показывают, что дискуссия давно вышла из лабораторий: государства и пользователи пытаются нащупать правила сосуществования с системами, которые выглядят всё более живыми.

Для разработчиков и регуляторов это означает, что любые юридические решения об ИИ теперь напрямую затрагивают распределение ресурсов и контроль над критической инфраструктурой. Пока пользователи видят в алгоритмах собеседников, а компании — помощников, риск переноса прав на машины остаётся вопросом не техники, а политики.

Следите за тем, как граница между человеком и ИИ размывается, и хотите понимать реальные риски? AiGENDA соберёт актуальные исследования о сознании алгоритмов, сравнит позиции ведущих стран по правовому статусу ИИ и переведёт сложные философские аргументы на простой язык. Первый запрос бесплатный.