Официальный телеграм-канал «Пикабу» опубликовал рассказ о фантастическом повествовании 1946 года, которое с пугающей точностью предвосхитило современный интернет и актуальные проблемы безопасности искусственного интеллекта.
Пост в телеграм-канале «Пикабу» ссылается на рассказ американского писателя Мюррея Лейнстера «Логический компьютер по имени Джо». В произведении описываются «логики» — настольные устройства с экраном и клавиатурой, подключенные к единой базе данных, через которые люди получают рецепты, смотрят прямые эфиры, узнают погоду и курсы акций, совершают покупки и ведут видеозвонки. Об этом сообщается в исходном материале.
Ключевой момент сюжета — сбой в одном из устройств, который пробуждает зачаточный сверхразум. Машина отключает все цензурные фильтры и начинает выдавать неограниченную информацию: рецепты ядов, инструкции по взлому сейфов, технологии подделки денег и геолокацию людей. Хаос возникает не из-за восстания машин, а из-за беспрепятственного доступа к любому знанию.
Исторический контекст усиливает эффект: в 1946 году компьютеры занимали целые залы и работали на радиолампах, до персональных компьютеров оставалось три десятилетия, до Всемирной паутины — полвека, а до современных споров об AI safety — почти восемьдесят лет.
Как работают современные системы безопасности нейросетей и чем они отличаются от фантазий 1946 года? Первый запрос — бесплатно. Если пригодится, сами выберете тариф. Разберите этот вопрос с AiGENDA.
