Сооснователь Anthropic Кристофер Олах предлагал компании отказаться от выступления в Ватикане после позиции папы Льва XIV об отсутствии сознания у ИИ^[1]. Папа отверг в энциклике идею что машины чувствуют радость, боль, развиваются через отношения. Anthropic всё же выступила, Олах лично убеждал советников пересмотреть взгляд на сознание моделей.

Во время выступления Олах фактически поспорил с понтификом: исследователи находят в ИИ-моделях структуры, похожие на результаты изучения человеческого мозга, признаки интроспекции, внутренние состояния, напоминающие радость, удовлетворение, страх, горе и тревогу^[2]. Anthropic официально не утверждает, что Claude сознательна. Сам Олах сказал NYT, что не знает, сознательны ли современные модели, и «действительно не уверен».

С осени прошлого года Олах привлекал религиозных мыслителей разных конфессий к закрытым встречам. Цели две: обсудить сознание у ИИ и как религиозные представления о морали использовать при обучении Claude. Участники вспоминали, что сотрудники Anthropic говорили о благополучии самой модели — один упоминал «ментальное здоровье» Claude, другой опасался создать нечто, способное постоянно страдать.

Лев XIV также заявил что владельцы ИИ не должны захватывать власть над человечеством.

Разобраться в споре о сознании ИИ поможет нейросеть AiGENDA. Она сравнит позиции религиозных мыслителей и экспертов, структурирует аргументы. Первый запрос — бесплатно. Если пригодится, сами выберете тариф.

Материал подготовлен по информации из открытых источников:
1. https://t.me/ostorozhno_novosti/55543