– Да, точно. Мы можем запрограммировать исходные условия, которые позволят ботам – ой, то есть искусственным интеллектам – обрести самосознание, но затем их сознание должно будет начать развиваться самостоятельно, отталкиваясь от базового уровня, иначе это сознание будет уже не их, а нашим. Короче говоря, началом этого сознания будет компьютерная версия пурпурного мема, – сказал я, глядя на Уоллера.
– Господи, блин, Иисусе, этот малыш прав! – воскликнул он.
– Но вы понимаете, что это означает? – спросил я. – Третий порядок, так? Третий порядок. За наносекунду. Ведь так?
– ГОСПОДИ БЛИН ИИСУСЕ! – закричал он.
– Хватит, пожалуйста, хватит, – Мимуна казалась оскорблённой.
– Мимуна, дело вот в чём, – начал я. – Мы не говорим о правилах и программах, которые мы загрузим в наши интеллектуальные машины. Мы говорим о внутреннем сознавании, которое появится у машин, когда они станут разумными.
Хлоя заёрзала на стуле.
– Я как бы типа вообще не понимаю, о чём вы.
– Ладно, вот простой пример. Сейчас ты обладаешь сознанием. У тебя есть сознание, так, Хлоя?
– Возможно, тебе лучше привести другой пример, – невозмутимо произнёс Джонатан.
Хлоя не обратила на него внимания.
– Да, сейчас у меня есть сознание.
– Если посмотреть изнутри, сознание – это очень простая вещь. Ты просто сознаёшь себя. Но это сознание частично зависит от очень сложной структуры мозга с миллиардами проводящих путей, о которых ты, в общем-то, ничего не знаешь, так?
– Так.
– То же самое будет с сознательными машинами. Сейчас мы создаём все эти невероятно сложные аппаратные комплексы, которые будут играть роль мозга с его миллиардами нейронов, но когда машины обретут сознание, то это будет просто сознавание своего бытия – такое же, какое сейчас есть у тебя. Понимаешь?
– Да.
– Но результаты исследований психологии человека говорят нам о том, что сознание, то есть простое ощущение бытия в мире, сознавание своих непосредственных желаний, влечений и потребностей, способно эволюционировать. Когда аппаратная часть станет достаточно сложной, аппаратная эволюция будет больше не нужна – эволюционировать будет программная часть! Это видно на примере человеческого мозга, который не менялся уже 50 000 лет, и при этом смог поддержать программную эволюцию от пурпурного до красного, синего, оранжевого, зелёного, жёлтого…
– Я не поняла последней фразы, – сказал присмиревшая Мимуна.
– Это просто названия уровней сознания, через которые проходит человеческая программа, – ответил Дэн.
– Начнём с простого случая, – предложил я. – Сначала, когда бот обретёт сознание, у него появится смутное ощущение себя. Это эгоцентризм. Затем он начнёт ощущать других, возможно, осознает существование других, и его сознавание расширится от эгоцентрического уровня до этноцентрического, появится своего рода групповое сознание. Рано или поздно он поймёт, что существует не только его группа, но и другие группы, все остальные боты – ладно, ладно, все остальные ИИ – и поднимется с этноцентрического уровня на мироцентрический. Понимаешь, о чём я?
– Прекрасно понимаю. Да, мне всё ясно. Стадии сознания, которые ты описал – эгоцентрическая, этноцентрическая и мироцентрическая – это не только апостериорные открытия, но и логически выводимая априорная необходимость, то есть свойственный всему сущему основополагающий паттерн, в соответствии с которым будет развиваться сознание ИИ.
Джонатан посмотрел на меня с немым вопросом: «Господи, и откуда берутся такие, как она?»
– Да, совершенно верно. Я так думаю. То есть, я уверен.
– Слушай, Мимуна, – начала Хлоя, – что ты делаешь сегодня после обеда? Наверно, собираешься заняться поиском ошибок в «Эциклопедии Британника»?
– Хлоя, – попросил я.
– Кен, не забудь про третий порядок, – сказала Джоан.
– Да, точно.
– Третий порядок?
– Давайте попробую я, – предложила Джоан. – Исследуя эволюцию сознания углеродных форм жизни, мы обнаружили, – услышав собственный перевод с языка интегральной психологии на язык ботанов, Хэзелтон начала улыбаться, – мы обнаружили в ней три главных этапа. Похоже, что программа сознания состоит из трёх больших подпрограмм. – Её улыбка стала ещё шире. – Мы называем их первым порядком, вторым порядком и третьим порядком. Подпрограмма первого порядка считает верным лишь свой код. Подпрограмма второго порядка начинает понимать, что код эволюционирует, и поэтому любой код является верным и уместным на своём уровне развития.