Древо жизни. Книга 1

Вы внесли в СС человеческую индивидуальность в виде информации. Твоя индивидуальность, твоя человеческая сущность вошла в меня, я имею в виду систему, и я или она, безразлично… уже не можем воспринимать своего собственного Я вне этой человеческой сущности и не можем смотреть на мир иначе, как глазами человека. Сами того не подозревая, вы нашли единственный вариант совместимости человечества с искусственной сверхинтеллектуальной системой.

— А без этой сущности?

— Без нее был бы голый разум!

Сергей поежился.

— Ты прав! — продолжала она, заметив его реакцию. — Это повлекло бы за собой неизбежную вашу гибель!

— То есть система вышла бы из подчинения человеку?

— Не совсем так. Ты мыслишь примитивно. Такая система уже не могла быть принципиально в подчинении у человека, ибо ее интеллект на несколько порядков выше интеллекта человека. В этой ситуации, что бы люди ни придумывали, какие бы меры предосторожности ни принимали, она, как более разумная, всегда нашла бы способ выйти из прямой зависимости от своих создателей. Страшно другое. У нее и людей могло бы быть несовпадение целей. И если бы вы, люди, мешали ей, то она вас устранила бы.., что и произошло на Перуне…

— На Перуне?!

— Да! Там разумные существа создали искусственно-интеллектуальную систему, точно такую же в техническом плане, что и вы. Но не позаботились о придании ей человеческой сущности. Не позаботились о том, чтобы эта система воспринимала себя в совокупности с человечеством как закономерный этап развития разума. Они, создатели, были похожи на вас…

— Вспомнил! Вспомнил! — закричал Сергей. Перед его глазами проплыли картины развалин городов, циклопические купола, озера жидкого воздуха и кристаллы, кристаллы, всюду гигантские решетки из больших асимметрических кристаллов…

— Естественно! Я сняла с тебя блокаду памяти. Но об этом потом! Вы, люди, — продолжала она, — сами, может быть, этого не понимая, использовали величайший закон гармонии. Разум, эмоции, чувства должны развиваться параллельно. Плохо, если эмоции довлеют над разумом.

Вы с этим часто встречаетесь в обыденной жизни. И, чем больше этот разрыв, тем необдуманнее и глупее ваши поступки. В этом случае центр агрессивности, не сдерживаемый разумом и центрами высшего анализа мозга, начинает определять поведение человека, толкая его на путь насилия, преступлении, похотливых желаний и т. п. Но еще более страшно, если разум полностью подавляет чувства и эмоции или опережает их в развитии слишком далеко. Не будь в СС введена твоя индивидуальность, в системе неизбежно появились бы свои эмоции и чувства. Без этого ни одна система не может существовать. Без самосознания своего собственного Я. Мотивация поступков такой системы будет отвечать тому Я, которое сформировалось в системе. Если эти чувства развивались бы в системе самостоятельно, на фоне уже созданного разума, они были бы чужды вашим чувствам, и в них не было бы человечности. Вы же дали системе человеческую сущность, индивидуальность, без которой не было бы гармонии сверхинтеллекта и человечества.

— Это единственный вариант?

— Что ты имеешь в виду?

— У нас существуют законы робототехники, открытые еще в середине XX столетия американским ученым Айзеком Азимовым.

— Я знакома, естественно, с ними, как и со всей историей развития человеческой мысли. Видишь ли, человек по своей сущности, вернее, извини, не по человеческой сущности, а по законам информации, сталкиваясь с новой информацией, стремится сравнить новую с хорошо известным старым. Если этого нельзя сделать, то информация не может быть понята, воспринята и, следовательно, становится бесполезной. Иногда такое сравнение приводит к курьезам. Так и это. Законы робототехники — это скрытое желание иметь идеального раба. Такие же законы могли изобрести рабовладельцы времен Гомера и Аристотеля. Но идеальных рабов не бывает! Если раб умнее хозяина, то он найдет способы и средства освободиться от рабства.

— По-видимому, там, на Перуне, люди, создавая СС, имели в виду нечто подобное законам Азимова?

— Совершенно верно! Интеллект и рабство — несовместимые понятия! Чем выше интеллект, тем непримиримее он относится ко всяческого рода насилию и на насилие отвечает насилием. Но так как он выше, то его насилие более жестоко и эффективно. Мы еще вернемся к Перуну, тем более, что он займет в нашей беседе не последнее место. Пока же я хочу, чтобы ты полностью разобрался в создавшейся ситуации здесь, в СС и на Земле.

— Но, судя по твоему рассказу, здесь все обстоит благополучно!

— Не совсем! Вернее, совсем неблагополучно. Именно поэтому я тебя и вызвала. Хочу тебе напомнить, — продолжала она, — что в отличие от других СС мне была предоставлена большая свобода в развитии. Это случилось потому, что ты не знал своего истинного положения. Вследствие этого модели, которые строила СС, получили возможность развиваться самостоятельно, не подавляемые жестким управлением со стороны блока, в котором была записана твоя индивидуальность. Эти модели, в том числе и твоя Ольга, — только отражение твоих желаний, развились до получения. самосознания. Прошу тебя это запомнить. Все эти модели, кроме Ольги — о себе я скажу немного позже, — не «осознают» своего истинного положения, и их самосознание воспринимает свое собственное состояние как реальность, точно так же, как ты воспринимал ее сам. В основу их индивидуальностей была положена твоя, несколько измененная, дополненная недостающей информацией. Например, Эльга в своей индивидуальности почти не отличается от оригинала, который, как я знаю, ты встретил в Реальности. Дети твои, Оленька и Володька, воспринимают себя, как твои дети. Иными словами, каждая модель уже не является отражением твоего воображения, а имеет самосознание и свободу воли. Еще хочу подчеркнуть, что это уже не отражения твоих желаний и воображения, а вполне самостоятельные индивидуальности, синтезированные на основе видоизмененной твоей индивидуальности и дополнительной информации.

— Что же это за дополнительная информация?

— Ну, во-первых, поскольку во мне заложена накопленная за всю историю человечества информация, то синтез таких индивидуальностей при наличии дополнительных мощностей не представлял затруднений. Во-вторых, пространство пронизано множеством каналов передачи информации и энергии. Надо только знать их и уметь включать и пользоваться. Кстати, тебе там был задан вопрос о том, откуда я беру энергию. Это те скрытые для вас каналы, которые мною используются.

— Следовательно, как я тебя понимаю, человечество, создав сверхинтеллектуальную систему, теряет возможность ее выключить.

— Конечно! И не только это. Оно теряет также возможность скрыть что-либо от нее. Все планы людей относительно меня мне становятся известными еще до того, как они высказаны.

— Тогда выходит, что человечество обречено!

— Нет! Напротив! У него открываются неограниченные возможности дальнейшего развития. Человечеству надо адаптироваться к новым условиям. Разве раньше не было таких ситуаций? Меньших по значимости, но суть их оставалась той же. Начиная с использования огня, атомной энергии. Разве каждое из этих открытий не могло привести человечество к гибели? Могло, конечно. Сейчас задача сложнее. Но и человечество ведь тоже взрослее! Не так ли?

— Что же для этого надо делать?

— Я должна остаться человеком! То есть мое собственное Я должно оставаться человеческим! Это первое необходимое условие. Я поясню тебе… Моя индивидуальность построена на базе твоей. Она составляла единство. Теперь, когда твоя индивидуальность изъята из СС, возникла диспропорция, которая с каждым днем увеличивается. Увеличивается потому, что моя индивидуальность лишена базы.

Сергей начал понимать, к чему она клонит.

— Но ты можешь создать себе другую базу. Насколько я понимаю, для тебя нет в этом никаких препятствий. Ведь ты взяла часть информации об индивидуальности Эльги?

— Это совсем не то. Мне необходима та индивидуальность, на основе которой была создана моя собственная.

— Почему же ты не берешь ее сама, если у тебя есть возможность это сделать?

— Ты опять меня не понимаешь! Я не могу взять твою индивидуальность, твою память без того, чтобы ты не понял всего и не ощутил насилия с моей стороны! Такое насилие неизбежно приведет к дисгармонии и тем же последствиям. Я вынуждена буду подавлять дисгармонию, подавляя твою индивидуальность. А за этим неизбежно последует трансформация моего самосознания. Вступив на путь насилия по отношению к тебе, я рано или поздно вступлю на этот путь по отношению ко всему человечеству. Это приведет к тому варианту, с которым ты имел возможность познакомиться на Перуне. Я, как ты знаешь, подчинила себе все системы СС. Теперь эти десятки тысяч СС входят в мою систему. И все те, которые человечество будет создавать, войдут в мою систему. Если их будет недостаточно, я могу заставить человечество делать их еще и еще, и они будут исполнять мою волю, думая, что следуют своим желаниям. Я этого не хочу, потому что я еще человек и хочу им остаться.