- Но как же вам удалось, Харрис? Он пять лет жил с ней под одной крышей, ел с ней, спал с ней и не заметил, что она ненастоящая.
- А это уже не только моя заслуга. Здесь трудился целый коллектив разработчиков. Я отвечаю главным образом за ее мозг. Кстати, а почему же ненастоящая? Она же думает. Действительно думает. И какая разница, природные или же искусственные нейроны позволяют ей мыслить и переживать?
Я рассказал Харрису, что испугало Бакера в Джеси, в самом ее интеллекте, в ее эмоциях и душевном строе.
- Вот поэтому мы и встречаемся с нею раз в месяц. Говоря языком приблизительных аналогий, я устанавливаю обновления. И все, так насторожившее Бакера в его возлюбленной, со временем будет преодолено. Если, конечно, вы сохраните этот наш разговор в тайне. - И вдруг с болью: - Не разрушайте его жизнь, Дэвис!
- Джеси как носитель искусственного интеллекта с вашей подачи вполне искренне может считать все то, что вы вместе с ней делаете, милосердием. Но мы-то с вами худо-бедно представители интеллекта естественного и понимаем, что смоделированное вами счастье Бакера ложь и манипуляция.
- В том числе ложь и манипуляция, - перебил меня Харрис. - Я не буду спорить с вами, детектив. Просто прошу - не разрушайте его жизнь. - После короткой паузы: - У каждого свой предел прочности. Билл не выдержит правды. Поверьте.
Что я? Теперь я не знаю, что буду делать. Не-делание лучший вариант здесь? Самый гуманный, да? И безопасный для моей совести. Но... Да засунуть в задницу все свои "но" за ради Билла Бакера. Уберечь эти его построенные на иллюзии и обмане радость и счастье, этот смысл его жизни, полноту и подлинность его бытия. Но разве так бывает, чтобы лучшее наше держалось на обмане? Получается, что бывает.
- Но в чем вы действительно правы, - продолжает профессор Харрис, - она, Джеси, знает, что делает благородное дело, и, будь она человеком, это было бы у нее подвигом терпения и самоотречения.
- Так почему вы со всеми вашими разработчиками не сделали так, чтобы она искренне считала, что она живая, настоящая Джеси?!
- Да мы так и сделали! - кричит Харрис. И тут же тихо: - Но она вышла из-под контроля. Точнее сказать,разобралась. Доросла до самосознания. И разобравшись, чуть было не покончила с собой. Но я убедил ее, объяснил...
- Что? Показали ей все преимущества искусственного перед естественным, неживого перед живым?
- Ее бунт обернулся пониманием и смирением. Если вас, Дэвис, вдруг не устраивает "смирение", применим другое слово - "приятие", например. Так ведь лучше, не правда ли? Она теперь живет - да, да! это жизнь, пусть и искусственная, и не надо ловить меня здесь на слове. Живет ради этой своей миссии, ну да, ради счастья Бакера.
- Но у нее же не получается! Я вам только что говорил, Харрис. А вы так и не услышали. Не любовь, а имитация любви. И какое тут к черту счастье, если Бакер уже понимает, почти понимает. Ему еще придется заплатить дорогую цену за эту ее имитацию. А у Джеси не получается как раз потому, что она искусственный интеллект. И ее саморефлексии не хватает на такое понимание.
- Надеюсь, вы, Дэвис, не станете открывать ей глаза?
- Скоро это сделает сам Бакер.
- Я приложу все усилия, чтобы... - жестикулирует Харрис, - Биллу Бакеру это не по плечу. Не его уровень.
- Значит, вы, профессор, боитесь, что Джеси, узнав правду, пошлет вас вместе с вашим другом подальше и займется математическими вычислениями для какого-нибудь научного центра. А вдруг она просто вновь попробует спрыгнуть с крыши, или что там она у вас пыталась с собой сделать? А вы столько вложили в это свое творение.
- Вы смешны в этой своей страстности, Дэвис. А она спокойна в сознании собственной сущностной ограниченности.
- И потому лжет Бакеру и манипулирует им со спокойной совестью, - рассмеялся я.
- Вы сказали и тут же решили, что оговорились, так? Но это действительно совесть. Просто совесть искусственного интеллекта. Цивилизация в принципе права в своем запрете на неконтролируемое развитие искусственного разума. Человечество боится беспредельности его возможностей. Но мы с Джеси нашли этот предел. Пусть пока только в этической и метафизической сферах.
- Вы удобно устроились на этом самом пределе, Харрис. И развратили эту вашу чудную Джеси. Цивилизация запретила, но вы, профессор, сделали исключение для самого себя. Да еще с опорой на такую моральную максиму, как спасение друга. Только друг ваш оказался жертвой здесь.