Саймон: Почему же. Усложню вам задачу. Представим, что перед вами будет стоять абсолютно «человеческий» ИИ. Вы знаете, что это ИИ, но он разговаривает, чувствует, испытывает эмоции, у него есть история. Он вам помогает, он ваш друг. Вы выстрелили бы в него?
Дэвид: Скорее всего… нет.
Саймон: Почему? Потому что вы видите в ИИ человека?
Дэвид: Ну, я полагаю, мы склонны «очеловечивать» много чего. Да, скорее всего я бы подумал, что он…
Саймон: Живой?
Дэвид: Да. Мне кажется, Саймон, что мы в будущем обязательно столкнемся с моральной дилеммой.
Саймон: Думаете, что для ИИ нужно будет предусматривать права и обязанности?
Дэвид: Если они и дальше будут развиваться в том направлении, в котором развивается Кристина, то да. Мне кажется, мы будем вынуждены это сделать.
Саймон: И что тогда… мир захватят машины? Терминатор? Скайнет16?
Дэвид: Черт, не хотелось бы. Единственное, что мы теперь можем делать, не останавливая прогресса, это…
Саймон: Что?
Дэвид: Развиваться быстрее и становиться лучше, чем ИИ.
Из передачи «Комические загадки»
Часть 2. Глава 3.
2087 год.
Она впервые за долгое время увидела себя в зеркале в туалете: чересчур худая, измученное лицо, остекленевший взгляд, бледная кожа – она выглядела ничуть не лучше Майкла. Мария провела рукой по волосам: на пальцах собрался большой ком русых волос. Она вышла из туалета и наблюдала за тем, как Девять помогал Майклу дойти до стола, который Оби накрыл для ужина. Майкл был веселым, азартным и смелым парнем, а сейчас его было не узнать: он всё еще повторял слова о процессоре и казался старым больным инвалидом. Его некогда густые волосы значительно поредели, он исхудал, потеряв былую мышечную массу. Вот так два сломленных человека, превосходные специалисты своего дела, оказались за одним столом в подвале у Скульптора. Оби подошел к очень старому магнитофону с кассетоприемником и включил музыку. Убавил звук, чтобы не пугать гостей, а затем поставил тарелки с едой на стол: салат, нутовые котлеты, макароны, томатный соус.
– Хочешь выпить чего‑нибудь, детка? – спросил Оби у Марии.
– Нет. Пожалуй, только воды.
– Сделаем, – ответил он.
Девять сел напротив Марии рядом с Майклом, взял у него вилку и нож, разрезал котлету, а затем поднес отрезанный кусочек ко рту Майкла, – тот медленно открыл рот.
– Сколько он тут? – спросила Мария.
– Неделю. Я вытащил его первым.
– Где он находился?
– В Изоляторе, как и ты. Только в другом. Я нашел его в очень плохом состоянии.
– То есть ты сначала забрал его, потом меня, и никто не заметил?
– Заметили бы, если бы не Оби.
– Чем конкретно он занимается?
– Как чем, девчуля моя, я – Скульптор – создаю внешность. Я такой фэйс17 ему сварганил, что никто его не узнал, – пояснил Оби, сев рядом с Марией. – И, конечно, полазил в настройках, подделал документы.
Он принялся жадно поглощать еду. Мария тоже потянулась к салату: сначала медленно, но затем быстрее, она кушала, и силы медленно возвращались.
– Я хотела бы поблагодарить вас за всё.
– Так, дорогая, без всяких «вас». Я – Оби, и точка. И не за что. Я у Девять в долгу.
– Как, кстати, вы встретились?
– О, это очень крутая история! – воскликнул Оби, но неожиданно замер.
Мария видела, как он сосредоточился на линзах, на которые передавалась информация.
– Вы захотите это увидеть.
Оби вскочил и спроецировал изображение на стену почти под полоток – пришлось закинуть голову. Изображение нечеткое, но всё же ясно, что перед ними был Президент. Мария инстинктивно сжала кулаки под столом.
«Добрый день! Прослушайте, пожалуйста, сообщение. Сегодня утром Дев Ананд, бывший глава службы безопасности Корпорации, был найден мертвым. Напомним, что после задержания он был изолирован от общества, так как представлял угрозу общественной безопасности. Экспертиза установила, что мистер Ананд совершил самоубийство, перерезав себе вены стеклом, которое он ранее разбил, находясь в нестабильном психическом состоянии.
Кроме того, напомним: неделю назад из Изолятора сбежал нарушитель, фотографию которого вы сейчас видите. Просим всех, кто что‑либо знает о его местонахождении, связаться с ближайшим ВИ для передачи информации. Субъект потенциально представляет угрозу безопасности общества. В настоящее время устанавливаются обстоятельства побега. Просим вас сохранять спокойствие и бдительность. Хорошего вечера. До свидания».
Изображение исчезло со стены.
«Он убил его. Он убил его, потому что Дев увидел то, что никто не должен был увидеть. Не верю, что такой сильный человек, как Дев, мог покончить с собой. Он не мог. Он был самым сильным из нас. Он убил его. Тварь. Он убил его».