- Все идет как по маслу, шеф, - доложил с порога Макинтайр: он только что закончил обычный обход.
- Отлично, Присядьте.
Инженер грузно опустился на стул, закурил сигарету.
- Мы уже немало времени занимаемся этим делом, - заметил Гелсен, не зная, с чего начать.
- Верно, - согласился Макинтайр.
Он откинулся на спинку стула и глубоко затянулся. Он был одним из тех инженеров, которые наблюдали за созданием первой страж-птицы. С тех пор прошло шесть лет. Все это время Макинтайр работал у Гелсена, и они стали друзьями.
- Вот что я хотел спросить... - Гелсен запнулся. Никак не удавалось выразить то, что было на уме. Вместо этого он спросил: - Послушайте, Мак, что вы думаете о страж-птицах?
- Я-то? - Инженер усмехнулся. С того часа, как зародился первоначальный замысел, Макинтайр был неразлучен со страж-птицей во сне и наяву, за обедом и за ужином. Ему и голову не приходило как-то определять свое к ней отношение. - Да что, замечательная штука.
-Я не о том, - сказал Гелсен. Наконец-то он догадался, чего ему не хватало: чтобы хоть кто-то его понял. - Я хочу сказать, вам не кажется, что это опасно, когда машина думает?
- Да нет, шеф. А почему вы спрашиваете?
- Слушайте, я не ученый и не инженер. Мое дело подсчитать издержки и сбыть продукцию, а какова она - это уж ваша забота Но я человек простой, и, честно говоря, страж-птица начинает меня пугать.
- Пугаться нечего.
- Не нравится мне это обучающееся устройство.
- Ну, почему же? - Макинтайр снова усмехнулся. - А, понимаю. Так многие рассуждают, шеф: вы боитесь, вдруг ваши машинки проснутся и скажут - а чем это мы занимаемся? Давайте лучше править миром! Так, что ли?
- Пожалуй, вроде этого, - признался Гелсен.
- Ничего такого не случится, - заверил Макинтайр. - Страж-птица машинка сложная, верно, но Массачусетский Электронный вычислитель куда сложнее. И все-таки у него нет разума.
- Да, но страж-птицы умеют учиться.
- Ну конечно. И все новые вычислительные машины тоже умеют. Так что же, по-вашему, они вступят в сговор со страж-птицами?
Гелсена взяла досада - и на Макинтайра и еще того больше на самого себя: охота была смешить людей...
- Так ведь страж-птицы сами переводят свою науку в дело. Никто их не контролирует.
- Значит, вот что вас беспокоит, - сказал Макинтайр.
- Я давно уже подумываю заняться чем-нибудь другим, - сказал Гелсен (до последней минуты он сам этого не понимал).
- Послушайте, шеф. Хотите знать, что я об этом думаю как инженер?
- Ну-ка?
- Страж-птица ничуть не опаснее, чем автомобиль, счетная машина или термометр. Разума и воли у нее не больше. Просто она так сконструирована, что откликается на определенные сигналы и в ответ выполняет определенные действия.
- А обучающееся устройство?
- Без него нельзя, - сказал Макинтайр терпеливо, словно объяснял задачу малому ребенку. - Страж-птица должна пресекать всякое покушение на убийство - так? Ну, а сигналы исходят не от всякого убийцы. Чтобы помешать им всем, страж-птице надо найти новые определения убийства и сопоставить их с теми, которые ей уже известны.
- По-моему, это против человеческой природы, - сказал Гелсен. - Вот и прекрасно. Страж-птица не знает никаких чувств. И рассуждает не так, как люди. Ее нельзя ни подкупить, ни одурачить. И запугать тоже нельзя. На столе у Гелсена зажужжал вызов селектора. Он и не посмотрел в ту сторону. - Все это я знаю, - сказал он Макинтайру. - А все-таки иногда я чувствую себя, как тот человек, который изобрел динамит. Он-то думал, эта штука пригодится только, чтоб корчевать пни. - Но вы-то не изобрели страж-птицу. - Все равно я в ответе, раз я их выпускаю. Опять зажужжал сигнал вызова, и Гелсен сердито нажал кнопку. - Пришли отчеты о работе страж-птиц за первую неделю, - раздался голос секретаря.
- Ну и как?
- Великолепно, сэр!
- Пришлете мне их через четверть часа. - Гелсен выключил селектор и опять повернулся к Макинтайру; тот спичкой чистил ногти. - А вам не кажется, что человеческая мысль как раз к этому и идет? Что людям нужен механический бог? Электронный наставник?
- Я думаю, вам бы надо получше познакомиться со страж-птицей, шеф, заметил Макинтайр. - Вы знаете, что собой представляет это обучающееся устройство?
- Только в общих чертах.
- Во-первых, поставлена задача. А именно: помешать живым существам совершать убийства. Во-вторых, убийство можно определить как насилие, которое заключается в том, что одно живое существо ломает, увечит, истязает другое существо или иным способом нарушает его жизнедеятельность. В-третьих, убийство почти всегда можно проследить по определенным химическим и электрическим изменениям в организме.
Макинтайр закурил новую сигарету и продолжал:
- Эти три условия обеспечивают постоянную деятельность птиц. Сверх того есть еще два условия для аппарата самообучения. А именно, в-четвертых, некоторые существа могут убивать, не проявляя признаков, перечисленных в условии номер три. В-пятых, такие существа могут быть обнаружены при помощи данных, подходящих к условию номер два.
- Понимаю, - сказал Гелсен.
- Сами видите, все это безопасно и вполне надежно.
- Да, наверно... - Гелсен замялся. - Что ж, пожалуй, все ясно.
- Вот и хорошо.
Инженер поднялся и вышел.
Еще несколько минут Гелсен раздумывал. Да, в страж-птице просто не может быть ничего опасного.
- Давайте отчеты, - сказал он по селектору.
Высоко над освещенными городскими зданиями парила страж-птица. Уже смерклось, но поодаль она видела другую страж-птицу, а там и еще одну. Ведь город большой.
Не допускать убийств...
Работы все прибавлялось. По незримой сети, связующей всех страж-птиц между собой, непрестанно передавалась новая информация. Новые данные, новые способы выслеживать убийства.
Вот оно! Сигнал) Две страж-птицы разом рванулись вниз. Одна восприняла сигнал на долю секунды раньше другой и уверенно продолжала спускаться. Другая вернулась к наблюдению.
Условие четвертое: некоторые живые существа способны убивать, не проявляя признаков, перечисленных в условии третьем.
Страж-птица сделала выводы из вновь полученной информации и знала теперь, что, хотя это существо и не издает характерных химических и электрических запахов, оно все же намерено убить.