— Он, что же, отрицает факты? Это на него непохоже!
— Нет, нет. Конечно же, фактам он верит. Я не хочу быть несправедливым по отношению к нему. Он отрицает то, что в ошибках виноваты Машины. Он утверждает, что Машины сами по себе непогрешимы. Это, мол, непреложно следует из законов физики. Тогда я говорю ему…
— А вы, наверное, сказали: «Пошлите своих парней для проверки»?
— Сьюзен, да вы просто читаете мои мысли! Именно так я и сказал ему, а он ответил, что это невозможно.
— Что, он слишком занят?
— Нет, он сказал, что человек просто не в силах сделать это. И, кажется, он говорил искренне. Он объяснил мне, и я, кажется, правильно понял его, что Машины просто необъятны. Поэтому… Ну, скажем, группа математиков должна работать целый год, чтобы рассчитать позитронный мозг, предназначенный для выполнения определенных вычислений. С его помощью они могут рассчитать еще более сложный мозг, который они снова используют для создания еще более совершенного устройства, и так далее. Силвер сказал, что устройства, которые мы называем Машинами, результат десятой стадии такого процесса.
— Слышу что-то знакомое… Бедный Винсент. Он еще так молод. Предыдущие начальники исследовательского отдела, Альфред Лэннинг и Питер Богерт, к счастью, уже мертвы. Перед ними не вставали подобные проблемы. Да и передо мной тоже. Наверное, роботехника, как таковая, скоро исчезнет, раз мы больше не можем разобраться в созданных нами же устройствах.
— Надеюсь, что нет. Ведь Машины — это не какие-нибудь там сверхмозги из воскресных приложений, хотя они именно так и описываются там. Из-под контроля человека они выходят просто потому, что в своей области они за бесконечно малое время могут собрать и обработать бесконечно большое количество информации.
Тогда я попробовал поступить по-другому. Я задал вопрос самой Машине. Строго секретно мы ввели в нее исходные данные по вопросу о сталелитейной промышленности, ее собственный ответ и то, к чему привело ее решение — перепроизводство, а затем попросили объяснить все это.
— Правильно, и что же она ответила?
— Могу повторить вам ответ слово в слово: «Это не требует никаких объяснений».
— И как же Винсент истолковал такой ответ?
— Двояко. Либо мы не дали Машине достаточного для получения определенного ответа количества данных, что маловероятно, и мистер Силвер отметил это. Либо для Машины оказалось невозможным допустить, что она может дать ответ на основании данных, говорящих о том, что она причинила вред человеку. Ведь это само собой вытекает из Первого закона. А потом доктор Силвер посоветовал мне поговорить с вами.
Сьюзен Кэлвин выглядела очень утомленной.
— Я уже стара, Стивен. Когда умер Питер Богерт, начальником Исследовательского отдела хотели назначить меня, но я отказалась. Я уже и тогда была не молода и не хотела взваливать на плечи такую ответственность. Тогда они назначили на эту должность молодого Силвера — меня это вполне устраивало. Только мне было не вполне понятно, зачем отказываться, если на меня все равно взваливают такую ответственность?
Стивен, позвольте мне объяснить мою позицию. Мои исследования действительно включали в себя интерпретацию поведения роботов в свете трех законов роботехники. Но теперь мы имеем дело уже с этими невероятными вычислительными машинами. Это позитронные роботы, и поэтому они подчиняются трем законам. Но у них нет ничего личного, потому что их функции чрезвычайно ограничены. Возможно, потому, что они так узко специализированы. Но в этом случае остается очень мало возможностей для применения Законов и мой излюбленный метод нападения, таким образом, оказывается бесполезным. Короче говоря, я не представляю, Стивен, чем я могу быть вам полезна.
Координатор коротко засмеялся.
— Не спешите, дайте мне рассказать остальное. Дайте мне высказать вам мои предположения, и тогда, возможно, вы скажете мне, может ли быть такое в роботехнике.
— Конечно, продолжайте.
— В таком случае, раз уж машины дают неправильные ответы и в то же время не могут ошибаться, остается единственная возможность. ИМ ПРОСТО ДАЮТ НЕПРАВИЛЬНЫЕ СВЕДЕНИЯ! Другими словами, виноваты люди, а не машины. И тогда я совершил инспекционную поездку по планете…
— Из которой вы только что вернулись в Нью-Йорк.
— Верно. Это было просто необходимо, так как существует четыре Машины, каждая из которых управляет одним из Районов Планеты. ВСЕ ЧЕТЫРЕ ВЫДАЮТ НЕПРАВИЛЬНЫЕ РЕШЕНИЯ.
— Но это же естественно, Стивен. Стоит одной из машин ошибиться, как остальные три автоматически среагируют на это и также выдадут неправильные результаты, так как в своих решениях они учитывают и решения остальных Машин. Ошибка одной, таким образом, скажется на всех четырех. Исходя из неверных предпосылок, они могут выдать только неверные результаты.