— Да, но все они финансово пострадали на этом, — спокойно сказала Сьюзен Кэлвин.
— Естественно. Отвергнуть рекомендацию Машины — значит выбрать проигрышный вариант. Это та цена, которую им приходится платить. Но в той неразберихе, которую они надеются спровоцировать, они рассчитывают поправить дела.
— Ну, и что же вы собираетесь предпринять, Стивен?
— Время дорого, Сьюзен. Поэтому я и тороплюсь. Я собираюсь настоять на том, чтобы Общество было объявлено вне закона и все его члены удалены с ответственных постов. Претенденты на любую сколько-нибудь ответственную должность должны будут давать присягу об отказе от поддержки Общества. Это, конечно, в какой-то мере ущемит гражданские права, но я уверен, что Конгресс…
— Это ничего не даст.
— Что? Почему? — оторопело уставился на нее Байерли.
— Позволю себе сделать предсказание. Если вы попытаетесь это осуществить, то встретитесь с препятствиями на каждом шагу. Вы не сможете продолжать работать. Любое продвижение в этом направлении будет сопровождаться неприятностями.
Байерли был совершенно обескуражен.
— Я не ожидал услышать это от вас. Я рассчитывал на вашу поддержку.
— Но это невозможно, Стивен! Все ваши выводы основаны на неверных допущениях. Вы признали, что Машина не может ошибаться, признали, что и неверные данные ей подсунуть невозможно. А теперь я готова доказать, что и не повиноваться Машине, как это, на ваш взгляд, делает Общество, тоже невозможно.
— С этим я совершенно не согласен.
— Тогда слушайте. Каждое действие любого ответственного лица, не согласующееся с рекомендациями Машины, становится ей известно и учитывается при решении очередной проблемы. Машине, таким образом, становится известна склонность данного лица к неповиновению. Машина может даже количественно оценить последствия этого, то есть предвидеть, в какой степени и в каком направлении ее рекомендации будут нарушены. И последующий ответ Машины будет, естественно, скорректирован таким образом, чтобы непослушание данного исполнителя автоматически привело к оптимальным результатам. Машина знает, Стивен!
— Но вы не можете быть в этом уверены. Это просто ваша догадка.
— Догадка, не спорю, но основана она на многолетнем опыте работы с роботами. И будет лучше, если вы положитесь на эту догадку, Стивен!
— Но что же тогда получается? С Машинами, как и с вводимыми в них данными, все в порядке. Не слушаться их, как вы говорите, тоже невозможно. Но что же тогда не в порядке?
— Вы сами ответили на свой вопрос. Все в порядке. Задумайтесь немного о самих Машинах, Стивен. Они роботы и повинуются Первому закону. Но Машина призвана заботиться не об отдельном человеке, а обо всем человечестве. Следовательно, для них Первый закон должен звучать так: «Ни одна Машина не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред». Отлично. А теперь, Стивен, давайте зададим себе вопрос: какой вред может быть причинен человечеству? Что ему грозит? Больше всего — нарушения баланса в экономике, по какой бы то ни было причине. Не так ли?
— Так.