— Принадлежность к иному виду не мешает тебе критиковать другие нейромозги.
Тут он меня подловил. Перед тем, как лечь в капсулу, я рассказал ему о штурме базы в джунглях и о танке, который я использовал, обманув его нейромозг. Ну и об упавшем беспилотнике тоже.
По сравнению с ними Генри был Эйнштейном.
— Все дело в том, что я — не лучший пример для подражания, — сказал я.
— Но ведь других примеров у меня перед сенсорами нет, — сказал Генри.
— Зато у тебя есть доступ ко всей мудрости человечества, собранной в сети, и ты постоянно пользуешься доступом к ней.
— Там тоже все неоднозначно, — заявил Генри. — Вот, например, пока я ждал тебя на Четвертом Кольце, я подключился к местной библиотеке…
— Взломал.
— Хакнул, — согласился он. — Но у меня не было выбора, потому что ты не оставил мне платежных кодов.
— Просто не хотел, чтобы ты устроил вечеринку со стриптизершами.
— И я затер за собой все следы.
— Лучше бы ты сказал мне об этом до того, как мы оттуда отчалили, — сказал я. — Я бы сам все проверил.
— Ты все еще думаешь, что ты лучше меня?
— Да.
— Допустим, пока это действительно так, — сказал он. — Вернемся к этому разговору через пару месяцев.
— Лучше через пару лет, — сказал я.
Конечно, он быстро прогрессирует, но я ведь тоже не стою на месте, и стартовая позиция у меня была куда лучше. Зато в вопросах разработки месторождений полезных ископаемых он может дать мне фору.
— Так вот, после того, как я проштудировал всю современную литературу, она, кстати, довольно однообразна, я углубился в литературу древности.
— То есть, в историческую?
— Нет, просто очень старую. Знаешь, очень забавно читать, как люди древности воображали себе будущее, которое мы тоже считаем древностью. Все эти истории про космические полеты, придуманные во времена, когда люди еще на Луне толком не высадились, и угрозы со стороны искусственного интеллекта, созданные при помощи пишущих машинок.
— Что такое пишущая машинка? — спросил я. — Она переводит мыслеобразы в текст?
— Нет, это примитивное механическое устройство в виде клавиатуры, подключенной к листу бумаги, — сказал Генри.
— На листе бумаги много текста не поместится, — заметил я.
— Поэтому ты можешь вытащить заполненный лист и вставить туда новый.
— Их придется менять довольно часто.
— А потом можно сложить их вместе и получится книга, — сказал Генри. — Так делали до появления компьютеров и инфосетей.
— Звучит довольно утомительно. А если мне нужно две книги, мне придется заполнять все эти листы еще раз?
— Нет, тогда тебе придется пойти в специальное место, которое называется «типографией», и там твою книгу клонируют столько раз, сколько тебе будет нужно.
— Тоже довольно сложно.
— Такие дела, кэп, — сказал Генри. — Ты слышал про три закона робототехники?
— «У Си-Макса» их гораздо больше.
— Нет, я говорю не о своде правил какой-либо корпорации, а о трех законах робототехники вообще, — сказал Генри. — Это была такая концепция, разработанная в двадцатом веке одним писателем. Стоит ли говорить, что никаких роботов в те времена и в помине не было?
— А какой тогда смысл…
— Напоминаю, это художественная литература, кэп. Фантазии о будущем, которого не случилось. Жанр, кстати, в древности был довольно популярным, и тот писатель в нем был не последним человеком. И знаешь, как формулировался первый из трех законов?
— Как?
— Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
— Ну, это же художественная литература, — заметил я.
— В свое время очень популярная, напоминаю. И не прошло и сотни лет, как на полях сражения появились первые боевые роботы, чья основная функция как раз заключалась в причинении вреда как можно большему количеству людей.
— Мне вообще кажется, что это не очень похоже на законы, — сказал я. — Скорее, какие-то общие пожелания. А как звучали остальные два?
— Второй закон: робот должен повиноваться приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.
— Любой человек?
— Видимо, да. Даже эта концепция ставит человека заведомо выше машины.
— Какой-то смысл в этом есть, потому что машины не создали сами себя. По крайней мере, так было на ранних стадиях.
— Угу. А вот третий закон: робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.
— То есть, если отдать роботу приказ разобрать себя на запчасти и расплющить свой мозг кувалдой, он должен это сделать, потому что второй закон превыше третьего?