- Это подразумевается.
- Не думаю, что это понимает средний человек. В противном случае он бы понял, что робот может совершить убийство.
Либиг побледнел.
- Псих! Ненормальный!
Но Бейли смотрел на кончики своих пальцев.
- Полагаю, робот выполнит какое-нибудь невинное действие, которое не причинит вред человеку?
- Если получит приказ.
- Ну Разумеется. И второй робот тоже может выполнить невинное действие, которое не способно причинить вред человеку?
- Да.
- А что если два действия, каждое совершенно невинное по-отдельности, совершенно невинное, понимаете? Вместе ведут к убийству?
- Что? - Либиг мрачно нахмурился.
- Мне нужно экспертное мнение по этому делу, произнес Бейли. - я описал вам гипотетический случай. Представьте, человек говорит роботу: «Добавь немного этой жидкости в стакан с молоком, который ты найдешь там-то и там-то. Жидкость безвредна. Я всего лишь хочу проверить ее действие на молоко. Как только я это выясню, смесь выльют. Когда закончишь - забудь о сделанном.
Либиг, все еще нахмуренный, молчал.
Бейли сказал:
- Если я прикажу роботу налить жидкость в молоко, и затем подать человеку, Первый Закон заставит его спросить: «что это за жидкость?» и «не может ли она причинить вред?». И если будет вероятность, что жидкость может нанести вред, Первый Закон заставит робота усомниться и робот откажется подавать такое молоко. Но вместо этого ему говорят, что жидкость выльют.
- Первый Закон здесь ни при чем. Сделает ли робот то, что ему сказали?
В глазах Либига зажегся огонь.
Второй робот наливает молоко. Он не осведомлен, что молоко отравлено. Ни о чем не подозревая, он предлагает молоко человеку и человек умирает.
- Нет! - Закричал Либиг.
- Почему нет? Оба действия, каждое в отдельности, невинны. Только вместе они ведут к убийству. Вы отрицаете, что подобное возможно?
- Убийцей будет человек, который отдал приказ, - воскликнул Либиг.
- В философском смысле, да. Но исполнителями приказа, орудиями убийства, будут роботы.
- Ни один человек не отдаст таких приказов.
- Отдаст. Это уже сделано. Все так и произошло при попытке убийства Груэра. Полагаю вы слышали об этом событии?
- На Солярии слышишь обо всем, что здесь происходит, - проворчал Либиг.
- Тогда вы знаете, что Груэра отравили за обеденным столом, прямо на моих глазах и глазах мистера Олива с Авроры. Вы можете предложить другую гипотезу, как яд попал к нему в стакан? В поместье не было других людей. Будучи Солярианином, вы должны понимать, что это значит.
- Я не детектив. Теорий у меня нет.
- Тогда я предложу вам свою. Хочу проверить, имеет ли она право на существование. Я хочу знать, не могли ли два робота выполнить два независимых действия, невинные в своей основе по отдельности, но которые вместе привели к убийству. Вы - специалист, доктор Либиг. Скажите, такое возможно?
И Либиг, испуганный и припертый к стене, произнес едва слышным голосом, так что Бейли едва мог разобрать:
- Да.
- Ну что же, очень хорошо. Вот вам и Первый Закон.
Либиг не отрываясь смотрел на Бейли, его полуопущенное веко несколько раз дернулось в медленном тике. Он развел сложенные руки, но пальцы остались в таком положении, как если бы он продолжал сжимать их в кулак. В конце концов он разжал ладони и положил их к себе на колени.
Бейли наблюдал за движениями Либига без особого интереса.
- В теории да, это возможно, но только в теории. Но вам, землянин, не удастся так легко отделаться от Первого Закона. Потребуется очень тонко управлять роботом, чтобы обойти все запреты.
- Допускаю, что так оно и есть. Я всего лишь землянин и почти ничего не знаю о роботах, едва умею отдавать приказы, тогда как соляриане легко управляют роботами и делают это с большой тонкостью. Все это мне известно.
Либиг, казалось, его не слушал. Громким голосом он сказал:
- Если роботом можно манипулировать с целью причинения вреда человеку, это означает, что мы должны улучшать позитронный мозг робота, хотя на самом деле следовало бы улучшать человека. Но поскольку это не в наших силах, мы делаем более совершенной защиту робота от неправильного обращения.
Улучшения происходят постоянно. Сейчас наши роботы разнообразнее, специализированнее, они более умелые и безопасные, чем были сотню лет назад. А еще через сотню лет они станут еще лучше. Зачем роботу управлять приборами, если позитронный мозг можно встроить в сами приборы? Это и есть специализация. Но возможна и обратная ситуация, когда создается робот с заменяемыми и взаимозаменяемыми конечностями? Как вам такое? Если мы...