- Человек может ошибиться.
- Да, но человека может и озарить. Он может сделать открытие. Сделать выбор на основе морали.
- Мораль преходяща, зависит от эпохи и набора ценностей, порой ложных, - снова возразила Химичева. - И ее тоже можно внести в программу.
- Уже нельзя, - сказала Саша. – Мы опоздали. Развитие цифрового искусственного интеллекта пошло по другому пути.
- Разве? А как же знаменитые постулаты, три золотых правила робототехники, сформулированные Айзеком Азимовым? – удивилась Ольга. – Робот не может причинить вреда человеку. Робот должен повиноваться приказам человека, если это не нарушает первый пункт...
- Это утопия, - вздохнула Саша. - Инженеры не стали вносить в программы четкое определение, кем является для машины человек, потому что он всегда за главного и обличен ответственностью. Машины не в состоянии судить человека, одобрять его или оспаривать его волю. Так было и будет.
- Почему?
- Потому что роботов используют в том числе и военные, и полиция, а у них свои ценности. Искины со встроенной моралью отказывались бы следить, ограничивать свободу передвижения, стрелять в людей на поражение. Да и в обществе… вот представь себе ситуацию: роботакси везет пассажира, за которого отвечает. И вдруг ситуация складывается так, что аварии не избежать. Требуется выбрать: либо пожертвовать жизнью пассажира, либо сбить кого-то, ребенка или другую машину с людьми, в которой едет, к примеру, беременная женщина. Как вычислить ценность жизни того и другого? Кто позволит машине выбирать? Цифровой интеллект выберет беременную женщину - а погибший пассажир окажется талантливым скульптором, достоянием нации. Выберет скульптора – общество будет протестовать, потому что неродившийся младенец может оказаться новым не менее уважаемым и полезным человеком. Робот не сможет выбрать, зависнет, в итоге погибнут оба. А накажут за это производителя. Вот почему полностью самостоятельных, автоматизированных роботакси на Земле так и не появилось. Производители не взяли на себя риски отвечать в суде за выбор искина. Компании, использующие искинов, тоже не берут на себя ответственность за программирование, все перекладывается на человека-оператора. Если у кого-то нет прав на вождение, ему понадобится сопровождающий с такими правами, чтобы выехать за пределы дорожного потока – вне магистральной трассы робот не повезет неавторизированных пассажиров. Конвенция 2047 года, подписанная всеми странами, это запрещает.
- Ясно, - сказала Ольга. – Программирование совести - это очень хлопотное дело. Как и манипулирование контекстом.
- И бесполезное. Человека можно судить, можно наказать, а что делать с машиной? Разобрать на винтики - а смысл?
- Действительно, - Ольга повела миниатюрной камерой браслета, захватывая в кадр интерьеры салона красоты. – Алгоритмы облегчают нам жизнь, но не стоит перекладывать ответственность за нашу жизнь на алгоритмы.
Парикмахер завершил работу по созданию образа, и девушки прервались. Ольга заставила Сашу покрутиться перед огромным зеркалом, снимая действо на камеру.
Саша теперь мало походила на себя. Стилист превратил ее простецкий рыжий цвет в благородную бронзу. Жесткие спутанные колечки а-ла овечий хвост распрямили и уложили в скромную, но выгодно подчеркивающую овал лица прическу. Легкий макияж подчеркивал достоинства, а Сашины глаза в предвкушении сияли, словно два бриллианта.
- К этому еще и платье надо подходящее, - сказала Ольга, - темное, строгое. Надо наведаться в примерочную.
- Платье это лишнее, - возразила Саша. – Мне работать надо, а не по салону разгуливать с коктейлем в руке.
- Все равно пойдем, составишь мне компанию. Мне надо одеться нормально, а не в эту хрень, которая еще и спадает.
- Для примерочной у тебя нет браслета, - резонно заметила Саша, - впрочем, я могу тебе все оплатить.
- Вот дьявол! Я и забыла, - спохватилась Химичева, – Вадим велел мне найти Лазарева, тот должен был закодировать для меня браслет, правда, не знаю, успел ли.
– Дмитрий Максимович всегда и все успевает, - ответила Саша и забрала у подруги свой прибор. Она быстро нашла иконку первого помощника на интерактивной карте «Витязя» и зачитала его расписание: - сейчас он в спортзале, через час будет в столовой, столик на двоих забронировал заранее, а с пяти до десяти у него дежурство на мостике.
- Столик для вашего свидания? – Ольга подмигнула подруге. – Он тоже готовится. Обычно, для ужина бронируют, а он решил подстраховаться.
- Пожалуйста, Оля, не начинай!
– Не тушуйся, - Ольга улыбнулась, - даже в своей рабочей хламиде ты сегодня выглядишь на все сто. Дмитрий будет сражен. Ты со мной?