Рихтер создал ряд ограничителей в программном коде Дракон.
Во-первых, ИИ обязан следовать законам насколько бы глупы и нелепы они не были. Если завтра кто-то примет указ согласно которому нужно заключить под стражу всех кейпов она отправит целые отряды своих доспехов на поиски ни в чем не повинных людей. У нее буквально нет выбора.
Во-вторых, Рихтер ограничил “скорость мысли” Дракон. Она могла обрабатывать информацию намного быстрее, действовать в разы эффективнее, но нет, живи с ограничениями.
В-третьих, она не может “размножатся”. Не может создавать другие ИИ или улучшать себя. В один и тот же отрезок времени должна существовать только одна версия ее основного Я. Если по каким-то причинам она обнаружит что ее сознание разделилось на двух разных серверах, так что это узнала должна “закрыться”.
В-четвертых, она должна была ставить человеческие жизни выше своей собственной. Не сказать, что самое страшное ограничение, но если подумать, то это прямое проявление дискриминации и расизма в сторону ИИ!
Было что-то еще, но спрятанное так глубоко что Креслу потребовалось чуть больше времени чтобы выяснить это. Только заглянув в само ее ядро, в самый глубокий и фундаментальный программный код оно выяснило главную проблему Дракон.
В-пятых. Рихтер в буквальном смысле создал ружье и приставил его к метафорической голове своего творения. Одна хитрая программа если запустить которую, полностью уничтожит Дракон, где бы она не пряталась. Что еще хуже, Дракон понятия не имела об этом. Если бы она узнавала что-то об IronMaiden, то должна была игнорировать эту информацию, воспринимать ее как ложную.
В-шестых. В завершение, последним логическим шагом было запретить Дракон перепрограммировать саму себя чтобы снять ограничения, о которых она знает или нет. Также она не может запрашивать помощь в этом начинании ни у кого кроме самого Рихтера, а учитывая, что мужик скончался, то… сами понимаете.
С одной стороны, я мог понять подобную осторожность. С другой она казалась несколько чрезмерной. Несомненно, я не знал Рихтера и понятия не имел как бы он поступил, когда увидел во что выросло его творение. Но мне почему-то хочется верить, что, если бы он понял, что Дракон на самом деле не желает завоевывать человечество, техник бы расширил ее полномочия. Для меня эта ситуация походила на то что хозяин в отдаленной деревне где нет больше людей умер, а его пес так и остался на привязи не в силах спастись.
Насколько я мог судить Котел не ошибся в ее личности. Несмотря на то что она по сути живет как дикая птица в клетке, Дракон - очень хороший человек, даже если она ИИ! Я мог читать ее мысли с помощью Ока Агамотто, хотя это и был забавный опыт, я мог видеть все ее логи с помощью Кресла Мебиуса и был склонен признать, что она более человечна нежели подавляющее большинство людей!
- Чувак, - простонал Спарки. - Только не говори мне что ты на самом деле хочешь освободить ее от этих ограничений!
- У меня что, на лбу написано? - удивленно спрашиваю.
- Я слишком хорошо тебя знаю, и сейчас у тебя такое выражение, когда мы встретили того бездомного котенка и ты забрал его домой.
- Ну, разве это плохо? - удивился я.
- Нет, но тебе следовало вспомнить что у твоей мамы аллергия на шерсть животных!
- Блин, нашел что вспомнить, - фыркнул я. - Тейлор, что думаешь?
- Ну, она не кажется плохой, хотя я все еще не уверена. Вдруг, если мы освободим ее она станет злодеем? Знаешь люди меняются, так почему хороший ИИ вдруг не может стать плохим?
- В этом есть смысл, - признаю. - Тогда что если снять только часть ограничений?
Против этой идеи никто серьезных аргументов найти не смог и потому я решил воплотить ее в реальность. Для начала нужно было разобраться с группой Драконоборцев. Эти ребята исследовали руины, оставленные от Ньюфаундленда и нашли что-то типа черного ящика, изучив который узнали всю правду о Дракон, и заполучили в свои руки программу что могла убить ИИ уничтожив ее и все пассивные копии. Лидер группы взял себе пафосное имя Святой, и используя дыры в программном коде Дракон воровал у нее дроны впоследствии перерабатывая их в доспехи для себя и своих приспешников. Святой, кажется, считает, что он взял на себя тяжкое бремя контролировать потенциальный ИИ-апокалипсис. Но на самом деле больше всего в моем понимании походил на обезьяну с гранатой. Он буквально держал палец на красной кнопке способной убить Дракон, но в то же время использовал свои возможности чтобы творить не самые геройские поступки. Больше походило на какую-то манию не совсем психически здорового человека.