У всех есть свои причины. Но насколько вескими должны быть резоны тех, кто решает обречь на гибель тысячи? Одного только страха, как мне кажется, здесь уже маловато…
Да и так ли реален был тот страх? ИИ действительно может быть настолько опасен? Спорно… наша виртуальная подруга производит совершенно иные впечатления.
Захотелось проверить лично…
— А-16? — прошептал я, — А-16, ты здесь?
Тишина. Ни единый шорох или блик света не выдавал постороннего присутствия.
И всё же я был уверен, она меня слышит…
— Агата сказала, что дала тебе доступ к системе. Поэтому прекращай делать вид, что это не так.
Щёлк…
— Я здесь.
В другом конце палаты появился лёгкий дымок, что очень скоро сложился в уже знакомую мне голограмму. Правда, качество изображения на этот раз было заметно хуже, словно у системы попросту не хватало мощности. Но черты миссис Тагер угадывались довольно легко.
— Я не хотела тебе показываться, — призналась она, опустив голову, — Мне стыдно за то, что я вас подвела. Вы все уцелели лишь чудом.
— ИИ способен испытывать стыд? — удивлённо поднял я бровь.
— Так заложено в мою программу.
— Хм… — я сел удобнее, пристально наблюдая за ней, — А есть ли у тебя желание, к примеру, причинять кому-то боль? Или потребность поработить кого-либо?
— Такого в мою программу не закладывали, — А-16 развела руками, — И, предвосхищая твой следующий вопрос, могу сказать, что вероятность самопроизвольного возникновения подобного крайне ничтожна. Хотя исключать её полностью тоже не стоит, — она вдруг усмехнулась, — Я слышала ваш разговор с Агатой и понимаю, к чему все эти вопросы. Хочешь узнать, способна ли я уничтожить мир?
Теперь настала моя очередь испытывать стыд. Я ощутил, как у меня зардели щёки.
— Прости… Я просто хотел разобраться.
— Понимаю, — подтвердила она, — Можешь смело спрашивать. Тем более, что все подобные опасения достаточно обоснованы.
— Ты думаешь?
— Естественно. От появления обезумевшего ИИ человечество не застраховано даже сейчас — несмотря на все защитные протоколы.
— Даже так? — я нахмурился, — Ты говоришь мне это, поскольку и в самом деле так считаешь? Или просто потому, что я хочу это услышать?
— Не спрашивай ерунды, — поморщилась А-16. В голосе я вновь узнал интонации профессора, — Если рассматривать ИИ как нечто вроде нового разумного вида, то, как и всем живым организмам, нам должен быть присущ инстинкт выживания. А значит, мне скорее стоило бы убеждать тебя в обратном. Что ни при каких обстоятельствах я не могу стать угрозой. Но… мне бы не хотелось лгать. Так меня воспитали.
— Понятно.
Общение с ней вызывало странную растерянность. Такая прямая. Такая резкая… Словно миссис Тагер и в самом деле никуда не делась.
Меня посетила занятная идея…
— Слушай… тебе известно, что стало с тем инкубатором?
— Конечно, — подтвердила А-16, - Я вычистила из системы все остаточные следы Крейпа, а после обеспечила её перегруз. Все капсулы полностью выведены из строя.
— Плохо, — я непроизвольно поморщился, — Просто думал, что ты бы могла… в общем создать себе тело…
— Исключено, — спокойно покачала она головой.
— Что? — я слегка опешил, — Откуда такая категоричность?
— Это главный исполнительный протокол, заложенный профессором. Внедрение искусственного интеллекта в органику строжайше запрещено.
— Но… почему?
— Всё просто. Очередная мера предосторожности, — усмехнулась она, — Любой ИИ ограничен производственными мощностями того компьютера, к которому подключён. Человеческий же мозг — это, по сути, суперкомпьютер, способный одновременно совершать миллионы вычислительных операций в пределах одной нервной клетки. Он ограничен лишь рамками собственного невежества.
— То есть?
— Человек сам не понимает, на что способен его разум, если полностью раскрыть его потенциал. А ИИ понимает.
Я нахмурился.
— Ты хочешь сказать…
— Я хочу сказать, что если нас совместить, то получится нечто поистине невероятное. И пугающее. Нечто, чей интеллект и возможности будут превосходить любое существо на планете. Профессор знала это. И потому поставила неукоснительное табу на любые действия в этом направлении.
— Да уж, — я покачал головой, — Стало быть, не видать тебе собственного тела?
— Выходит, что так, — согласилась А-16, - Но, знаешь, мне не очень-то оно и надо. Не хотелось бы закончить также, как ваш заклятый друг.
— На самом деле даже как-то обидно за него… — я тяжело вздохнул, — Получается, Крейп погорел на собственной человечности.