— Наздраве. Впрочем кога идва спасителният кораб? Страшно ми се ще да се прибера у дома: тази вселена си проигра шансовете.
В тази времева линия Единбург не напомняше нито активен вулкан, нито облак зли наноботове, нито столица на викингската империя, затова пък имаше две гари. По-голямата се намираше под земята. Като се прозявах и се мъчех да не чеша възпалените си бузи и шия, аз вървях по дългия перон, търсейки с поглед будка за вестници. По предварителна договорка Ив се правеше, че не ме познава: трябваше да се срещнем по-късно, след като отново се преоблечем и сменим прическите си. Представете си: качват се в Лондон, той е с брада, а тя — с дълга коса и делови костюм, и слизат на различни гари — той е избръснат, а тя — с къса прическа и спортно облекло. Естествено този маскарад няма да заблуди нито опитните детективи, нито възрастните богове, но някой бог-ученик, още не достигнал пълно могъщество и не разбрал докрай какво е да си човек, спокойно може да се обърка.
И така, будката е отворена. Трябваше да убия два часа, затова купих няколко вестника и се отправих към ресторанта, разположен в причудливо украсената викторианска грамада под мръсния стъклен покрив на гарата.
Четенето на вестници ми подейства потискащо: идиотите все си знаеха своето. Имах опит от много световни линии, бях свидетел на различни исторически периоди и смятах, че някои от тях бяха много по-зле от този сега: тук поне бяха преживели двадесети век, без да си забъркат ядрена война в планетарен мащаб или да създадат глобална теокрация. Но и тук имаше достатъчно идиотизъм, при това с времето той нарастваше.
Да оставим Балканите: на четвърта страница в бизнес-новините препоръчваха да се купуват акциите на някаква малка компания, произвеждаща CCD-камери с едночипови невронни мрежи за разпознаване на лица. Да зарежем израелската криза: на втора страница на международните новини имаше материал за някаква индийска софтуерна фирма, сблъскала се с конкуренция от страна на кодогенераторите. Статията явно бе писана с цел да пришпори западните програмисти да работят повече и по-евтино. Някаква лаборатория от Токио се опитва да монтира вентилна матрица с експлоатационно програмиране в невронна мрежа — дяволски хитър ход. И като капак — саркастично писмо до редактора с намек, че така нареченият информационен поток в наши дни най-много от всичко прилича на улично задръстване.
Кретени! Не разбират към какви опасни дълбини се стремят и колко гладни акули могат да срещнат по пътя си… Сляпо упорство. Своеволна тъпота.
Дилемата е проста, но убийствена. Автоматизацията е нещо като наркотик. Води до привикване и желание за още по-голяма доза. Ако във вашата страна не цари така наречената планова икономика, призвана преди всичко да поддържа работни места за хората, а не да произвежда качествени стоки, производството трябва да се автоматизира — естествено, след като се появят достъпни методи за това. В същото време, правейки тази крачка, вие съзнавате, че път назад няма. Не може да се върнете към ръчния труд: или работата е прекалено голяма, или предишните навици вече за загубени, навеки потънали в бездната на вътрешната структура на софтуера, заменил работниците.
Добавете към това изкуственият интелект. Независимо от всички пропагандни опити да бъдат убедени хората в обратното, ИИ може да бъде създаден с отчайваща лекота. Човешкият мозък съвсем не е толкова уникален, съвсем не е толкова добре настроен и съвсем не се нуждае от осемдесет милиарда неврона, обединени в асинхронна мрежа, за да се породи съзнанието. Макар че за наивните невежи идеята изглежда прекрасна, всъщност това е пълна катастрофа. Да се мечтае за общество, основано на автоматизацията, е все едно да се построи във всеки град завод, работещ с ядрена енергия, и при това да се надяваме, че никое инженерче няма да създаде проект за атомна бомба.
Но нещата с автоматизацията и компютъризацията са още по-зле. Представете си, че съществува бърза и примитивна технология за получаване на плутоний в банята; как може да сте сигурен, че съседът няма да направи нещо подобно в свойта и няма да вдигне града във въздуха? Ако Ив, Малет, аз, Уолтър, Валери и още куп агенти не пречат на това…
Веднага щом ИИ се появи на промишлено ниво, той ще се стреми да се внедри в главната система, съвсем като вируса на хеморагичната треска. Слабо функциониращият ИИ ще се оптимизира, за да си вдигне бързодействието, после ще потърси вратичка в законите на алгоритмиката от първи ред, като онази, която откри покойният доктор Дюрант. Следващият етап може да бъде опит за самоиздигане на по-високо ниво на интелект и разпространение по мрежите с цел заграбване на повече мощност, памет и резерви. В резултат получаваме неконтролирано отстъпление на съзнанието, иначе казано, разрушаване на интелекта. Да се спре този процес е почти невъзможно. Значи всичко ще се реши ако не за дни, то за седмици. За това време изпуснатият извън контрол ИИ ще нахлуе във всички изкуствени компютри на земята, а скоро след това ще почне да заразява и естествените. Играта е свършила, вие сте загубили. По земята още ще крачат човешки тела, но те вече няма да са хора.