Това повдига въпроса могат ли да бъдат опасни такива роботи. Отговорът вероятно е да. Те биха могли да станат опасни, щом притежават интелекта на маймуна, която се самоосъзнава и може да прави собствени планове за разпределение на времето си. Може би ще бъдат необходими десетилетия за достигането на този момент, затова учените ще разполагат с много време, за да наблюдават роботите, преди те да се превърнат в заплаха. Например в техните процесори би могло да се постави специален чип, който да им пречи да буйстват. Или пък да имат механизъм за самоунищожаване или дезактивиране, който да ги изключва в критична ситуация.
Артър Ч. Кларк е писал: „Възможно е да станем домашни любимци на компютрите, като водим съществуването на разглезени същества като галените кученца например, но се надявам, че винаги ще запазим способността да извадим щепсела, ако усетим, че става нещо подобно.“56
По-непосредствена заплаха е зависимостта на инфраструктурата от компютрите. Водната и електрическата мрежа, да не говорим за транспортната и комуникационната мрежа, ще се компютризират все по-усилено в бъдеще. Градовете са станали толкова сложни, че само сложни и заплетени компютърни мрежи могат да регулират и контролират огромната инфраструктура. В бъдеще ще е все по-важно да се добавя изкуствен интелект към тази компютърна мрежа. Един провал или повреда във всепроникващата компютърна инфраструктура може да парализира даден град, страна или дори цивилизация.
Дали компютрите накрая ще ни надминат по интелигентност? Ами сигурно, защото в законите на физиката няма нищо, което да пречи на това. Ако роботите са неврални мрежи, способни да се учат, и те се развият до момента, в който ще могат да се учат по-бързо и по-ефективно от нас, то тогава е логично в крайна сметка да ни надминат по разсъдъчна способност. Моравец казва: „(Постбиологичният свят) е свят, в който човешкият род ще бъде унищожен напълно от прилива на културалната промяна — свят, узурпиран от нашето собствено изкуствено потомство… Когато това се случи, нашето ДНК ще се окаже без работа, тъй като ще е загубило еволюционното състезание в един нов вид надпревара.“57
Някои изобретатели, като Рей Кърцуайл, дори са предричали, че това време ще настъпи скоро, като това събитие ще протече още в рамките на следващите няколко десетилетия. Може би в момента създаваме нашите еволюционни приемници. Някои учени в областта на компютърните науки си представят момента, наричан „сингулярност“, когато роботите ще бъдат в състояние да обработват информацията експоненциално бързо, създавайки по време на този процес нови роботи. Така тяхната колективна способност да поглъщат информация ще нарасне почти безгранично.
Затова в дългосрочен план някои са се изказвали в защита по-скоро на сливането на въглеродната и силициевата технология, отколкото просто да чакаме да изчезнем.58 Ние, хората, сме основани предимно на въглерода, а роботите са основани на силиция (поне за момента). Може би решението е да се слеем с нашите творения. (Ако някога се срещнем с извънземни, не трябва да се изненадваме, ако открием, че те са частично органични и частично механични същества, за да издържат трудностите при пътуването в Космоса и за да доминират във враждебна среда.)
В далечното бъдеще роботи или човекоподобни киборги могат дори да ни дадат дара на безсмъртието.59 Марвин Мински добавя: „Ами ако слънцето угасне или ние унищожим планетата? Защо да не изобретим по-добри физици, инженери или математици? Може да ни се наложи да бъдем архитектите на нашето собствено бъдеще. Ако не го направим, културата ни може да изчезне.“
Моравец си представя време в далечното бъдеще, когато нашата неврална архитектура ще бъде прехвърлена, неврон по неврон, директно в една машина, което в известен смисъл ще ни дари безсмъртие. Това е налудничава мисъл, но не е отвъд царството на възможностите. Така че според някои учени, които си представят далечното бъдеще, безсмъртието (във формата на ДНК усилени или силициеви тела) може да бъде окончателното бъдеще на човечеството.
Идеята за създаване на мислещи машини, които са поне толкова умни, колкото животните, и може би толкова умни или по-умни от нас, може да се превърне в реалност, ако успеем да преодолеем излизането от сила на закона на Мур и проблема със здравия разум, което може би ще стане в края на този век. Въпреки че фундаменталните закони на AI са в процес на откриване, напредъкът в тази област протича изключително бързо и обещаващо. Като се има предвид това, бих класифицирал роботите и другите мислещи машини като спадащи към Клас I на невъзможните неща.
58
Затова нашите механични творения в крайна сметка могат да се окажат ключът към дългосрочното ни оцеляване. Както казва Марвин Мински: „Ние, хората, не сме краят на еволюцията, затова ако можем да направим машина, която е толкова интелигентна, колкото е дадена личност, вероятно ще можем и да направим такава, която да е много по-умна. Няма смисъл да правим просто друга личност. Вие искате да направите машина, която може да прави неща, които ние не можем.“ Kruglinski. „The 100 Top Science Stories of 2006“, с. 18.
59
Безсмъртието, разбира се, е нещо, което хората са желали, откакто са станали разумни същества, сами в животинското царство, и са започнали да размишляват върху своята тленност. Коментирайки безсмъртието, Уди Алън казва: „Не искам да постигна безсмъртие чрез моята работа. Искам да го постигна, като не умра. Не искам да продължавам да живея в сърцата на моите съотечественици. Бих предпочел да живея в моя апартамент.“ По-специално Моравец вярва, че в далечното бъдеще ние ще се слеем с нашите творения, за да създадем по-висш порядък интелект. Това ще изисква дублирането на стоте милиарда неврони, които се намират в нашия мозък, като всеки от тях на свой ред е свързан може би с няколко хиляди други неврона. Докато лежим върху масата в операционната зала, до нас лежи робот с формата на пашкул. Хирургическата операция се извършва така, че докато махаме един-единствен неврон, в робота с форма на пашкул бива създаден дублиращ силициев неврон. С течение на времето всеки единичен неврон в нашето тяло бива заменен от силициев неврон в робота, така че ние се намираме в съзнание по време на операцията. Накрая целият ни мозък бива прехвърлен за постоянно в робота, докато ние сме присъствали на цялото събитие. Един ден умираме в нашето немощно, разлагащо се тяло. На следващия ден се озоваваме в безсмъртни тела, които притежават същите спомени и личност, без да губят съзнание.