Компютърният експерт Ханс Моравец вярва, че роботите ще бъдат програмирани с емоции като „страха“, за да се защитават. Например, ако батериите на един робот се изтощят, той би проявил тревога или дори паника със сигнали, които могат да бъдат разпознати от хората. Той би отишъл до съседите и би помолил да използва техния контакт с думите: „Моля ви! Моля ви! Имам нужда от това! Толкова е важно и струва евтино! Ще ви възстановим разходите!“51
Емоциите са жизненоважни и при вземането на решения. На хората, които са получили определен вид мозъчно увреждане, им липсва способността да изпитват емоции. Тяхната способност да разсъждават е непокътната, но те не могат да дават израз на никакви чувства. Неврологът доктор Антонио Дамасио от Медицинския колеж към университета в Айова, който е изследвал хора с такива мозъчни увреждания, стига до заключението, че те „знаят, но не чувстват“.52
Доктор Дамасио открива, че подобни индивиди често се вцепеняват при вземането и на най-маловажните решения. Без да притежават емоции, които да ги ръководят, те обсъждат безкрайно една или друга възможност за избор, което довежда до пагубна нерешителност. Един пациент на доктор Дамасио прекарал половин час в опити да определи датата на следващата им среща.
Учените са убедени, че емоциите се обработват в „лимбичната система“ на мозъка, която е разположена дълбоко в центъра на нашия мозък. Когато хората страдат от загуба на връзка между неокортекса (който управлява рационалното мислене) и лимбичната система, способността им да разсъждават е непокътната, но не притежават емоции, които да ги ръководят при вземането на решения. Понякога имаме „интуитивно чувство“ или „емоционална реакция“, която ускорява вземането на решения. Хората с увреждания, които засягат връзката между рационалната и емоционалната част на мозъка, не притежават тази способност.
Например, когато отиваме на пазар, несъзнателно правим хиляди оценъчни съждения за почти всичко, което виждаме, като: „Това е твърде скъпо, твърде евтино, твърде цветно, напълно излишно или много необходимо.“ За хора с този тип мозъчно увреждане пазаруването може да се превърне в кошмар, защото всичко сякаш има една и съща стойност.
Докато роботите стават по-интелигентни и придобиват способността да правят избор, те биха могли също да бъдат парализирани от нерешителността. (Това напомня притчата за магарето, което седяло между два купа сено и накрая умряло от глад, защото не могло да реши кой от тях да изяде.) За да им се помогне, роботите в бъдеще трябва да бъдат снабдени с емоции, вградени в мозъците им. Коментирайки липсата на емоции у роботите, доктор Розалинд Пикард от Лабораторията „Медия“ към МТИ казва: „Те не могат да преценят кое е най-важното. Това е един от най-големите им недостатъци. Компютрите просто не разбират това.“53
Както пише великият руски романист Фьодор Достоевски: „Ако всичко на Земята беше разумно, нямаше да се случва нищо.“54
С други думи, роботите в бъдеще може би ще се нуждаят от емоции, за да си поставят цели и за да осмислят и структурират своя „живот“, иначе ще се окажат парализирани от перспективата да бъдат изправени пред безкрайно много възможности.
Няма всеобщо съгласие по въпроса дали машините могат да имат съзнание и дори какво означава думата „съзнание“. Никой досега не е предложил подходяща дефиниция на понятието „съзнание“.
Марвин Мински описва съзнанието като „общество на разуми“, т.е. мисловният процес в нашия мозък не е локализиран, а разпръснат, като различни центрове се състезават помежду си по всяко време. В такъв случай съзнанието може да се разглежда като серия от мисли и образи, които се излъчват от тези различни по-малки „разуми“, като всеки от тях се бори и състезава за нашето внимание.
Ако това е вярно, може би „съзнанието“ се надценява, може би има прекалено много научни изследвания, посветени на тема, обгърната от прекалена тайнственост от философите и психолозите. Може би дефинирането на съзнанието не е толкова трудно. Както казва Сидни Бренър от Института „Салк“ в Ла Джола: „През 2020 г. съзнанието ще е изчезнало като научен проблем… Нашите приемници ще бъдат изумени от количеството научни безсмислици, които се обсъждат днес — и то, ако имат търпението да се заровят в електронните архиви на старите списания.“55