Я вернусь к моему раннему предостережению о том, что нам следует отказаться от предприятия чего бы то ни было такого, что могло бы увеличить общее количество страдания во вселенной. Я не настаиваю на том, что сознательный опыт человеческого разнообразия является чем-то негативным или совершенно вне интересов субъекта опыта. Я уверен, что это важный и, к тому же, всё ещё открытый вопрос. Я настаиваю на том, что мы не должны зачинать эволюцию искусственных Эго Машин ввиду того, что у нас нет ничего кроме функциональной структуры и примера наших собственных феноменальных умов. Следовательно, мы скорее породим не просто копию нашей собственной психологической структуры, но неполноценную копию. Опять таки, это замечание относится к области этики принятия риска.
Но не будем избегать более глубокого вопроса. Есть ли основание для феноменологического пессимизма? Идея может быть выражена в рамках тезиса о том, что разнообразие феноменологического опыта, производимое человеческим мозгом, является обузой, а не сокровищем: Усреднённый по длительности жизни, баланс между радостью и страданием нарушается в пользу последнего практически в каждом носителе. От Будды до Шопенгауера, существует продолжительная философская традиция, позиционирующая, причём обоснованно, что жизнь не стоит того, чтобы жить. Я не буду здесь повторять аргументы пессимистов, но позвольте мне указать на тот факт, что для нового взгляда на физическую вселенную и эволюцию сознания характерен образ распространяющегося океана страдания и растерянности там, где раньше их не было. Также становится очевидно, что психологическая эволюция никогда не оптимизировала нас для непреходящего счастья; напротив, она поставила нас на гедонистическую беговую дорожку. Мы вынуждены искать удовольствие и радость для того, чтобы избежать боли и депрессии. Гедонистическая беговая дорожка это мотор, изобретенный природой для того, чтобы заставлять организм продолжать бег. Мы можем распознать эту структуру в нас самих, но мы никогда не будем способны убежать от неё. Мы и есть эта структура.
В эволюции нервной системы, и число индивидуальных сознательных субъектов, и глубина их опытных состояний (имеется ввиду, богатство и разнообразие чувственных и эмоциональных нюансов, способных приносить страдание) постоянно увеличивалось и процесс этот ещё не закончен. Эволюция, как таковая — процесс, который не стоит восхвалять: она слепа, движима случайностью, а не пониманием. Она безжалостна и приносит в жертву индивидуумов. Она изобрела систему вознаграждения в мозгу; она изобрела позитивные и негативные чувства для мотивации нашего поведения; она поместила нас на гедонистическую беговую дорожку, которая постоянно заставляет нас пытаться стать как можно счастливее, хорошо себя чувствовать, так никогда и не достигая стабильного состояния. Но как сейчас ясно видно, этот процесс не оптимизировал наши мозги и умы для достижения счастья, как такового. Биологические Эго Машины, такие, как Homo Sapiens, эффективны и изящны, но множество эмпирических данных указывают на тот факт, что счастье, само по себе, никогда не являлось окончанием.
В соответствии с натуралистическим взглядом на мир, окончаний не существует. Строго говоря, даже средств никаких нет, ведь эволюция просто случилась. Конечно, возникают субъективные предпочтения; однако, общий процесс не считается с ними ни в коей мере. Эволюция не обращает внимания на страдание. Если это правда, логика психологической эволюции предписывает сокрытие этого факта от Эго Машины, пойманной в ловушку гедонистической беговой дорожки. Это было бы преимуществом, если бы инсайты о структуре собственного ума, те самые, которые были обрисованы выше, не отображались бы в сознательной себе-модели слишком сильно. С традиционной эволюционной перспективы, философский пессимизм это дезадаптация. Но теперь кое-что изменилось: Наука начала пересекаться с естественными механизмами подавления; сейчас она начинает проливать свет на это слепое пятно Эго Машины.7
Истина может быть, по крайней мере, столь же ценна, как и счастье. Нетрудно представить себе человека, который живёт в нищете и в то же самое время делает выдающийся вклад в философию или точные науки. Такой человек может страдать от боли, одиночества и сомнений, но его жизнь, вне всяких сомнений, имеет ценность благодаря тому вкладу, который он вносит в прирост знания. Если этот человек, к тому же, верит в это, он может сознательно находиться в комфорте. Его счастье, таким образом, будет отличаться от счастья наших искусственных Машин Блаженства или счастья человеческих субъектов, прикреплённых к Машине Опыта Роберта Нозика. Многие согласятся с тем, что этот «эпистемологический» тип счастья может перевешивать множество несчастий чисто феноменального типа. То же самое может быть сказано и о художественном достижении или нравственной целостности как источниках счастья. Если вообще имеет какой-либо смысл говорить о ценности человеческого существования, то мы должны признать, что оно зависит от чего-то большего, чем просто сознательного переживания счастья.
До тех пор, пока эти вопросы остаются без ответа, нам следует отказаться от попыток создавать искусственные Эго Машины, и не только из этических соображений. Мы не можем игнорировать необратимость определенных открытий. Любая постбиотическая система, которая приближается к приобретению свойств феноменальной самости, то есть, любая система с развитой и выраженной перспективой от первого лица, будет автономным агентом. На определенном уровне автономии, нам будет нужно признать эти системы в качестве личностей, обладающих собственными правами и вступить с ними в диалог. Наши критерии того, чем является объект нравственного суждения и к чему следует относиться, как к личности, лишат нас возможности просто взять и выключить их.
Первый Постбиотический Философ: Много столетий тому назад, в начале двадцать первого века, жил один, немного растерянный, человеческий философ по имени Томас Метцингер. Он считал, что есть достаточно взыскательный но и более интересный критерий существования умственных свойств в строгом смысле, чем классический, в те времена, Тест Тьюринга на интеллект. Этот член вашего биологического вида считал, что хорошим тестом на наличие интеллекта и искусственного сознания был бы, так называемый, Тест Метцингера. Фактически, его тест предъявляет слишком высокие требования из-за того, что критерий слишком строгий, хотя я могу с ним справиться.
Тест Метцингера на наличие сознания у небиологических систем требует, чтобы система не только показывала наличие феноменального опыта и истинной внутренней перспективы, но также распознавала и принимала теоретическую проблему субъективности, а также, чтобы она демонстрировала это участием в дискуссии об искусственном сознании. Ей приходится выдвигать собственные аргументы и убеждённо отстаивать свою собственную теорию сознания. Именно это я сейчас и буду делать.