Как только наступает момент Сингулярности, машинный разум сразу становится в бесконечной степени мощнее разума всех людей, вместе взятых. В этот момент машина и человек соединятся в едином Сверхинтеллекте. Сверхинтеллект начнет преобразовывать планету, потом быстро выйдет за ее пределы, и возьмется за перестройку Вселенной.
В книге «Transcend: девять шагов на пути к вечной жизни» Курцвейл и его соавтор Терри Гроссман дают рецепты долголетия. Книга во многом основывается на работах геронтолога и нейробиолога Обри де Грея, который, как и Курцвейл, состоит в том самом фонде «Алькор».
Авторы приводят подробные описания силовых тренировок, диет и биологически активных добавок, которые позволят человеку прожить на десятки лет дольше. В конце книги рассказывается о том, что биотехнологии и нанотехнологии скоро позволят перестроить материю и энергию на молекулярном уровне и создать материалы гораздо более мощные, чем биологические. Нанороботы заменят эритроциты, лейкоциты и тромбоциты, и будут при этом в тысячи раз эффективнее биологических оригиналов. Они будут следить за работой организма, вводить в него нужные вещества и лекарства. Затем ДНК будут замещены микрокомпьютерами, их можно будет программировать и перепрограммировать дистанционно, что позволит практически моментально производить в организме нужные изменения.
Примерно к 2034 году люди превратятся в киборгов — но и это еще не всё. Пройдет еще немного времени, около десяти лет, и люди вступят в мир, где сбудется мечта о бессмертии. Нужно только сохранить свой организм, погрузившись в жидкий азот и залив мозг антифризом. Это если не помогут силовые упражнения с эспандерами, йога или переход на масло канолы.
Бессмертными станут, конечно, только те, кто примет Сверхинтеллект — отвергувшие его будут низвергнуты в пучину неслыханных страданий. Курцвейл обходит этот вопрос стороной, но если продолжить его логику, то станет понятно, что в «мире богов» обычным людям не будет места. Сначала их ждет сверхэксплуатация, когда не только их тела, но и эмоции, душевные устремления, сами мысли будут использованы как ресурс, а затем, когда и это станет ненужным, они будут просто выброшены на помойку.
При всей рациональности и даже утилитаризме Курцвейля его понимание искусственного интеллекта ближе к магии. Его воззрения радикально рвут с моралью и разумом, то есть с теми самыми понятиями, которые выделяют человека из животного мира. Да, собственно, Курцвейл и не скрывает, что смотрит на человека как на животное — точно так же как это делает и модный израильский философ Юваль Харари.
Курцвейл, а вслед за ним Харари отрицают, что человек отличается от животного чем-то принципиально — например, сознанием. Сознание по Курцвейлю — это лишь более высокий уровень распознавания образов, разница между ним и фотоэлементом лишь в том, что образы эти абстрактные и строятся из образов более низкого уровня. Качественное различие лишь кажущееся. Не случайно в одной из своих книг Курцвейл приводит изображения мозгов крысы, других животных и человека на одной картинке. Принципиально они отличаются лишь размерами, причем мозг дельфина, например, ничуть не меньше человеческого.
При этом ни Курцвейл, ни Харари предпочитают не видеть проблем, вставших в последнее время перед глубоким машинным обучением — проблемах, прежде всего связанных с ограниченностью взгляда на человека как на животное. В итоге машина так и не смогла пока в самых существенных задачах выйти даже на уровень младенца. Подробнее об этих проблемах я писал в предыдущих главах.
Есть и другие проблемы, на которые закрывают глаза технооптимисты. Сам Мур еще в 2003 году опубликовал работу «No Exponential is Forever: But «Forever» Can Be Delayed! («Никакая экспотенциальность не бывает навсегда — но «навсегда» можно отложить!»). В ней он признал, что экспоненциальный рост физических величин в течение длительного времени невозможен, этот рост будет наталкиваться на те или иные пределы. Действительно, эволюция транзисторов и технологий их изготовления позволяла продлевать действие закона еще и еще, но до бесконечности это будет делать нельзя. В 2007 году Мур заявил, что закон, очевидно, скоро перестанет действовать из-за атомарной природы вещества и ограничений, вызванных конечностью скорости света.