Существует философский парадокс, известный под названием «Корабль Тесея». Афинский герой Тесей совершил много подвигов, в том числе убил Минотавра, избавив свой город от выплаты чудовищной дани. В благодарность афиняне сохранили его корабль, который считался священным. По мере того как доски корабля приходили в негодность, их заменяли новыми, пока, наконец, в теле корабля не осталось ни одной изначальной доски. Тот ли это корабль или уже новый? —стали спрашивать друг друга философы.
Наиболее авторитетно высказался на эту тему Аристотель. По его мнению, у любой вещи есть форма, материал и суть. Полностью заменив износившийся материал, мы не изменили суть, поэтому корабль остался тем же.
Точно так же определять человека его биологией скоро будет лишено всякого смысла. У него сначала появятся искусственные органы, а со временем, вероятно, и весь «материал», из которого сделан человек, будет заменен более надежным. Означает ли это, что человек превратится принципиально во что-то другое? Аристотель бы ответил на этот вопрос «нет»: человек останется человеком.
Но какие характеристики человека можно считать достаточными для того, чтобы дать ему определение? В случае с тем же кораблем Тесея, его ведь можно считать другим без всякой смены досок — просто потому, например, что он изменил положение в пространстве. Как бы абсурдно это ни звучало, данный парадокс представляет серьезную проблему в машинном обучении того самого «искусственного интеллекта», который мы хотим определить. Как мы покажем дальше, многие системы машинного обучения действительно воспринимают переместившийся «корабль Тесея» как совершенно новый объект, что создает большую путаницу. Только недавно в обучении нейросетей случился качественный скачок, который позволил решить эту проблему.
Допустим еще, что мы извлекли по одному и заменили на улучшенные образцы все органы человека. Старые органы мы заморозили, и через пятьсот лет наука нашла способ их вылечить и сделать как новыми. Если мы соберем из этих органов новое тело, будет ли оно тем самым человеком, которого мы разобрали? Скорее всего, мы бы ответили «нет», ибо в этом наборе Лего нет «сути» — или души.
Но что же такое эта суть? Что такое человек, как определить его? Может быть, это воля к власти, как считал Ницше? Это качество, пожалуй, машина вполне может перенять. Но человек больше власти.
Может быть, это жажда бессмертия и полного и окончательного торжества справедливости? Ведь на этом основаны, так или иначе, все религии, а религиозность куда древнее вашей пирамиды Маслоу. Древние люди не поняли бы предписания Маслоу о том, что прежде чем подумать о богах, они должны удовлетворить свои низменные потребности. Наверное, они бы их удовлетворили, съев самого Маслоу, или сделав его, в опровержение его точки зрения, сакральной жертвой.
Может быть, человек — это ненасытность, как тела, так и духа? Ведь даже бессмертия нам мало: мы жаждем воскрешения мертвых, и это наверняка только начало! Как мы будем смеяться над теми, кто провозгласит бессмертие финалом человеческой истории — да мы готовы будем снова убивать, лишь бы иметь возможность мечтать о чем-то большем!
Мечтать... уснуть — и видеть сны? Но — «какие сны в том смертном сне приснятся, когда покров земного чувства снят»?
Может быть человек —это вечная неудовлетворенность, вечная несогласованность мечтаний друг с другом и между другими? Мы всегда хотим большего, даже не зная, как можем это назвать, хватит ли у нас для этого слов и языков.
Мы всегда хотим большего —сказав это, остановимся.
ОБЪЕДИНЕННЫЙ РАЗУМ И ПАРАДОКС МОРАВЕКА
В сентябре 1930 года в Кёнигсберге (нынешний Калининград) проходил, быть может, самый важный математический конгресс XX века. На нем выступил очень мнительный и застенчивый молодой человек, 24-летний австрийский математик Карл Гёдель. Его выступление повергло в шок собравшихся там светил мировой науки. На их глазах Гёдель опроверг тогдашнего математика номер один, уроженца Кёнигсберга Давида Гильберта. Поразительно, но будучи немцем, гражданином Третьего Рейха, он стал почетным академиком Академии Наук СССР.
Гильберт верил в могущество человеческого разума. Ему принадлежит фраза «Wir mussen wissen. Wir werden wissen» — «Мы должны знать —мы будем знать» —эти слова высечены на его надгробии в Гёттингене. Как и нынешние фанаты прогресса, которые считают, что любая проблема в мире может быть решена при помощи соответствующей технологии, Гильберт был научным оптимистом. Он верил в то, что в принципе можно решить любую математическую проблему. Более того, он брался доказать, что любой непротиворечивый математический объект может считаться существующим, даже если он не является плодом человеческой интуиции или никак не связан с реальным миром.