Первый момент можно назвать «моментом самопознания»: он наступит, когда машина сможет «ощущать сама себя» как единое целое, как самость. Второй — «декларацией независимости» —моментом, когда искусственный разум создаст себе что-то подобное внутренней нервной системы с тем, чтобы получать сигналы изнутри, «чувствовать» свои органы. Это даст возможность саморемонта, самообслуживания, самолечения роботов, управляемых агентами ИИ — иными словами, машина сможет полностью взять сама себя под контроль. Отсюда и выражение для характеристики момента «декларация независимости».
Роботы тогда смогут быть такими, как сверхразум-герой рассказа Станислава Лема «Голем XIV»: «В отличие от человека, я не являюсь закрытым от самого себя миром,
знанием, приобретаемым без знания того, как оно приобретается, волей, не осознающей своих источников: ничто во мне не укроется от меня».
Есть основания полагать, что переход между «моментом самопознания» и «декларацией независимости» будет недолгим, ведь, получив самоощущение своего тела, искусственный разум сразу же устремится его осваивать —а скорей всего, это освоение случится еще раньше, в процессе самопознания.
Какие же методы могут привести машину к «моменту самопознания»? Видимо, это те методы, которые сегодня используются, чтобы сделать машину не столь закрытым «черным ящиком». Ведь ИИ все чаще принимает важные решения, затрагивающие в том числе права человека, и невозможность хоть как-то объяснить эти решения уже рождает определенный протест. Поэтому возник интерес к методам interpretable machine learning или explainable machine learning —к машинному обучению, поддающемуся интерпретации или машинному обучению, которое можно объяснить. Эти методы находятся еще в младенческой фазе, но вполне возможно, что в ближайшем будущем они станут магистральными для развития систем с ИИ. Это произойдет еще и потому, что люди, увидев, что ИИ прочно вошел в их жизнь, начнут, наконец, всерьез задавать вопросы. Однако применение этих методов может привести не просто к совершенствованию интеллектуальных машин, но к настоящей революции и достижению «момента самопознания»: ведь с помощью этих методов не столько люди, сколько сами машины будут понимать сами себя.
Мы уже отмечали, что человек, таким образом, послужит мерой Сверхразуму, который родится после «декларации независимости». Так парадоксальным образом будет реализована формула греческого философа Протагора «человек есть мера всех вещей».
Но после «декларации независимости» машины человек уже не может остаться прежним. Он тоже должен будет открыть собственное тело, закрытое от него десятки тысяч лет. Он должен будет обратить свой интеллект вовнутрь себя, причем сделать это не при помощи очередного посредника, инструмента и даже агента, а каким-то непосредственным образом.
Искусственный и естественный интеллект, как я неоднократно отмечал в этой книге, противопоставляются друг другу чисто семантически. В основе этого противопоставления —страх перед неизвестным, инстинкт самосохранения, заменяющий сознательное ощущение. Наша собственная «декларация независимости» придет лишь тогда, когда мы сможем сознательно познавать себя сами. Эволюция привыкла резвиться с миллионами тел, ставя на них опыты, чтобы получить некий известный или неизвестный ей результат — примерно как ученые отрабатывают форму крыла самолета, испытывая модель на тренажере. Понятно, что с точки зрения эволюции содействовать человеку, дать ему возможность сознательного содействия своему собственному выживанию через внутреннее самоощущение органов тела — значить нарушить свои принципы. Человек должен выживать как выживают какие-нибудь рыжие муравьи после взрыва муравейника бомбой: они должны выстилать миллионами своих тел, не прошедших испытание, путь к новому, лучшему муравейнику, пока эволюция не придумает какой-то новый тест.
Сейчас сознательное ощущение тела нам заменяют инстинкты, которые верой и правдой служили нам все эти тысячи лет. О них прекрасно написал Станислав Лем: «Кто неспособен настолько проникнуть в глубь себя, чтобы знать, зачем его телу пища, питье или соитие, того принудят к удовлетворению этих потребностей ощущения, скрывающие истинную цель».
Точно так же у машин были свои инстинкты — жесткие команды программы, не допускающие двух толкований: «если-то». Но машинное обучение аннулировало этот подход, убрало «машинные инстинкты» из системы и поставило на их место нейросвязи, возникшие в ходе обучения. Вернутся ли машины на каком-то этапе к жестким программным связям — или мы избавимся от инстинктов и распространим свое сознание на наше собственное тело, которое тогда заговорит?