– Ты права, всего 100 – совсем как твой IQ.
– Надо же, ты уже второй человек за сегодня, который обращает внимание на мой IQ. Значит, он наконец-то у меня появился.
– Ладно, я понял, искусственные интеллекты уже совсем близко, – сказал я. – Но почему во множественном числе?
– Потому что, – заговорил Дэн Уоллер, – искусственный интеллект уже создал множество гиперпрограмм, которые живут своей жизнью. Такие программы – результат множества попыток – с помощью нейронных сетей, нечёткой логики, микробиологических вычислений, чипов «Intel» газиллионного поколения и многого другого – создать творческий интеллект, не уступающий человеческому. Эти гиперпрограммы демонстрируют своего рода автономность, но мы пока не понимаем, какого рода. Они обрели независимость от своих создателей, то есть от нас, и уже живут самостоятельной жизнью, занимаются своими, не ясными для нас, делами.
– Уже? – Джонатан немного встревожился. – Уже?
– Ой, Джонатан, смотри: масло растаяло. Страшно, правда?
– Хлоя, милая, не пойми меня неправильно, но ты просто конченная идиотка.
– Ну пожалуйста, ребята, только не сегодня. – Мне не стоило приглашать их обоих – в данной конкретной географической точке в данный конкретный момент времени мог присутствовать только один из них.
– На самом деле мы не уверены, – ответил Дэн Уоллер. Он был классическим бумером: очень умный, настоящий идеалист, невероятно энергичный, слегка сумасшедший. Он был бы копией моего отца, если бы тот занялся компьютерами, вместо того чтобы спасать мир. Джоан знала Уоллера «целую вечность». Уоллер привёл с собой Мимуну, с которой только что познакомился в медиа-лаборатории и которая, как он уже несколько раз повторил, его просто сразила.
– Спроси о гиках и старых хрычах, – прошептала Джоан.
– Послушайте, Дэн, – я нервно улыбнулся, – доктор Хэзелтон и я хотели вас кое о чём спросить… и Мимуну, конечно, тоже, обязательно… я… потому что… Боже… не помешала бы нам помощь. В общем, Дэн, вы ведь знаете, что доктор Хэзелтон работает и занимается исследованиями в ИЦ.
– Ещё бы не знать.
– Тогда вот что. Допустим, мы создадим в суперкомпьютерах или в ботах интеллект, не уступающий человеческому.
– В искусственных интеллектах. – Мимуна смотрела прямо на меня, как будто мечтая подловить меня, когда я снова её не пойму.
– Это я и хотел сказать: в искусственных интеллектах. Но в остальной вселенной всё подчиняется законам эволюции, верно? Значит, когда искусственные интеллекты освободятся от нашей опеки, тогда, если они действительно будут самосознающими, умными и способными обучаться, им тоже придётся эволюционировать, так?
– Самостоятельно?
– Да, самостоятельно.
– Эй, ты что, с другой планеты? Это уже происходит, – сказала Мимуна. – Со времён маленькой милой компьютерной программы под названием «Жизнь».
– Вообще-то, нет, – осторожно возразил я. – Я говорю о действительно самосознающих ИИ. О настоящем самосознании. Сейчас все эволюционирующие программы просто подчиняются правилам, алгоритмам и кодам, навязанным им извне. А я говорю о том, что произойдёт, когда у ботов и ИИ появится внутренний мир, настоящее сознание. Когда они на самом деле поймут, что существуют, когда начнётся отсчёт их собственной истории самопознания, когда они узнают, что есть прошлое и, используя самосознание, станут творчески эволюционировать. Ничего подобного ИИ до сих пор не умеют, – сказал я и задержал дыхание, глядя на Мимуну.
– Ладно, наверно, ты прав, – сказала она. Её тон и манера внезапно переменились. Она посмотрела на Уоллера и нежнейшим голосом произнесла, – Дэн?
– Согласен.
– Значит, – продолжил я, – когда ИИ станут разумными, у них будет собственная эволюция сознания, верно?
– Верно, – хором ответили они.
– Тогда возникает следующий вопрос. Вероятно ли то, что эволюция кремниевого сознания будет иметь тот же паттерн, что и эволюция углеродного сознания?
– Нет, совсем другой, – не раздумывая ответила Мимуна. – Кремниевая эволюция начинается там, где заканчивается углеродная. Сознание сменит носитель с углерода на кремний и достигнет таких вершин, которые нам и не снились. Всё будет именно так, – с полной уверенностью заключила она.
– Не спеши, Мимуна, не спеши, – сказал Дэн. Он посмотрел на Хэзелтон, надолго замолчал, и я представил себе, как он пытается сопоставить все факты.
– Ты смотришь только на внешнюю сторону. – Я расплылся в улыбке. – Уилбер говорит о том, о чём мы не должны забывать: когда ИИ станут разумными, их сознание непременно начнёт эволюционировать. И ему придётся начать с самого начала, с чистого листа самосознания. Мы не можем запрограммировать более высокие стадии, чем начальная, потому что тогда это уже не будет началом собственного самосознания ИИ. Ты ведь об этом, да, Кен?