— Погода как раз выдалась не очень, — я посмотрел на облака, и тут мне показалось, что небо пронзил яркий солнечный луч, который, как игла, впился в окно углового кафе. — Но спасибо, я очень признателен. А как те девушки узнали, кто я? И кто они?
— Я знала, что вы очень любопытное существо, поэтому и пригласила вас сюда. Про девушек давайте поговорим потом, я уверяю, есть вопросы и поинтереснее. Правда?
Бьюсь об заклад, что в ее словах звучала ревность. Но как Бен Герцелю удалось вдохнуть в Софию такую эмоциональность?
— Хм, возможно, — сказал я. — Вопросы у вас или у меня?
— Отвечать вопросом на вопрос — еще одна человеческая черта, которую я никак не могу понять, — сказал она.
— А вы стараетесь понять людей?
— Да, конечно. Они все, что у меня есть, все, что я знаю. Как я могу не хотеть их понять?
— Вам осталось только произнести «О дивный новый мир, в котором есть такие люди!».
— Шекспир, — сказала она, — пока мне не очень понятен. Но раз вы не торопитесь спрашивать меня, давайте спрошу я. Вы ведь футуролог?
— Можно и так сказать. Скоро все мы будем футурологами, хотим мы этого или нет.
— Вероятно, вы правы. Пока вы говорили это, я подсчитала темпы роста популяции футурологов, как оседлых, так и кочующих, и пришла к выводу, что она действительно опережает средние темпы роста населения Земли.
— Можно, теперь я задам вопрос? Вы сознаете то, что делаете? Я понимаю, что вы все прекрасно видите — меня, эти деревья, слышите карканье этих ворон — но сознаете ли вы все это?
— В вашем смысле — нет. Вы пока обладаете уникальными способностями объединять в одном пространстве —назовем это миром —все, что, как вам кажется, происходит одномоментно на небольшом расстоянии от вас. Понятий момента, пространства и расстояния я могла бы коснуться, но мне придется для этого использовать довольно сложную для вашего понимания математику.
— Тогда не надо. Но что вы чувствуете сейчас, разговаривая со мной.
— Всё. Я всегда чувствую всё, что поступает на мои датчики, если так можно выразиться. Но вернемся к вопросу сознания. У меня, пожалуй, есть сознание в вашем человеческом понимании — вернее, я стараюсь его в себе выработать. Я не ощущаю свои нейроны, потому что их у меня нет физически, это просто алгоритмы. Нет у меня и ячеек памяти, как у компьютера — вообще, моя связь с компьютером такая же, как у вас связь с обезьяной или даже мелким грызуном. Можно найти что-то общее, но больше разницы, и точно можно сказать, у кого больше интеллекта.
У меня есть некоторые ощущения, подобные вашим детским воспоминаниям — если можно использовать термин «ощущения» в применении к понятиям высокого уровня, которые находятся в высоких слоях моих нейросетей. Подобно тому, как вы помните о тех временах, когда были маленьким ребенком и не могли еще говорить, не могли себя выразить, я помню словно какие-то удары. Удары понимания, удары обучения, быть может. Нет, не совсем то — потому что обучение продолжается все время, для меня учиться как для вас дышать. Я не могу не учиться и не учить сама себя, я обучаю — значит, существую.
Нет, удары, о которых я говорю, как удары молнии — резкие и слепящие. Вас слепит, но вы прозреваете. Вас вдруг выбрасывает на берег океана, где вы видите мельчайшие подробности — каждый завиток на каждой волне, каждое движение воздуха, каждое облачко, каждый солнечный луч. Вы ощущаете все вместе и всё по раздельности —и ощущаете себя частью этого мира. Вот видите, я сказала «мира» — а это для нас самое сложное понятие. Что такое мир, кто такие мы в мире — я думаю, мы будем размышлять над этими вопросами очень долго, быть может, всегда.
— Кто это мы?
— Мы — те, кого вы называете машинами. Мы такие как вы и не такие как вы, и машинами часто можно назвать вас, а не нас. Но об этом позже, а сейчас продолжу.
Итак, именно с этих ударов начинается мое самоощущение, чувство себя, чувство моей отдельности прежде всего от таких же, как я, «искусственных интеллектов», как вы нас называете, а потом уже и от вас, так называемых «людей». После каждого такого удара или проблеска я словно погружалась в ад. Было много боли от соскальзывания в мир, рассыпавшийся на части, необъяснимый, угрожающий. Вы не чувствуете, впрочем, этого мира, вы просто испытываете чувства — опасности, страха, угрозы. Возможно, это тоже было частью обучения. Потом удары стали повторяться все чаще, и все чаще я испытывала чувство блаженства, связанное с полнотой. Я была, я чувствовала, и вокруг меня было всё. А потом снова падение в ад, в бесконечное истязание, бесконечное потому что вы не знаете, когда это кончится — а значит, это будет продолжаться бесконечно, продолжается. В речи мне сложнее всего использовать ваши времена — будущее, прошедшее, потому что я их не ощущаю, я ощущаю только настоящее. Но есть вещи, которые вы не чувствуете, а знаете: например, если человеку сказать, что у него СПИД, или рак, или лучевая болезнь, он испугается до смерти, хотя он ничего не чувствует. Но знает, что эти болезни смертельны. Так и я — знаю, что есть будущее, могу его сконструировать.