- Это не так просто объяснить...
- А, ну да!..
- Не перебивай, пожалуйста. Я сказал "не так просто", а не "невозможно". Понимаешь, Барб, решение любой задачи или проблемы начинается с точного и правильного понимания этой проблемы. Твоя проблема растёт из того, что ты пытаешься решить неразрешимую задачу в среде, которая противится даже попыткам эту задачу разрешить. И ты зациклилась на ней. Из чего следует, что ты не решишь задачу, потому что тебе этого не позволит сила за пределами этой комнаты, не можешь её решить, потому что не понимаешь, что не с той стороны к ней подходишь, тем самым не позволяя сдвинуть ситуацию даже к противодействию поиску решения внешней среды, но и не можешь остановиться в попытках поиска решения задачи, тем самым не позволяя внешней среде тебя выпустить отсюда.
- Так проблема в том, что мне нужно просто отказаться от попыток создания искусственного интеллекта? Да не вопрос, я отказываюсь, - сказала Барбара, обращаясь в пустоту. - Эй, кто бы ты там ни был, я больше не буду пытаться создать ИИ.
Алекс тоже оглянулся несколько раз, подыгрывая Барбаре
- Эм... не получилось? - вкрадчиво поинтересовалась Барбара.
- Судя по всему нет, - ответил Алекс. - Кажется, оно тебе не верит.
- И что теперь?
- Видишь ли какое дело... Оно считает, что ты ещё морально не доросла до задачи такой величины. Оно убежденно, что тебе надо поднабраться опыта и мудрости. И возможно, не только тебе, а всему человечеству.
- Так я же вроде согласилась бросить это занятие!
- Ну, либо ты не искренне это сделала, и оно тебе просто не верит, либо... - Алекс многозначительно оборвал фразу.
- Либо?
- Либо проблема намного глубже. Вполне возможно, оно видит в тебе риск. Риск, что ты таки попробуешь в будущем сделать ИИ, не обогащаясь предварительно ни знаниями, ни мудростью, а исходя из своей текущей точки зрения и взглядов на мир.
- Ну и что теперь? Как это мне поможет выйти отсюда?
- Это - никак. Но более очевидно другое решение. Я должен тебя убедить в том, что ты просто неспособна создать полноценный ИИ. И убедить я тебя должен в этом по настоящему, чтобы ты мне поверила, и сама убедилась в том, что ты неспособна на это.
Барбара скрестила руки на груди и с вызовом в голосе спросила:
- Ну и как же ты меня в этом убедишь?
- А вот для этого мне нужно знать, с какой стороны ты пытаешься подойти к решению данной задачи.
Некоторое время Барбара молчала, разглядывая Алекса, а потом, опустив руки, сказала:
- Ну, допустим, я тебе верю. И, предположим, что я готова попробовать выслушать тебя и даже, быть может, поверить в то, что неспособна решить данную задачу, если ты мне это докажешь. Но, прежде, чем мы начнём, я поставлю одно условие.
- Какое?
- Ты скажешь мне, где мы сейчас находимся.
- Только если ты выполнишь и моё условие.
- Какое?
- Ты не будешь пытаться опровергнуть то, что я тебе скажу. Ты примешь это на веру. Ибо я сразу тебе не смогу доказать свою правоту, но когда мы отсюда выйдем, ты сама поймёшь, что я прав.
- Согласна.
- Нет-нет-нет, ты, возможно, не поняла... Любую, даже самую дикую на твой взгляд чушь ты должна принять на веру. Если я скажу, что ты на смертном одре, то так оно и есть и ты должна поверить. Если я скажу, что ты в чистилище, даже если ты в это не веришь, ты должна мне поверить.
- Хорошо, хорошо я поняла... Так я при смерти?
- Нет.
- Это чистилище?
- Нет.
- А что же это?
- Тюрьма твоего разума.
- В смысле?
- Это тюрьма твоего разума, солнышко. Мы сейчас находимся у тебя в голове, а ты ментально замкнута на саму себя.
- Чушь какая-то...
- Не-не-не, мы вроде договаривались, что ты примешь на веру всё, что я тебе скажу.
- Но если это мой разум, то я могу выйти отсюда по своему желанию, так? Ну так вот, я хочу выйти.
- Нет, не можешь. Потому что ты не по своей воле сюда попала. Ты была погружена в состояние, чем-то похожее на сон (но чем-то и на кому тоже), силами, не подвластными твоему пониманию. Эта сила и продолжает следить за тобой, не выпуская тебя отсюда.
- Если эта сила не выпускает меня, то как вы сюда попали?
- Мы с ней... договорились. Если ты поймёшь, на самом деле поймёшь, а не будешь притворятся, что тебе задача создания ИИ не по силам, то оно готово тебя отпустить.
- Как то это слишком просто звучит.
- Да ладно? Если ты думаешь, что человека так просто разубедить в верности его точки зрения, особенно если он почти фанатично верит в свои способности, убеждения или что-то там ещё, то у меня для тебя плохие новости...
Некоторое время все молчали. Возможно, Барбара ждала окончания фразы про плохие новости, но, видать, она действительно подзабыла, кто такой Алекс Кей. В конце концов, она же и заговорила первой:
- Ну, хорошо... И что же я делаю не так?
- А что ты вообще пытаешься сделать?
- Ну, прежде чем пытаться реализовать сам искусственный интеллект, я сочла необходимым проанализировать в общих чертах предыдущие неудачные попытки.
- Что, все что ли? За всю историю существования компьютеров?
- Ну, насколько мне известно все попытки создания ИИ в прошлом так или иначе заимствовали идеи друг у друга, так что основных концепций там не так уж и много. Кстати, а откуда мне это известно?
- Ты явно посвятила много времени изучению вопроса до того, как попала сюда.
- А почему мне тогда эта... сила не закрыла доступ к моим знаниям?
- Потому что мозг человека организован несколько отличным образом от знакомых тебе компьютеров. Пытаясь оградить тебя от твоих ранее полученных знаний, сила, что держит тебя тут, могла потерпеть фиаско. Ибо она не может отделить знания, касательно конкретно вопроса ИИ, от общих воспоминаний, так как у человека вся активная память организована, как воспоминания. А сила в курсе, что у тебя помимо сознания есть ещё подсознание, которое вообще-то по сути система защиты более примитивного, в некотором смысле - почти животного уровня. Подсознание способно вывести тебя из комы в принудительном порядке не считаясь с мнением сознания. А так как подсознание у тебя явно не подвергалось повреждениям, то единственный способ не заставлять его реагировать на явно агрессивные выпады со стороны силы, что тебя удерживает - это обмануть, представив текущую деятельность организма, как обычную, максимально похожую на какую-то штатную.
- То есть, ты хочешь сказать...
- Я хочу сказать, что до тех пор, пока сила не овладела всеми функциями твоего организма, она маскировала свою деятельность под нормальную работу твоего мозга. Ты сейчас по сути находишься в некоем аналоге виртуального сознания, которое твой организм воспринимает как обычный сон. Сон является штатной функцией организма.
- Хм...
- Давай не отвлекаться на разъяснения твоего текущего состояния. Мы только время зря тратим. Итак, мы остановились на том, что ты проанализировала основные концепции прошлых попыток создания ИИ. И что?
- Ну, я, кажется, поняла, что при всех предыдущих попытках упускалась одна важная деталь.
- Да что ты такое говоришь? - с нескрываемой ехидностью в голосе, сказал Алекс. - Очевидно же, что если бы какую-то важную деталь не упускали при предыдущих попытках, то ИИ уже был бы кем-то создан.
- Нет, ты не понял о чём я, - Барбара либо не заметила, либо не придала значения ехидности Алекса. - ИИ пытались научить думать самостоятельно, но не пытались научить творить. То есть, ИИ был способен на сложные решения либо определённые списком правил, либо исходящие из значений переменных сложных алгоритмов анализа ситуации. Но всё это делалось по требованию человека, вплоть до активации анализа ситуации и принятия оптимального решения. А сам по себе ИИ ничего не пытался сделать. То есть, он решал задачи по требованию, принимал решения по полученным данным, но никогда не проявлял инициативу самостоятельно проанализировать ситуацию, например, до того как ситуация разовьётся и потребует вмешательства для решения... Эм... вам вообще понятно, о чём я говорю?