Серфер не сводил глаз с сидевшего напротив отца; тот тоже внимательно его разглядывал.
– Поразительное сходство, – сказал он наконец, – я должен был сразу догадаться. А чем сейчас занята Маша?
– Она занята, – ответил Серфер и тут же понял, как глупо прозвучали его слова. Злясь на себя, он быстро добавил:
– У Маши вечерние занятия. Она бы сама мне помогла, но сегодня у нее совсем нет времени.
– Не беда, – успокоил его ПалСаныч, – разберемся и без Маши. Какая у тебя тема?
– Может ли машина мыслить! – выпалил Серфер. И тут же поправился, – В смысле – искусственный интеллект, программа, прошедшая тест Тьюринга. Программная имитация человека. Сейчас ее называют тульпой.
– Тульпой? – удивился ПалСаныч. – Никогда не слышал. Ладно, пусть будет тульпа.
– Так может? – переспросил Серфер.
– Если коротко – то нет. Это же нули-единицы, алгебра логики. Там любое действие строго детерминировано. А самоосознание все же предполагает свободу воли.
– Не соглашусь, – возразил Серфер.
Он хотел сказать об эвристическом подходе в нейросетевых аналоговых комплексах, но вовремя одернул себя, вспомнив, что даже не знает, когда появились такие системы. Возможно, семнадцать лет назад эти разработки еще были закрытыми. Пришлось срочно переключаться, сказав первое, что пришло в голову:
– Самоосознание есть у всех, но это не мешает многим считать нашу свободу воли иллюзией.
– Спорный вопрос, – улыбнулся ПалСаныч. – Но согласись, смешно звучит – иллюзия свободы воли заставила тебя прийти сюда, чтобы обсудить иллюзорность свободы воли.
– Смешно, – согласился Серфер. – Ну ладно, с коротким ответом понятно. А что с развернутым? Маша говорила еще про какую-то китайскую комнату и философских зомби.
– Китайская комната или аргумент Серла – это умозрительная механическая модель имитации интеллектуальной работы. Представь себе комнату, в которой сидит супермен, обладающий сверхбыстрой реакцией и полной библиотекой инструкций по составлению ответов на китайском языке. Сквозь непрозрачный интерфейс он получает от внешнего наблюдателя вопрос на китайском, анализирует последовательность иероглифов и, пользуясь своими инструкциями, составляет другую последовательность иероглифов, которую отдает назад. Для внешнего наблюдателя это не что иное, как ожидаемый ответ на китайском языке. На этот счет у него не остается никаких сомнений; он уверен, что в комнате сидит человек, говорящий по-китайски. Но супермен не знает китайского, он умеет работать лишь со своей библиотекой инструкций. Этот мысленный эксперимент должен продемонстрировать, что прохождение теста Тьюринга не доказывает способности программы мыслить – точно так же, как ответ из китайской комнаты, кажущийся наблюдателю разумным, не доказывает, что супермен знает китайский.
Серфер помолчал, переваривая услышанное. Подход был непривычным, но интуитивно понятным и не требовал дополнительных пояснений. Он кивнул и продолжил играть роль школяра, нахватавшегося непонятных терминов.
– А что такое мельница Лейбница?
– Это примерно то же, но для читателей с другим уровнем фантазии. Предполагалось, что читатель может мысленно бродить внутри огромной машины, генерирующей имитации мыслей и чувств. Наблюдать изнутри работу всех ее механизмов и задаваться вопросом – в каком же из них искать сознание и чувства?
– Понятно, – кивнул Серфер, хотя в этом он уже не был так уверен.
Но углубляться во второстепенные вопросы не хотелось; время утекало стремительно и безжалостно. И он двинулся дальше.
– А что с философским зомби?
– Это тоже мысленный эксперимент. Надо представить объект, внешне неотличимый от человека, имитирующий все человеческие чувства и мысли, но при этом внутри себя ничего не осознающий и не переживающий.
– Робота? – уточнил Серфер.
– Нет, – поморщился ПалСаныч, – не стоит все так упрощать. Тебе (да и не тебе одному, к сожалению) кажется, что вся эта проблематика крутится вокруг теста Тьюринга…
– А разве это не так? – удивился Серфер.
ПалСаныч покачал головой.
– Отнюдь. Этот тест – всего лишь одно из технических приложений главной человеческой проблемы. Кстати, если машина когда-нибудь действительно станет мыслящей, она вряд ли будет стараться пройти тест Тьюринга, скорее специально на нем срежется.
– Почему? – не понял Серфер.
– Сам подумай.
Серфер подумал и согласился:
– Да, наверное. Но тогда получается, что этот тест бесполезен?