Если суммировать возражения Витгенштейна, высказанные им Тьюрингу по поводу возможности машин мыслить, то их можно свести к следующим тезисам.
Может ли машина подражать человеческому мозгу «естественным» образом — или она всегда будет лишь «естественно» исполнять предопределенный процесс, заданный для нее человеком, пусть это будет и процесс «подражания мозгу»? Слово «естественный» здесь использовано как бы с точки зрения машины, а с нашей точки зрения это будет как раз «искусственным» образом. Мы не раз увидим в этой книге, что понятия «естественный» и «искусственный» весьма относительны.
Вторая проблема такова: чтобы побудить или заставить мыслить машину, нужно понять, что такое вообще концепции и как мы генерируем концепции при помощи языка. Пока мы не ответим сами себе на эти вопросы, мы можем сколько угодно рассуждать о мыслящих машинах, но создать их мы не сможем.
Машина Тьюринга может исполнять правила, которые для нее прописаны, но она не может производить более того, что предопределили для нее «истинные вычислители», то есть создатели этих правил. Поэтому даже самое сложное устройство для вычислений, построенное по принципу машины Тьюринга, можно сравнить с человеческим разумом не больше, чем бухгалтерские счёты.
Иными словами, мы можем построить сколь угодно сложный агент ИИ, который потенциально сможет выполнить любую задачу. Но он всегда будет ограничен данными на входе. Можно ли такую машину сравнивать с разумом и называть ее «интеллектом», пусть даже искусственным?
Конечно, если каким-то волшебным образом мы будем способны написать для машины Тьюринга совершенную, безошибочную программу, она будет способна на все. Но для этого нужно будет лишить право на ошибку не только машину, но и человека, исключив малейшую погрешность в настройках. Вряд ли это возможно, и выход состоит в том, чтобы дать компьютеру право на ошибку.
Сам Тьюринг, собственно, говорил об этом лучше других: «Если мы хотим, чтобы машина имела интеллект, она не может одновременно быть безошибочной. Есть теоремы, которые практически это и говорят».
АНТИ-ТЬЮРИНГ
Есть такая настольная игра, «Имаджинариум». В ней участники получают по шесть карт со странными изображениями. Например, кит на лугу с вышками электропередач, жираф в городском дворике, красное животное в лесу, дирижабль, на котором привезли почту в тундру. Каждая такая карточка допускает массу толкований. Ведущий выкладывает одну карту рубашкой вверх и говорит, какую ассоциацию она должна вызвать. Но никто пока не видит саму карту ведущего. Другие участники выкладывают, также рубашками вверх, по одной карте из имеющегося у них набора. Карта должна вызывать эту же ассоциацию. Затем выложенные карты мешаются и раскрываются. Участники ставят каждый на ту карту, которая, по их мнению, лучше всего выражает требуемую ассоциацию. Очки получает тот, кто правильно угадал карту ведущего, и те, на чьи карты поставили другие игроки.
Эта игра может служить своего рода тестом Тьюринга для машин — ведь победу в ней одержит тот, кто в состоянии мыслить с ведущим «на одной волне» и «понимать» ассоциации, заведомо не имеющие точных значений, и, более того, зависящих от культурной среды, общего воспитания и множества других переменчивых факторов. Если в игре участвует ИИ среди людей, то можно себе представить, что ИИ, обладая полной информациях о человечестве в общем и о людях этого круга в частности, об их культурных кодах и общем воспитании, сможет периодически угадывать правильные карты. Конечно, не на теперешнем уровне развития, но в каком-то вполне обозримом будущем, когда нейросети позволят ему семантически точно описывать, что изображено на картинках, они же составят словари ассоциаций, из той же художественной литературы, фильмов и так далее, с тем, чтобы выбрать из них наиболее подходящие. Здесь мы заходим на священную территорию художественного творчества, которая считается для ИИ заповедной, но по правде говоря, не видно никаких барьеров, которые помешают ИИ казаться и тут одним из человеческих существ. Он не станет Микеланджело или критиком Ириной Петровской — но этого и не требуется для прохождения теста Тьюринга. Даже если ИИ не станет в игре чемпионом, при среднем результате невозможно будет установить, что это не человек, а машина.
«Имаджинариум» — это своего рода метафора человеческого взаимодействия. Чтобы продвинуться вперед в игровом поле жизни, мы то и дело должны угадывать, понимать с полуслова, быть на одной волне. Доступно ли для машины быть с нами на одной волне? Почему бы и нет? Получается, что в обществе будущего «искусственные разумы», вероятно, будет сложно или невозможно обнаружить.