Так или иначе, но, уяснив все эти обстоятельства, мы поймем, что Аргумент китайской комнаты показывает не совсем то или даже совсем не то, что думает Сёрл. Этот аргумент не разрушает «сильный ИИ», потому что такое разрушение подразумевает доказательство реальной возможности точных программных эмуляторов человеческого интеллекта, притом таких, которые не порождают осмысленное понимание: если эмулирующая его система заведомо не может проходить тест Тьюринга, нет ничего удивительного в том, что мы отказываем ей в понимании! Сёрл, разумеется, прав, различая синтаксис и семантику и говоря, что наличие чисто синтаксических эмуляторов не означало бы, что реализующие их системы что‑то реально понимают. Но проблема в том, что, как мы только что убедились, он не доказывает невозможности того, что определенного рода синтаксические эмуляции с необходимостью генерируют по крайней мере некое подобие семантических отношений. Соответственно, он не доказывает и того, что в случае существования таких программ инсталлирующие их материальные системы не обладали бы реальным пониманием. Что же касается чисто синтаксических эмуляторов, не порождающих понимание (это Сёрл доказал), то мы увидели, что они невозможны, если говорить не о частных интеллектуальных задачах, а об интеллекте в целом. И мысленный эксперимент с Китайской комнатой помогает уяснить, почему дело обстоит именно так.
Именно поэтому Аргумент китайской комнаты может использоваться для опровержения «слабого ИИ», т. е. возможности точной синтаксической эмуляции разумного поведения человека, в том числе его речевого поведения. Но еще раз подчеркну: Сёрл не обладает ресурсами для ответа на вопрос, можно ли эмулировать такое поведение программами с «семантическими» блоками, т. е. такими программами, которые приспособлены для взаимодействия с реальностью и отражения ее характеристик, и если да, то будут ли машины, реализующие эти программы, обладать сознанием и, в частности, осознанным пониманием. Так что пора переходить к другим авторам.
И все же еще несколько слов о Сёрле. Поскольку сам он убежден, будто доказал, что физическая реализация таких программ, которые позволяют точно воспроизводить человеческое поведение, может и не порождать сознания, то человеческий мозг, вынужден заключить он, генерирует сознание не потому, что в нем реализуются какие бы то ни было программы. Но тогда почему же? Если главное в порождающем сознание мозге не нейронные «алгоритмы» — функциональные связи нейронных популяций, отдельных нейронов или чего‑либо еще, — то, очевидно, решающую роль играют биохимические свойства мозга — такой довольно смелый ответ предложил Сёрл в той же статье 1980 г., где презентуется его Китайская комната[120].
Этот ответ вызвал много критики, и справедливо. Как вообще это можно помыслить, что сознание возникает вследствие определенных биохимических свойств мозга? Есть какие‑то вещества или соединения, присутствующие в мозге и несущие сознательный заряд? Более странное решение «трудной проблемы сознания» сложно вообразить. Впрочем, Сёрл быстро отказался от него. Он стал говорить, что в мозге есть некое каузальное ядро, ответственное за возникновение сознания, но входят ли в него биохимические компоненты, пока неизвестно[121], и тем самым пришел к той позиции, для которой характерен отказ от попыток философскими методами решить «трудную проблему»: она перекладывается на плечи будущей нейронауки. Как мы знаем, эта позиция была заявлена Сёрлом в ряде работ 90–х гг. Однако в [122]опубликованной в 2004 г. книге «Сознание» он уточнил, что, даже если нейронаука даст каузальное объяснение сознания, это не будет означать, что она объяснит все, что можно было бы объяснить касательно отношения сознания и мозга. Но полные объяснения — редкость и в физике. И он дает понять, что философы, требующие такого объяснения, поднимают псевдопроблему, спрашивают о том, о чем спрашивать бессмысленно.
[120]
Searle J. R. Minds, brains, and programs // The Nature of Mind. P. 519: "Какими бы еще свойствами ни обладала интенциональность, она есть биологический феномен, и она должна так же каузально зависеть от специфической биохимии ее источников, как зависят от нее лактация, фотосинтез и другие биологические феномены". Интенциональность, напомню, по Сёрлу, необходимо связана с сознанием. О ее биохимических причинах см. также: ibid. P. 516.