В своей работе «Вычислительные машины и разум» Алан Тьюринг задавался вопросом: «Могут ли машины думать?» Он предложил простой эксперимент, позволявший оценить, действительно ли у компьютера есть интеллект. Изначально эксперимент носил название «имитационная игра», но потом приобрёл другое, всем известное название - тест Тьюринга.
В процессе тестирования «следователь» сидит за компьютерным терминалом в пустой комнате и участвует в переписке с двумя другими собеседниками, один из которых является человеком, а другой компьютером, лишь притворяющимся человеком. Тьюринг полагал, что если «следователь» окажется не в состоянии отличить компьютер от реального человека, то можно будет говорить о наличии у компьютера интеллекта. Способность выдавать правдоподобную последовательность слов будет свидетельствовать о появлении по-настоящему думающей машины.
Разговор с «Элизой» представлял собой по сути 0дну из разновидностей теста Тьюринга. Однако, как с удивлением обнаружил Вейценбаум, люди, «беседовавшие» с программой, совершенно не были заинтересованы в том, чтобы выносить рациональные и объективные суждения в отношении личности «Элизы». Они хотели верить, что «Элиза» представляет собой действительно думающую машину. Они хотели наградить «Элизу» человеческими качествами, даже зная, что она - всего лишь компьютерная программа, следующая простым и достаточно очевидным инструкциям. Как оказалось, тест Тьюринга во многом тестировал то, каким образом компьютеры мыслят в восприятии людей.
В своей статье в Journal of Nervous and Mental Disease три психиатра не просто предложили, чтобы «Элиза» служила заменой реальному доктору. Они начали по очереди, утверждать что психотерапевт по сути представляет собой разновидность компьютера: «Терапевт может рассматриваться как устройство принятия решения и информационный процессор, действующий на основании набора правил, чётко связанных как с краткосрочными, так и с долгосрочными целями».
Даже неуклюжее имитирование человека «Элизой» заставило людей думать о себе как об имитации компьютера. Такая реакция на программу встревожила Вейценбаума. Ему пришлось задать себе вопрос, который подспудно занимал его на протяжении многих лет: «Что есть в компьютере такого, что заставляет человека думать о себе, как о машине?»
В 1976 году, спустя десять лет после дебюта «Элизы», он дал ответ на этот вопрос в книге «Возможности вычислительных машин и человеческий разум». Вейценбаум полагал, что для понимания эффектов, связанных с компьютером, необходимо смотреть на машину в контексте интеллектуальных технологий прошлого, длинной последовательности таких инструментов, как карта и часы, трансформировавших природу и изменивших «восприятие человеком реальности». Подобные технологии стали частью «всего того, из чего человек строит свой мир». Приняв их на вооружение, мы уже не можем отказаться от них без того, чтобы не ввергнуть общество «в великие потрясения или даже в хаос».
Он писал, что интеллектуальная технология «становится настолько неотъемлемым компонентом любой структуры... и интегрируется с ней, перемешиваясь с различными ключевыми подструктурами, что становится невозможно вычленить её, не разрушив саму структуру».
Этот факт, почти «тавтологический»27, помогает понять, каким образом стабильно и неотвратимо росла наша зависимость от цифровых компьютеров после того, как они были изобретены в конце Второй мировой войны. «Наличие компьютера было совершенно необязательно для выживания современного общества в послевоенный период и далее, - полагал Вейцен- баум, - но энтузиазм и недостаточно критическое отношение со стороны наиболее "прогрессивных" представителей американского правительства, бизнеса и компьютерной отрасли превратило его в необходимый для выживания ресурс, придав обществу (с помощью самих же компьютеров) новую форму». Он занимался сетями, работавшими по принципу распределённого времени, и по собственному опыту знал, что роль компьютеров будет расширяться куда дальше, чем автоматизация процессов на производстве и в государственном управлении.
Компьютеры со временем должны были превратиться в посредников практически во всех разновидностях человеческой деятельности: в обучении, мышлении и общении между собой. Вейценбаум предупреждал, что вся история интеллектуальных технологий свидетельствует: «Внедрение компьютеров в некоторые особенно сложные виды человеческой деятельности может означать, что мы берём на себя необратимые обязательства». Наша интеллектуальная и социальная жизнь может, подобно производственным процессам, меняться и приобретать новую форму, навязанную нам компьютерами.
Вейценбаум верил, что людьми нас делает именно то, что не поддаётся вычислениям: связи между нашими мыслями и нашим телом, опыт, который придаёт форму нашей памяти и мышлению, наша способность испытывать эмоции и сострадание. Наше более интимное общение с компьютером несёт в себе огромную угрозу. Чем большую часть жизни мы посвящаем изучению бестелесных символов на наших экранах, тем сильнее теряем свою человечность и жертвуем именно теми качествами, которые отличают нас от машин.
По мнению Вейценбаума, единственный способ избежать этой судьбы состоит в том, чтобы с достаточным осознанием и смелостью отказаться от передачи компьютеру наиболее человеческих из наших видов умственной и интеллектуальной деятельности, в особенности «задач, требующих мудрости».
Книга Вейценбаума оказалась не только трактатом о работе компьютеров и написании программ - она превратилась в настоящий крик души, страстный и порой болезненно точный рассказ программиста об ограничениях его профессии. Книга не понравилась коллегам Вейценбаума. После её выхода он получил ярлык «еретика» от ведущих компьютерных учёных, в особенности от тех, кто занимался разработкой искусственного интеллекта. Джон Маккарти, один из организаторов первой Дармутской конференции, от имени множества технологов в издевательской форме отозвался о «Возможностях вычислительных машин и человеческом разуме» как о «необоснованной» книге и упрекнул Вейценбаума в ненаучном «морализаторстве».
За пределами кругов, связанных с обработкой данных, книгу вообще практически не заметили. Она появилась на свет в момент, когда первые персональные компьютеры лишь начали перемещаться со столов любителей экзотических устройств в массовое производство. Общественность, готовую оседлать волну покупок, принёсшую в итоге компьютеры почти в каждый дом, офис и школу в стране, совершенно не интересовали сомнения отступника.
* * *
Когда плотник поднимает молоток, тот становится, по крайней мере с точки зрения мышления, частью руки плотника. Когда солдат подносит к глазам бинокль, его мозг начинает пользоваться новой парой глаз, моментально адаптируясь к иному горизонту видения. Эксперименты с обезьянами и плоскогубцами позволили понять, с какой готовностью пластичный мозг приматов может включать новые инструменты в свои сенсорные карты, превращая искусственное в естественное. В человеческом мозге эта способность развилась куда сильнее, чем у наших ближайших родственников-приматов.
Способность управляться со всевозможными инструментами является нашей отличительной особенностью как биологического вида. Именно это, в комбинации с превосходными когнитивными навыками, и помогает нам так хорошо осваивать новые технологии. Это также помогает нам легко их придумывать и изобретать.
Наш мозг может без труда представить себе и механику работы, и преимущества, связанные с использованием новых устройств, ещё до момента их возникновения. Эволюция нашей экстраординарной умственной способности размывать границы между внутренним и внешним, телом и инструментом, была, по словам невролога из Университета Орегона Скопа Фрея, «вне всякого сомнения, фундаментальным шагом в развитии технологии».
Наши тесные связи с инструментами оказывают двоякое влияние. Точно также, как технологии становятся расширением нас самих, мы превращаемся в расширения наших технологий. Когда плотник берёт молоток в руку, он может использовать её только для тех работ, которыми ему позволяет заниматься молоток. Рука превращается в орудие для забивания и вытягивания гвоздей. Когда солдат подносит к глазам бинокль, он может видеть только то, что позволяют ему видеть линзы. Он может видеть вдаль, но практически теряет способность видеть, что происходит рядом с ним.