II
Расхождение векторов ожиданий и свершений в кибернетике – это факт, вызывающий вопрос: если, в самом деле, мы создаем компьютеры, но не можем создать эффективной модели мозга, поскольку первая задача оказалась несравненно более простой, чем вторая, то почему природная эволюция выбрала более трудную задачу? Разве этот факт не противоречит тому, что мы сами утверждали – о свойственной ей тенденции довольствоваться минимальными усилиями и, таким образом, более простыми решениями? Вот ответ на этот вопрос: мы создаем универсальные цифровые машины, однако не в состоянии составить в такой же степени универсальных машиночитаемых программ, и нас устраивает такое положение вещей, поскольку мы устанавливаем компьютеры только там, где и при отсутствии полной автономии функционирования они справятся с предложенными заданиями. В то время как эволюция никогда не оказывалась в ситуации аналогичного выбора, потому что никогда ее продукты – живые системы – не отказывались от полной функциональной автаркии в пользу узкой специализации – с тремя исключениями: кооперация как форма специализации привела к возникновению неуплотненного конгломерата единиц гомеостаза, то есть колоний живых организмов (кораллы, муравейники), создала из клеток, утрачивающих универсальность, многоклеточные организмы и оформила паразитизм и симбиоз. Вне этих выделенных для групп секторов тактики выживаемости организмы вынуждены были бороться за решение конструкторских проблем центральной нервной системы, аналога универсальной информационной машины, а также проблемы составления для нее программ – одновременно, и поэтому до резкого разделения обеих этих задач тоже не дошло. В процессе эволюции выработалась смешанная тактика и стратегия – в эволюционных творениях; поэтому каждый организм морфологически и функционально оформлен таким образом, что представляет собой суверенную единицу – как игрока, сосредоточенного на борьбе с Природой за выживание, – и пребывает в условиях полной автаркии, ведь он не может рассчитывать ни на чью помощь, особенно информационную, – в то время как компьютеры без человека представляют собой системы настолько же точные, насколько и полностью беспомощные. Таким образом, задачи эволюции с самого начала качественно отличались от задач этой группы технологически цифровых машин. Если бы цифровая машина – либо ее биологический и в то же время изоморфный аналог – возникла в процессе эволюции и справлялась бы с типично гомеостазными проблемами, то она, несомненно, сформировалась бы в течение миллиардов лет развития биосферы. Пошаговый характер эволюции происходит от того, что польза и вред от изменений, вызванных увеличением сложности систем, никогда не уравниваются однозначно, то есть система, в которой происходит расширение и усложнение сомы и мозга, обретает благодаря этому новые преимущества и новые слабости – одним махом.
Статистика дает основание полагать, что достигнутые таким образом преимущества незначительно преобладают над возникающими одновременно экзистенциальными недостатками – в противном случае это движение от простого к сложному очень скоро бы увязло на месте. Бактерия не является более сложной системой, чем универсальная цифровая машина – новейшего типа, – однако очевидно, что способности к выживанию бактерии нельзя даже и сравнивать с «выживанием» компьютера, помещенного в произвольной среде, поскольку он в принципе не представляет собой самостоятельного гомеостата. Таким образом, специфика задач эволюционного развития определила направление конструкторских ходов эволюции, коренным образом отличных от наших в сфере информационных технологий. Эта в высшей степени несамостоятельность компьютеров, их полная зависимость от сотрудника-человека демонстрирует ошибочность представлений о том, что возможен какой-то «бунт» и как следствие – порабощение человечества машинами в форме «компьютерократии». Эти представления основаны на совершенно ложных, неприменимых в интеллектронике исторических аналогиях из области борьбы за власть, преобладание, социальной устойчивости элиты и т.п. Компьютеры нас не поработят, если мы сами до этого не доведем. А привести к этому состоянию можно двумя способами: намеренно, воплощая стремление управляющих машин, – но тогда возникает банальная с точки зрения социологии и этики проблема, раз обретение компьютерами высшей власти будет зависеть от воли человека; или при полном отсутствии подобных планов и намерений. Поэтому не исключена и такая возможность, что система «люди + компьютеры» постепенно обретет динамическую характеристику, совершенно нами нежелательную и в то же время – по крайней мере первоначально – абсолютно нам неизвестную. Наше воображение, исследуя альтернативные варианты будущего, скованное известными ему из истории моментами, ограничилось представлениями «усилитель интеллекта», «гомункулус» – а также «электронный мудрец» или такой же «черт»; этот последний предполагался особенно одаренным претендентом на роль тирана. Однако действительность радикально отступает от этих наивных, ситуативно беспочвенных моделей. Это не означает, что область сотрудничества людей и информационных машин свободна от потенциальной опасности. Просто эта опасность не содержит никакого «персоналистского» элемента: интеллектуальные системы, если уж нас и поработят, то не как «личности», так или иначе воспроизведенные. В то же время именно потому эта опасность страшнее и более реальна, чем если бы компьютеры в своей эволюции приближались к обретению «персоналистических особенностей». Поскольку тогда по крайней мере одна сторона – а именно компьютеры – действовала бы с полным знанием обстановки: тот, кто стремится к власти, будучи при этом личностью, должен осознавать, что делает! Он действует на основании разработанных планов, этически, может быть, «черных», но все-таки планов, он использует их в стратегии собственного поведения, а значит, было бы возможно это знание, содержание этих планов, каким-то образом из него выделить! И если в результате успешного срастания информационных машин и банков памяти возникнут государственные, континентальные, а потом и планетарные компьютерные сети – а это реальное направление развития, – то вся система, состоящая из людей и этих сетей, может проявлять динамику, не отвечающую надеждам цивилизации. Говоря точнее: система может лечь в дрейф. Потому что каждая большая и сложная система обладает бесчисленными закономерностями; когда же человек реализует системы подобного типа, то он сосредоточен на выгоде, какую принесет ему эта реализация, а о непредвиденных последствиях он в этот момент не знает. Проблема технологий, исторически первых, актуальных сводится к разделению надвое глобального инструментального потенциала. Исстари и до сих пор мы использовали только один вид технологий – направленных на производство энергии или предметов, на транспортировку людей и материалов, одним словом, эти технологии служили нам непосредственно. Их развитие привело к нарушению самовосстанавливающегося равновесия в биосфере, и поэтому следующий шаг в развитии технологий имеет одну исключительную задачу – поддержать это поколебленное равновесие. Таким образом, технологии первой группы служили нам непосредственно, в то время как вторая группа будет этому способствовать лишь косвенно, поскольку их задачей будет не наше благоденствие, а спасение всего земного жизненного пространства.