СКОЛЬКО ИНФОРМАЦИИ?
Давайте сыграем в такую игру. Один загадывает число, скажем, в пределах от единицы до тысячи, а второй в попытках угадать это число задает вопросы, ответом на которые может быть только «да» или «нет». Цель игры — угадать задуманное число, задав минимальное количество вопросов. Сегодня в такую игру можно сыграть не только с приятелем, но и с карманным электронным калькулятором.Хорошо известна стратегия этой игры, позволяющая, во всяком случае, не проиграть. Следуя подобной стратегии, вы должны мысленно разделить интервал, в пределах которого загадываются числа, пополам и задатьвопрос:— Задуманное вами число больше пятисот двенадцати?По причинам, которые будут ясны в дальнейшем, мы берем не точно половину интервала, то есть не число «пятьсот», а ближайшую к этому числу целую степень двойки (и все остальные называемые в вопросах числа — это также целые степени двойки ‘либо суммы таких степеней). В случае положительного ответа вы делите пополам верхнюю половину интервала и задаете следующий вопрос:— Задуманное вами число больше семисот шестидесяти восьми?В случае же отрицательного ответа на первый вопрос пополам делится нижняя половина интервала и соответственно следующий вопрос формулируется так:— Задуманное вами число больше двухсот пятидесяти шести?Легко убедиться в том, что каким бы ни было задуманное число, если только оно находится в пределах интервала от нуля до тысячи, отгадать его можно, следуя такой стратегии, не более чем за десять вопросов. В общем случае минимальное количество вопросов равно целому, ближайшему (сверху) к двоичному логарифму от ширины интервала, в пределах которого загадываются числа.Спрашивается, сколько информации вы получаете, узнав задуманное число? Академик А. Колмогоров предложил принять за количество информации, содержащейся в некотором сообщении, грубо говоря, минимальное количество ответов типа «да» — «нет», которые надо получить, чтобы угадать это сообщение. Существенную роль здесь играет слово «минимальное». Имеется в виду, что, во-первых, всегда существует стратегия, позволяющая так, как это было в только что рассмотренном примере, угадать сообщение, задавая вопросы, ответами на которые могут быть только «да» или «нет». Но это еще не все. Имеется также в виду, что среди многих таких стратегий (или алгоритмов, следуя терминологии А. Колмогорова) существует одна, обладающая тем свойством, что при ее использовании задается минимальное количество вопросов.Возникают вопросы и у нас. Мы живем в мире, насыщенном информацией: газеты, радио, телевидение, кино, книги и периодические издания. Известно, что число научных публикаций настолько велико, что подчас оказывается проще сделать некоторое открытие заново, чем отыскать его описание, пользуясь при этом даже самой современной информационной техникой. Вряд ли кто-нибудь из наших современников поставит под сомнение существование такой категории, как информация. Иное дело количество. Можно ли измерить количество информации точно так же, как, например, мы измеряем массу тела или силу электрического тока?Тот же вопрос можно сформулировать и иначе: можно ли вообще применительно к такой категории, как информация, говорить о некоторой объективной сценке, понимаемой как количество?Наш повседневный опыт скорее свидетельствует в пользу отрицательного ответа на этот вопрос. Действительно, на основе нашего опыта мы, казалось бы, должны прийти к выводу, что количество информации в некотором сообщении существенным образом зависит от того, кто получает сообщение. Например, если сообщение составлено на английском языке, то для человека, не знающего этого языка, оно представляется бессмысленным набором букв (или звуков). Аналогичным образом представляется не содержащим никакой информации сообщение, составленное на знакомом языке, если его содержание общеизвестно: снег белый, летом тепло, зимой холодно.Согласно известному физическому принципу Паули в любой системе, состоящей из элементарных частиц (атом, молекула, кристаллическая структура), не может быть двух электронов, находящихся в одинаковых состояниях (то есть характеризуемых одинаковыми значениями квантовых чисел). Справедливость этого принципа давно уже подтверждена десятками тысяч экспериментов. Но возникает естественный вопрос: каким образом электрон узнает, что в данной системе, которая может быть очень сложна, например в случае кристалла, уже имеется один электрон с таким же набором значений квантовых чисел? Можно ли говорить, что электрон получает информацию о структуре, и если да, то можно ли измерить количество такой информации? Или же, наконец, может быть, электрон проявляет интуицию?Несмотря на то, что теория информации как самостоятельное научное направление существует уже более сорока лет, однозначных ответов на все эти вопросы пока еще не дано. С другой стороны, как мы надеемся показать в этой книге, именно с ответами на эти вопросы связаны самые фундаментальные, самые глубинные представления естественных наук. Не говоря уже о том, что сам процесс научного творчества, во всяком случае в области естественных наук, представляет собой не что иное, как угадывание на основании вопросов, которые исследователь задает природе. В большинстве случаев природа отвечает на эти вопросы лишь «да» или «нет» (подтверждается ли некоторая теория экспериментом или нет).Здесь, правда, возможно возражение. Результат расчетов, проведенных на основании некоторой теоретической предпосылки, и результат измерений, проведенных в эксперименте, никогда не совпадают абсолютно точно. Поэтому, казалось бы, можно говорить о степени подтверждения теории экспериментом. Более того, можно измерять эту степень подтверждения, например, количеством десятичных знаков после запятой, в котором совпадают данные расчета и данные эксперимента. Читатель наверняка заметил здесь аналогию с проведенными раньше рассуждениями.Однако в большинстве случаев это не так. Каждая теоретическая предпосылка уже содержит в самой себе оценку той необходимой точности, с которой должны совпасть результаты расчетов и результаты экспериментов, для того чтобы можно было утверждать, что теория подтверждается экспериментом. Например, такая фундаментальная физическая величина, как отношение заряда электрона к его массе, была измерена вначале с весьма невысокой точностью. Погрешность измерения составляла несколько процентов. И все же этих данных оказалось достаточно для того, чтобы утверждать существование самостоятельной частицы — электрона — с неизменными значениями заряда и массы.С другой стороны, весьма малое (порядка десятой доли процента) расхождение теоретических и экспериментальных данных при исследовании бета-распада привело, как известно, к чрезвычайно сложной ситуации. Такой крупнейший физик, как Н. Бор, с которым мы еще не раз встретимся на страницах этой книги, предлагал даже, основываясь на этом расхождении, отказаться от закона сохранения энергии. Восторжествовала, однако, гипотеза В. Паули, согласно которой при радиоактивном распаде, кроме альфа-частиц, электронов и гамма-квантов, образуются еще другие, неизвестные в то время частицы — нейтрино. Через много лет нейтрино были обнаружены в эксперименте, и тогда только природа дала свой положительный ответ на вопрос, заданный ей В. Паули.