В одной из своих ранних работ, в которой Шеннон исходил из 50-процентной избыточности английского языка, он установил, что расстояние единственности для шифра однобуквенной замены составляет 27 букв, для многоалфавитных шифров с известными алфавитами – двойную длину периода, а с неизвестными алфавитами – 53 длины периода. Наиболее интересное применение шенноновской формулы расчета расстояния единственности связано с определением правильности решения задачи аналитического вскрытия шифра. Шеннон писал:
«Вообще можно утверждать, что если ключ и предложенный метод позволяют прочитать криптограмму при наличии шифртекста, длина которого значительно превосходит расстояние единственности, то решение надежно. Если же длина шифртекста имеет тот же порядок, что и расстояние единственности, или короче его, значит, решение весьма сомнительно».
Вскоре появилась возможность проверить это утверждение Шеннона на практике. Иб Мельхиор, сын известной оперной звезды Лорис Мельхиор, решил, что дешифрование эпитафии, найденной им на надгробии Шекспира, может помочь найти первое издание «Гамлета». Мельхиор преобразовал эпитафию в цифровой шифртекст, прочитал его и отредактировал полученный в результате открытый текст, убрав служебные символы и модернизировав написание слов, принятое в эпоху английской королевы Елизаветы. В конечном итоге Мельхиор стал обладателем загадочной фразы: «Elsinore laid wedge first Hamlet edition». Эти слова, по мнению Мельхиора, означали, что первое издание «Гамлета» было замуровано в клинообразной нише в толще стен замка Эльсинор. О своей находке Мельхиор сообщил в интервью журналу «Лайф».
Один из читателей журнала в своем письме в редакцию обратил внимание Мельхиора на то, что даже при заведомо заниженной 50-процентной оценке избыточности английского языка основная часть этой зашифрованной надписи совершенно не укладывается в найденную Шенноном формулу расстояния единственности. Несмотря на это математическое предсказание неудачи, Мельхиор все-таки отправился в Эльсинор в составе поисковой экспедиции, снаряженной «Лайфом». Вскоре ее участники возвратились из Эльсинора с отличным фоторепортажем для журнала, но без первого издания «Гамлета».
Таким образом, шенноновская концепция избыточности вновь и вновь демонстрирует свою силу, объясняя многие явления криптоанализа, каждое из которых прежде приходилось толковать в отдельности. Почему занимательные криптограммы из газет и журналов труднее поддаются дешифрованию, чем обычные шифртелеграммы? Раньше криптоаналитики могли лишь сказать, что это происходит потому, что для «газетно-журнальных» криптограмм подбираются более редкие и необычные слова. Теперь они могут опереться на принцип избыточности Шеннона и указать, что такие криптограммы обладают более низкой избыточностью.
Почему криптоаналитиков так часто выручают стандартные выражения вроде: «В ответ на вашу телеграмму от…»? Да потому, что они повышают избыточность до весьма значительных величин. Чтобы ее понизить, можно разделить текст пополам и переместить его первую половину в конец, а вторую – в начало. При этом стандартное начало телеграммы оказывается упрятанным в середину, что значительно затрудняет криптоанализ.
Шеннон также рассмотрел криптоанализ с двух других точек зрения, которые существенно расширили горизонты возможного в этой области. Первая из них является следствием преломления криптоанализа через призму теории связи.
Шеннон писал:
«С криптографической точки зрения секретная система почти тождественна системе связи при наличии шума».
В теории связи термин «шум» имеет особое значение. Под шумом подразумевается любая помеха, создающая ошибки при передаче по каналу связи. В качестве примеров шума можно указать плохое соединение по телефону и иностранный акцент собеседника. Шеннон исходит из того, что шум схож с шифрованием. Он утверждает:
«Основное различие между ними заключается, во-первых, в том, что преобразование при помощи шифра имеет обычно более сложный характер, чем возникающее за счет шума в канале; во-вторых, в том, что ключ в секретной системе выбирается из конечного множества, тогда как шум обычно вносится в канал постоянно и выбирается из бесконечного множества».
Когда автора статистической теории детектирования сигнала Карла Хелстрома спросили, имеет ли техника отделения полезных сигналов от помех какое-либо сходство с криптоанализом, он ответил: