Как я уже говорил выше, Шеннон любит дискретное и сторонится непрерывного. Он рассматривает дискретные сообщения как последовательность во времени утвердительных и отрицательных ответов, и каждый выбор между «да» или «нет» считает элементом информации. В то же время я, занимаясь теорией непрерывной фильтрации и исходя из точек зрения, казавшихся вначале совершенно отличными от точки зрения Шеннона, пришел к весьма близкому определению единицы количества информации.
Введя определение понятия количества информации по Шеннону-Винеру (ибо оно в равной мере принадлежит нам обоим), мы совершили радикальный переворот в этой области. В течение многих лет предполагалось, что пропускная способность линии связи за единицу времени определяется шириной полосы частот, используемой этой линией.
Считалось, что по линии с шириной полосы частот в 200 Гц можно передать за одно и то же время в два раза больше информации, чем по линии с полосой пропускания в 100 Гц. При этом игнорировался тот факт, что при передаче в отсутствие шумов любая полоса частот окажется достаточной для того, чтобы можно было передать любую информацию за одну секунду. Одно значение мгновенного напряжения, измеренное с точностью до одной десятитриллионной, могло бы передать всю информацию, содержащуюся в Британской энциклопедии, если бы только шумы в наших цепях не ограничивали возможную точность измерения пределами порядка одной десятитысячной.
Первое время после изобретения телефона лишь очень немногие линии были загружены до предела пропускной способности. Однако с развитием телефонии и появлением новых способов связи, таких, как радио и телевидение, возникла необходимость в более полном использовании имеющихся возможностей передачи сообщений. Стало ясно, что уровень шумов в линиях или воздушном канале связи является еще одним важным фактором, требующим пристального внимания. Весь эфир заполнен возмущениями, которые радисты называют атмосферными помехами, и ни один проводник, будь он металлическим или газовым, не может переносить электричество порциями, меньшими чем заряд одного электрона. Пульсации, связанные с нерегулярностью потока электронов, получили название дробового эффекта, и их учет играет важную роль при проектировании современных систем связи.
Лишь совсем незадолго до второй мировой войны нагрузка линий связи возросла настолько, что неизбежные шумы стали серьезным препятствием на пути еще большего повышения их загруженности. При этом статистический подход к теории связи, который я в какой-то мере предугадал в своих старых работах по обобщенному гармоническому анализу и которому мы вместе с Шенноном придали столь большое значение в наших работах периода начала войны, вскоре после войны стал основным методом исследования в подавляющем большинстве работ.
Наша работа, посвященная теории обратной связи в приложении к системам управления зенитным огнем и нервной системе человека, привела к еще одному перевороту, который, как и первый, получил повсеместное признание за последние несколько лет. Когда я впервые начал работать в МТИ, электротехника делилась на два основных раздела, которые в Германии назывались электротехникой слабых и электротехникой сильных токов, а в Соединенных Штатах — электроэнергетикой и электросвязью.
Между этими двумя областями действительно существует принципиальное различие, но его сущность и точное положение границы раздела в течение длительного времени оставались неясными. Генераторы телевизионной станции или радиостанции, ведущей трансатлантические передачи, могут вырабатывать относительно большие мощности; в то же время слабенький двигатель в бормашине у зубного врача потребляет лишь малые доли лошадиной силы. Тем не менее в первом случае электричество явно используется прежде всего для обеспечения связи, а во втором служит лишь источником энергии.
В эпоху, когда истинная природа различия между двумя разделами электротехники еще не была полностью понятна, естественно, считалось, что следящие системы, управляющие движением орудийной башни, как и все другие части мощных и громоздких устройств, должны относиться к области электроэнергетики, а не электросвязи. Существенно отметить при этом, что в электроэнергетике сложилась определенная традиция рассматривать все электрические токи и напряжения как величины, непрерывно меняющиеся во времени, в то время как в теории связи, в первую очередь под влиянием работ Хевисайда, принято было рассматривать сигналы как суммы большого или даже бесконечного числа гармонических колебаний различных частот. В то время было совсем не легко понять, что в теории следящих систем и автоматического регулирования, так же как, например, в телефонии или телевидении, наиболее удобным является именно частотный подход к задачам, а не подход, исходящий из представления всех процессов в виде явных функций времени.