держит читателя в напряжении и тем неожиданнее развязка, чем шире круг подозреваемых в
убийстве. Информация — это свобода выбора при построении сообщения, и, следовательно, она
представляет собой статистическую характеристику источника сообщения. Иными словами, информация — это число равновероятных возможностей, ее тем больше, чем шире круг, в
котором осуществляется выбор. В самом деле, если в игре задействованы не два, восемь или
шестьдесят четыре варианта, a n миллиардов равновероятных событий, то выражение
I = Lg2l09n
составит неизмеримо большую величину. И тот, кто, имея дело с таким источником, при
получении сообщения осуществляет выбор одной из n миллиардов возможностей, получает
огромное множество битов информации. Ясно, однако, что полученная информация представляет
собой известное обеднение того несметного количества возможностей выбора, которым
характеризовался источник до того, как выбор осуществился и сформировалось сообщение.
В теории информации, стало быть, берется в расчет равновероятность на уровне источника, и эту
статистическую величину назывют заимствованным из термодинамики термином энтропия 11 . И
действительно, энтропия некоторой системы — это состояние равновероятности, к которому
стремятся ее элементы. Иначе говоря, энтропия
11 См Норберт Винер. Кибернетика С. E. Shannon, W. Weaver, The Mathematical Theory of information, Urbana, 1949, Colin Cherry, On Human Communication, cit, A. G. Smith, ed , Communication and Culture (часть I), N Y.
1966; а также работы, указанные к прим. 2 и 4.
42
связывается с неупорядоченностью, если под порядком понимать совокупность вероятностей, организующихся в систему таким образом, что ее поведение делается предсказуемым. В
кинетической теории газа описывается такая ситуация: предполагается, впрочем, чисто гипоте-
тически, что между двумя заполненными газом и сообщающимися емкостями наличествует некое
устройство, называемое демоном Максвелла, которое пропускает более быстрые молекулы газа и
задерживает более медленные. Таким образом в систему вводится некоторая упорядоченность, позволяющая сделать прогнозы относительно распределения температур. Однако в
действительности демона Максвелла не существует, и молекулы газа, беспорядочно сталкиваясь, выравнивают скорости, создавая некую усредненную ситуацию, тяготеющую к статистической
www.koob.ru
равновероятности. Так система оказывается высокоэнтропийной, а движение отдельной молекулы