Журнал "Компьютерра" №711
Шрифт:
Ввел его Клод Шеннон (Claude Shannon) в работе 1948 года "A Mathematical Theory of Communication" [К. Шеннон, Математическая теория связи, в кн.: "Работы по теории информации и кибернетике", М., 1963 сс.242-332.].
И вызвала его к жизни суровая практическая необходимость передавать сообщения по изобилующим шумами каналам. Точно так же, как поколениями раньше необходимость учета динамических характеристик телеграфных линий породила гениальные труды Хевисайда.
Вводится понятие информации чисто математически. Достаточно популярное, но и точное понятие дано в старой, весьма известной в СССР работе братьев Ягломов [А. М. Яглом, И. М. Яглом, "Вероятность и информация"].
А энтропия в теорию коммуникаций была введена еще раньше, в 1928 году пионерскими работами американского инженера-электроника Ральфа Винтона Лайона Хартли [Hartley, R. V. L., "Trans-mission of Information", Bell System Technical Journal, July 1928, pp.535–563. Русский перевод см. "Теория информации и ее приложения"]. Отметим, кстати, что, говоря о чисто практических задачах связи, Хартли упомянул "психологические факторы", влияющие на меру неопределенности [Интересный пример таких факторов мы видим в заметке Александра Бумагина "Против всех правил" ("КТ" #708). Там, похоже, психология волонтера влияет ни больше ни меньше как на направление вращения спиральных галактик]. Вообще же, используемым им (и позже Шенноном) математическим аппаратом была теория вероятности. Дисциплина, возникшая из любви французских аристократов к азартным играм.
Николя Леонар Сади Карно (Carno, 1796-1832) был сыном блестящего математика (выдающийся вклад в основания математического анализа) и политического деятеля эпохи Революции Лазара Николя Карно. Окончив в восемнадцать лет Эколь Политехник, он стал офицером инженерных войск. Странным таким офицером. Проводящим время не за игорным, а за письменным столом. Через пять лет он ушел в отставку, чтобы совершить путешествие в Германию. Опубликовал Сади одну единственную работу - "Reflexions sur la puissance motrice du feu" ("Размышления о движущей силе огня и о машинах, способных развивать эту силу", 1824).
Изучая получение движения из тепла, - причем исходя из теории теплорода, и сопоставляя машину тепловую с машиной гидравлической, приводимой в движение только не водой, а жидкостью - Карно ввел идеализированный круговой процесс "получения движения из тепла".
Идеализированный! Отсутствующий в природе! За "циклом Карно" Сади отправился в мир идей, тех, что оттеняют на стенах платоновской пещеры, в тот мир, где гуляют девственницы с единорогами да безупречные рыцари. И из царства абстракций он вышел с Граалем индустриальной эры технологической цивилизации, - своим циклом.
Именно Карно впервые пришел к выводу о том, что полезная работа производится только при переходе тепла от нагретого тела к более холодному. Высказал также положение, что величина работы обусловлена разностью температур нагревателя и холодильника и не зависит от природы вещества, работающего в тепловой машине. Именно это, по большому счету, определяет условия эффективности работы системы охлаждения на теплотрубках, о которой рассказал в статье "Лукавый заплыв" Филипп Казаков ("КТ" #708). Скончался Карно совсем молодым, от холеры.
И понятие энтропии в те времена даже в физике носило эмоциональный окрас, - еще бы!
– ведь самым первым следствием этой ранней формулировки стало понимание невозможности создания Вечного двигателя второго рода. Устройства, которое могло бы производить работу за счет одной только рассеянной вокруг теплоты.
Рудольф Юлиус Эммануэль Клаузиус (1822-1888), введший в научный обиход, (будучи еще гимназическим учителем
Обратим внимание! Практическая необходимость совершенствования тепловых машин (а на дворе стоял Век пара) вызвала к жизни цикл Карно, и размышлявший над ним Клаузиус ввел один из наиболее общих принципов описания устройства мироздания - Второе начало термодинамики. Но крайне важное - и практически, и мировоззренчески - понятие энтропии появилось в результате математического описания тепловых машин. Время было такое…
…Совсем недавно бывший официант Этьенн Ленуар (1822-1900) построил первый газовый двигатель, с КПД 4,65% (почти как у паровоза).
Вскоре коммерсант Николаус Август Отто (1832-1891) построит четырехтактный двигатель, которому предстоит породить автомобильную индустрию.
А в 1897 году инженер Рудольф Дизель (1858-1913) построит двигатель, работающий, почти что, по идеальному циклу Карно и так любимый ныне бережливыми европейцами.
Дальше последовали драматические события. Клаузиус распространил понятие энтропии на всю Вселенную, над которой навис призрак тепловой смерти. Клаузиуса за это упрекали в пессимизме "прогрессивные" ученые ХХ века, упускавшие, что дело было не в непонимании немецким физиком разницы между открытыми и закрытыми системами, а в парадигме статичной Вселенной, оказывавшей влияние даже на ранние космологические интерпретации общей теории относительности. (И порождавшей абсолютно странные конструкции типа "творящего поля" английского астрофизика и автора научной фантастики Фреда Хойла…)
Дальнейшее, после Клаузиуса, развитие понятия энтропии связано с именем австрийца Людвига Больцмана (1844-1906).
Автор работ практически по всем областям физики Больцман ввел в 1872 Н-функцию, характеризующую состояние замкнутой макроскопической системы, и показал, что с течением времени Н-функция не может возрастать (Н-теорема). Отождествив Н-функцию с энтропией S (с обратным знаком), Больцман связал энтропию с термодинамической вероятностью W.
Согласно Больцману, S = klnW. Эта формула украшает памятник Больцману в Вене. Еще лучшим памятником служит то, что его имя носит универсальная постоянная k.
А мы отметим пока, что именно в его работах сошлись энтропия и вероятность.
Проникновение этих понятий в научную среду было крайне драматичным. Прежде всего - "тепловая смерть" Вселенной. Для того чтобы представить, как эта концепция воспринималась в годы ее оформления, нужно обратиться к интеллектуальной атмосфере девятнадцатого века. Хоть и начавшийся мясорубкой, учиненной военно-бюрократической машиной Наполеона, век этот оказался временем торжества прогресса.
Девятнадцатый век, казалось, подтверждал воззрения Тюрго, Кондорсе, Канта на развитие общества. Запрещалась морская работорговля, отменялось крепостное право и рабство негров, входили в жизнь пароходы, железные дороги и телеграф. Улучшение освещения - масло в фонарях сменялось газом, а потом и электричеством, - шло рука об руку с внедрением просвещения. Ведшиеся с применением самых совершенных средств истребления Крымская война и Гражданская война в США, казались не предвестием катастроф грядущего, а досадными рецидивами прошлого.