Информация или интуиция?
Шрифт:
ИНФОРМАЦИЯ И СЛУЧАЙ
Все только что сказанное снова приводит нас к обсуждению вопроса о количестве информации. Мы угадывали числа, и количество информации вроде бы зависело (во всяком случае, читатель мог прийти к такому заключению) от величины интервала, в пределах которого происходит угадывание. Всякий физический эксперимент также представляет собой своеобразное угадывание некоторого числа. Однако, как мы только что говорили, в процессе эксперимента получается лишь ответ «да» или «нет» на вопрос, заданный естествоиспытателем.Впервые мера количества информации была предложена американским инженером Р. Хартли в 1927 году. Он рассуждал так. Всякое поступающее к нам сообщение выбирается из некоторого конечного набора. Чем богаче такой набор, тем труднее угадать, какое именно сообщение будет получено. Следовательно, тем больше информации оно несет с собой. Значит, количество информации должно зависеть от количества сообщений в исходном наборе.Проще всего было бы приравнять количество информации полному количеству сообщений в исходном наборе. Но здесь существует одна трудность. Пусть имеются два набора, каждый из которых содержит, скажем, но десять сообщений. Можно представить себе сложное сообщение, составленное из двух — по одному из каждого набора. Всего их можно образовать сто штук. Вот и получается, что если принять за меру количества информации количество сообщений в исходном наборе, то каждое из них, взятое из первого набора, будет содержать десять единиц информации, взятое из второго набора, — тоже десять. А сложное сообщение, составленное из двух простых, будет содержать не двадцать, как естественнее всего было бы ожидать, а сто единиц информации.Чтобы избежать этой трудности, Р. Хартли предложил брать в качестве меры количества информации не количество сообщений в исходном наборе, а двоичный логарифм этого количества. Легко показать, что в этом случае количество информации, переносимое сложным сообщением, окажется в точности равным сумме количеств информации, содержащихся в составляющих его простых.Возвращаясь к нашему примеру с угадыванием чисел, подсчитаем, чему равно количество информации по Хартли, содержащейся в одном угаданном числе, взятом в интервале от нуля до тысячи. Исходный набор содержит здесь тысячу возможных сообщений. Двоичный логарифм тысячи примерно равен десяти. Следовательно, меры Хартли и Колмогорова в, этом случае совпадают.Главная заслуга Р. Хартли состоит в том, что, он впервые связал понятие о количестве информации с понятием многообразия (количество сообщений в исходном наборе)., Второе важное положение теории Хартли состоит в том, что процесс получения информации рассматривается как выбор одного элемента из некоторого множества. Если исходное множество содержит только один элемент, выбирать не из чего и количество информации равно нулю. Тут снова оправдывается использование логарифма, поскольку логарифм единицы всегда нуль.Наконец, важнейшее положение теории Хартли состоит в том, что количество информации в ней целиком определяется свойствами источника и никак не зависит от свойств получателя. В теории Хартли роль получателя информации совершенно пассивна. Он лишь воспринимает сообщения, которые кто-то (отправитель, автомат, природа) выбирает из наперед заданного набора. Наоборот, в теории Колмогорова получателю отводится основная, активная роль. Это он задает вопросы. Ясно, что количество вопросов, необходимое для угадывания, зависит от того, насколько удачно они поставлены.Однако возможен принципиально иной подход к решению вопроса о количестве информации. Если предложить какому-либо человеку (при этом он не должен быть профессионалом математиком и, кроме того, не следует заранее вводить его в курс дела) выбрать наугад число из интервала от нуля до тысячи, он почти наверняка не загадает единицу или девятьсот девяносто девять. Напротив, в большинстве случаев загаданное число будет расположено где-то недалеко от середины интервала. В чем состоят психологические особенности загадывания чисел, мы не знаем (интуиция?), но каждый из читателей может легко убедиться в справедливости сказанного, предложив загадывать числа нескольким своим приятелям. Для этого не надо даже брать большие интервалы. Вполне достаточно, скажем, загадывать числа из интервала от нуля до десяти.С учетом этих соображений стратегию отгадывания можно построить следующим образом. Будем предполагать, что загаданное число почти наверняка не находится в интервалах от нуля до двухсот пятидесяти шести и от семисот шестидесяти восьми до тысячи. Попытаемся отгадать его, исходя из предположения, что оно заключено в интервале от 256 до 768. Далее используем уже известную стратегию деления пополам. Первый вопрос тот же самый:— Задуманное вами число больше 512?Однако второй вопрос уже будет сформулирован иначе. Если ответ на первый вопрос был положительным, то следующим мы зададим вопрос:— Задуманное вами число больше 640? (640 — половина интервала между 513 и 768.)Если же ответ на первый вопрос был отрицательным, то следующий вопрос будет звучать так:— Задуманное вами число больше 384? (384 — половина интервала между 257 и 512.)Легко подсчитать, что подобная стратегия позволяет отгадать число не более чем за девять вопросов, если, конечно, загаданное число взято из интервала от 256 до 768. Ну а если это не так?Тогда мы все равно отгадаем число. Но потратить придется больше, чем десять вопросов. Можно показать, что если все время придерживаться гипотезы об интервале, из которого выбрано загаданное число, и отказаться от нее лишь тогда, когда будет доказано, что она несправедлива (для этого тоже потребуется девять вопросов), то общее количество вопросов в этом случае будет семнадцать. Все дело в том, как часто принятая гипотеза будет оказываться несправедливой.Предположим, что мы только тем и занимаемся, что отгадываем числа. Предположим далее, что, как и считалось с самого начала, в подавляющем большинстве, например в 96 случаях из ста, загаданное число оказывается в пределах интервала от 256 до 768 и, следовательно, может быть отгадано за девять вопросов. Лишь в четырех случаях из ста загаданное число окажется вне этого интервала, и на его отгадывание затрачивается 17 вопросов. Среднее число вопросов будет, очевидно, равно 9,32, то есть меньше десяти.Значит, если строить стратегию отгадывания с учетом психологии своих приятелей, а проще говоря, с учетом вероятности нахождения загадываемого числа в пределах того или иного интервала, то среднее количество задаваемых вопросов окажется меньше, чем в том случае, когда стратегия отгадывания строится с учетом равной вероятности нахождения числа в любом месте исходного интервала. Меньше, даже, несмотря на то, что в отдельных случаях количество задаваемых вопросов будет значительно больше среднего. Переходя к терминологии, принятой в теории Хартли, можно сказать, что в последнем случае стратегия отгадывания строится с учетом распределения вероятности, заданного на исходном наборе чисел, или, как мы будем дальше говорить, на исходном многообразии.Здесь имеет смысл сказать несколько слов об интуиции. Что, например, следует думать о человеке, который отгадал число с первой попытки? Можно ли считать, что он проявил интуицию? Все только что проведенные рассуждения говорят, что это не так. Любое суждение как о процессе отгадывания, так и о свойствах отгадывающего, можно выносить лишь на основе подсчета среднего количества сделанных попыток. Мы еще вернемся к этому вопросу в главе третьей.Американский математик К. Шеннон в 1949 году предложил использовать в качестве меры количества информации как раз величину среднего количества вопросов, необходимого для отгадывания при использовании соответствующей стратегии. В теории Шеннона так же, как и в теории Хартли, предполагается, что сообщения поставляются (генерируются некоторым источником, который выбирает их из конечного наперед заданного набора сообщений. За количество информации, содержащейся в одном сообщении, принимается среднее значение логарифма от вероятности этого сообщения, взятое со знаком «минус». На первый взгляд представляется, что такое определение не имеет ничего общего со всем, что говорилось ранее. Однако можно убедиться, что это не так.Достаточно лишь вспомнить, что если все сообщения равновероятны, то вероятность получения одного из них равна единице, деленной на общее число сообщений и наборе. А логарифм обратной величины равен взятому со знаком «минус» логарифму от этой величины. Следовательно, в случае равновероятности всех сообщений количество информации по Шеннону совпадает с количеством информации по Хартли, а это последнее, в свою очередь, как было показано выше, совпадает, во всяком случае для примера с отгадыванием чисел, с количеством информации по Колмогорову.Другая, крайность имеет место тогда, когда вероятность появления одного из сообщений в- наборе равна единице, а всех остальных —соответственно нулю. Можно считать, что набор состоит из одного-единственного сообщения, поскольку все остальные в течение любого разумного интервала времени все равно не будут получены. Логарифм единицы равен нулю, поэтому, по Шеннону, количество информации, переносимой сообщением, вероятность появления которого равна единице, равно нулю. Тот же результат мы получаем, применяя меру Хартли к набору, состоящему из одного-едннственного сообщения. Наконец, ясно, что, если ваш приятель всегда загадывает одно и то же число, угадать его можно, не задавая никаких вопросов.Итак, мы установили, что в двух, как говорят, экстремальных случаях применение мер Хартли, Шеннона и Колмогорова дает одно и то же количество информации. Можно показать, что для неравновероятных сообщений количество информации, по Шеннону, будет всегда меньше максимально возможного, получаемого для равновероятных сообщений. В этом и состоит основное отличие теории Шеннона от теории Хартли. Теперь мы знаем, что существует по меньшей мере три различные меры количества информации. То, что их три, а также и то, что вообще-то говоря, не существует четкого рецепта, когда какой пользоваться, как раз и свидетельствует о незавершенности современной теории информации.Еще, один вопрос требует немедленного ответа. Каждая из трех рассмотренных нами мер предусматривает наличие источника, причем такого, который содержит лишь конечное число сообщений. А как быть в случае источника с бесконечным разнообразием сообщений?Чтобы мы могли свободно рассуждать в дальнейшем, необходимо доказать, что в природе не может существовать источник, располагающий бесконечным разнообразием сообщений (для искусственных источников это утверждение не требует доказательства). Посмотрим, что происходит, когда источником сообщений является сама природа, а точнее, некоторая определенная система конечных размеров, наблюдаемая нами в течение конечного интервала времени.Такая система может что-то сообщать лишь о своем собственном внутреннем состоянии. Согласно принципу неточностей Гейзенберга состояние физической системы может быть воспринято лишь с некоторой ошибкой (неточностью), причем эта неточность не может быть меньше определенной величины. Значит, любые два состояния системы могут отличаться друг от друга только в том случае, если они разделены некоторым конечным интервалом. В любой реальной системе описывающие ее физические величины не могут принимать бесконечные значения. Отсюда следует, что число различимых состояний любой ограниченной физической системы всегда конечно.Пусть, например, мы судим о состояниях системы по ее массе, а массу определяем с помощью весов со шкалой и стрелкой. Поскольку стрелка всегда имеет конечную ширину, невозможно измерить массу (произвести взвешивание) с точностью большей, чем, скажем, 1 грамм. Если мы знаем к тому же, что масса системы не более 1 килограмма, то не может быть более тысячи отличающихся друг от друга результатов взвешивания. Итак, наша предпосылка о конечности числа различных сообщений в источнике не снижает, как говорят, общности рассуждений.
ЭНЕРГИЯ ПЕРВЫЙ СОРТ
Один из важнейших вопросов, до сих пор до конца не решенный современной наукой, — это вопрос о причине движения. Мир материален, и заполняющая его материя находится в непрерывном движении — эта истина в настоящее время практически ни у кого не вымывает, сомнений. Но почему в движении? Что является причиной движения? Такие вопросы задавали себе еще древнегреческие ученые.Фалес из Милета считал, что всему причиной демоны. Все полно демонов, утверждал Фалес. По Гераклиту, единственной стихией, из которой все возникает п в которую все разрешается, является огонь (энергия?), который есть не что иное, как процесс горения. Огонь вечно подвижен и все движет. Он не только изменяется, но и сам все изменяет, сходит с неба и восходит к небу, угасая и воспламеняясь:«Итак, все изменяется, все течет и горит, но всякое изменение есть переход от чего-либо одного к чему-либо другому, причем второй момент вытесняет первый и постольку отрицает его собою; процесс явлений, в своем вечном круговороте, обусловлен вечной борьбой и враждою всего сущего. Все состоит из противоположностей, борющихся и переходящих друг в друга в живой стихии горенья. Единое согласуется с собою в вечном противоречии, и гармония мироздания вытекает из сочетания противоположных колебаний».Наконец, уже упоминавшийся Демокрит считал, что причина движения очень проста — все состоит из атомов, и эти атомы непрерывно движутся вниз (?!). Просто вниз, и все. Вопрос о причине движения имеет прямое отношение к другим вопросам, которые будут рассмотрены в этой книге. Скажем больше — это один из основных вопросов естествознания.В. Нернст, автор так называемого третьего начала термодинамики, имел небольшую собственную ферму. Однажды его спросили:— Почему бы вам не завести на ферме несколько десятков кур или хотя бы несколько овец?— Я не идиот, — ответил В. Нернст. — Разводить теплокровных животных — это все равно что за свой счет отапливать вселенную.Девятнадцатый век можно назвать веком зарождающейся энергетики. К середине его ученым стали окончательно ясны две вещи: во-первых, то, что энергия не может взяться ниоткуда или исчезнуть бесследно, она лишь непрерывно переходит из одной формы в другую, во-вторых, то, что различные формы энергии отличаются друг от друга по качеству. Самая «плохая» энергия — тепловая, лучше ее – механическая, формы энергии высшего качества — это энергия электрическая и энергия химическая. Переходы энергии из формы высшего качества в форму низшего качества наблюдаются в природе повсеместно. Наоборот, случаи перехода от формы низшего качества к форме высшего качества наблюдаются относительно редко. Кроме того, как правило, только часть запасов энергии низшего качества может преобразоваться в форму более высокого качества. Эта часть определяется: величиной, называемой коэффициентом полезного действия (КПД).Энергия высшего качества — это такая энергия, которая целиком может перейти в энергию более низкого качества. Пусть, например, в аккумуляторе запасен один джоуль электрической энергии. Этот джоуль можно целиком преобразовать в тепло. Наоборот, если мы вращаем электрический генератор с целью преобразовать механическую энергию в электрическую, то лишь часть имеющегося у нас запаса механической энергии перейдет в электрическую, а другая часть этого запаса преобразуется опять же в тепло (нагревание подшипников и обмотки). Следовательно, механическая энергия по качеству хуже, чем электрическая. Повторяем, все это было известно уже к середине XIX века. Однако и в наши дни мало кто может ответить на вопрос: почему, к примеру, тепловая энергия хуже механической?Попробуем: хотя бы, поискать пути к ответу на этот вопрос и для этого рассмотрим принцип действия какого-нибудь преобразователя тепловой энергии в механическую, например принцип действия паровой машины. Первые паровые машины представляли собой устройства, весьма сложные в обращении. Работала машина примерно так. Человек открывал кран, в цилиндр, в пространство под поршнем, поступал пар из котла. Поршень постепенно выдвигался. Когда поршень доходил до упора, кран в трубе, подводящей пар, закрывали, а цилиндр обливали холодной водой, Пар в цилиндре конденсировался, превращался в воду, и под действием атмосферного давления поршень вдвигался внутрь цилиндра. Через специальный кран из цилиндра спускали воду, в которую превратился пар, затем снова наполняли цилиндр паром и т. д. Как видите, человеку, обслуживающему такую паровую машину, скучать было некогда.Современная паровая машина отличается от только что описанной лишь тем, что цилиндр не обливают холодной водой, а просто выпускают из него отработавший пар. Система клапанов оказывается еще более сложной и оформляется в виде так называемого золотника. Золотник автоматически перемещается в соответствии с перемещениями поршня.Посмотрим теперь, в чем состояла основная функция человека, обслуживавшего первые паровые машины. Она состояла не в том, чтобы просто открывать и закрывать краны, а в том, чтобы делать это в строго определенные моменты времени. Именно тогда, когда поршень достигал наивысшей или наинизшей точки. Человек получал информацию о положении поршня, должным образом перерабатывал ее и затем использовал для управления состояниями кранов. В современной паровой машине задачи получения и преобразования информации решаются с помощью кривошипа и штока золотника.Возможно, кто-то из читателей захочет возразить нам, сославшись на то, что, например, в паровой турбине нет ни золотников, ни штоков и тем не менее задача преобразования тепловой энергии в механическую решается в турбине ничуть не хуже, а может быть, даже лучше, чем в паровой машине с цилиндром и поршнем. Штоков и золотников в паровой турбине действительно нет. И все же в ней выполняются все те же операции, что и в поршневой машине. Просто паровая турбина представляет собой удачную и остроумную конструкцию, где один и тот же рабочий орган — лопатка — выполняет функции и поршня, когда паровая струя ударяется именно в данную лопатку, и клапана, когда очередная лопатка принимает давление струи пара на себя и закрывает тем самым от воздействия пара лопатку, которая работала непосредственно перед этим. Расположение лопаток на колесе выбирается таким, чтобы переход действия струи пара с одной лопатки на другую совершался в тот момент, когда использование предыдущей лопатки становится далее неэффективным. В турбине получается и преобразуется ровно такое же количество информации, что и в поршневой машине, Просто функции получения и преобразования информации реализуются тем же самым колесом. Все сказанное справедливо также для двигателей внутреннего сгорания (дизельных и карбюраторных) и газовых турбин.
По соображениям, которые станут ясны лишь по прочтении последующих глав, можно утверждать, что весьма высоким качеством (правда, не самым высоким) обладает энергия лазерного луча. Принцип действия лазера (его мы рассмотрим в дальнейшем) связан с достаточно сложными процессами получения и преобразования информации.При работе любого преобразователя тепловой энергии в механическую исходный запас тепловой энергии затрачивается на совершение механической работы.Спрашивается, куда затрачивается информация? Все сказанное приводит нас к единственному возможному ответу. Получение энергии более высокого качества из энергии более низкого качества возможно лишь в системе, в которой происходят процессы получения и преобразования информации (одним словом, можно сказать, процессы управления). А значит, можно считать, что качество энергии определяется количеством информации, затраченной при ее получении. Короче говоря, качество энергии есть не что иное, как ее информативность.Конечно, подобное утверждение звучит пока что достаточно голословно. Одна из целей нашей книги состоит в том, чтобы показать, что так оно и есть на самом деле. Это можно только показать, но не доказать, поскольку, как уже не раз отмечалось, сама теория информации является к настоящему времени незавершенной отраслью в науке.
ЭНЕРГИЯ И ЭНТРОПИЯ
К середине XIX века считалось, что причина движения найдена и получила свое название — это энергия. Энергия есть способность материальной системы совершать работу. Энергия не может взяться из ничего и не может исчезнуть. Этот закон, ставший краеугольным камнем здания классической физики, был открыт еще в XVIII веке великим М. Ломоносовым.Во вселенной разлит определенный запас энергии (все полно демонов?). Каждая материальная система также обладает некоторым запасом энергии. Обладать запасом энергии значит быть способным совершать работу, в частности, двигаться. Энергия может переходить из одной формы в другую. Уже известны такие формы, как механическая, химическая, электрическая. Но главная форма энергии, конечно же, тепловая. Именно в этой форме постоянно, бесплатно и в огромных количествах поставляет энергию Солнце. К тому же век пара и электричества — это в первую очередь век паровых машин или, как их вежливо называют в учебниках физики, тепловых двигателей.Казалось бы, все ясно. Но не тут-то было! Энергия обусловливает способность материальной системы совершать движения, это верно. Но энергия не есть причина этих движений. Вот на вершине горы лежит камень. Этот камень обладает потенциальной энергией. Чем тяжелее камень и чем выше гора, тем больше запас потенциальной энергии. Но этот камень почему-то не падает вниз. А другой камень, может быть, даже меньших размеров и, соответственно, с меньшим запасом потенциальной энергии, вдруг покатился вниз, да еще увлек за собой целую лавину камней.Так в чем же причина движения? Вопрос этот мучил многих. Размышлял над ним и немецкий ученый Р. Клаузиус. Всем, кто строил и исследовал тепловые двигатели, был хорошо известен следующий факт. Тепло охотно переходит от нагретого тела к холодному и никогда не переходит в обратном направлении. Если в стакан, налитый до половины холодной водой, долить кипятку, кипяток и холодная вода перемешаются и вся вода в стакане постепенно приобретет одинаковую температуру. При переходе тепла от нагретого тела к холодному может быть совершена работа. Наоборот, если имеются два тела с одной и той же температурой, то нагреть одно из них и охладить другое можно, только затратив определенное количество работы.Заинтересовавшись этими фактами, Р. Клаузиус заметил и нечто другое. Тепловую энергию можно преобразовать в механическую, электрическую или химическую. При этом на единицу затраченной тепловой энергии будет получена в точности единица энергии другого вида — никаких потерь здесь не происходит. Но если снабдить некоторую материальную систему запасом, скажем, химической или электрической энергии и затем предоставить эту систему самой себе, то в ней начнутся различные, подчас очень сложные преобразования и в конце концов, если не вся, то большая часть электрической или химической энергии перейдет в тепловую.Подметил Р. Клаузиус и многое другое. Высокие остроконечные горы постепенно, хотя для этого требуются целые геологические периоды, осыпаются, становятся более пологими. Ущелья, напротив, заполняются осадочными породами. Реки мельчают, заболачиваются. Извилистые русла рек постепенно спрямляются. Какой бы прочный дом вы ни построили, он постепенно разрушится. Создается впечатление, что все процессы в природе каким-то образом направлены.Р. Клаузиус ввел новую физическую величину, чтобы как-то оценить подобные преобразования, и назвал ее энтропией. Для всякой материальной системы энтропия — это мера близости системы к состоянию равновесия. Если система находится в состоянии равновесия, в ней невозможно движение, а энтропия ее максимальна. Например, если в некотором сосуде заключена жидкость и в любой точке внутри сосуда температура этой жидкости одна и та же, то, как уже говорилось, тепло не сможет переходить из одной области сосуда в другую. Работа внутри такого сосуда, обусловленная тепловыми процессами, совершаться не может, а энтропия системы «сосуд с жидкостью» будет максимальной.Повторим еще раз, потому что это очень важно. Пусть имеется материальная система, обладающая любым сколь угодно большим запасом Энергии и не взаимодействующая с другими системами. Если, однако, энтропия этой системы равна своему максимально возможному для данной системы значению, никакая работа внутри системы совершаться не может. Иначе говоря, если в данной системе вообще возможны некие процессы, которые мы определяем как процессы преобразования, или эволюции, то они неизбежно заканчиваются при достижении энтропией своего максимально возможного значения.И наоборот, пусть некая материальная система характеризуется некоторым значением энтропии, не равным максимально возможному для этой системы значению. Величина, показывающая, сколько не хватает до максимально возможного значения энтропии, и есть в определенном смысле мера способности системы совершать внутри себя работу. С другой стороны, эта величина равна разности между некоторым постоянным значением энтропии (для данной системы) минус реальное значение энтропии. Можно условиться принимать постоянную за начало отсчета, то есть за нуль. Тогда мера способности системы совершать работу будет представлять собой реальное значение энтропии, взятое со знаком «минус». Мы просим читателя как следует запомнить только что сказанное. В дальнейшем нам удастся прийти к довольно неожиданному выводу.Первоначально энтропию определяли для тепловых систем, причем полагали, что изменение энтропии пропорционально изменению количества тепла при данной температуре. Тот факт, что тепло всегда переходит только от более нагретого тела к менее нагретому, теперь можно сформулировать иначе: все самопроизвольные процессы в тепловых системах происходят всегда в сторону возрастания энтропии. Это утверждение, впервые высказанное Р. Клаузиусом, получило название второго начала термодинамики в отличие от первого начала — закона сохранения энергии, гласящего, что энергия не может возникнуть из ничего или исчезнуть бесследно.Уже отмечавшиеся нами наблюдения, а также многие-многие другие привели к выводу, что область действия второго начала термодинамики отнюдь не ограничивается тепловыми двигателями. Стало ясно, что так же, как и закон сохранения энергии, второе начало термодинамики или, как его иначе называют, закон неубывания энтропии, является фундаментальным физическим законом, справедливым для всех без исключения материальных систем.Размышления над вторым началом термодинамики привели к довольно жуткой картине — так называемой тепловой смерти вселенной. Действительно, раз тепло всегда переходит лишь от более нагретого тела к более холодному, рано или поздно во всей вселенной должна установиться одна и та же температура — звезды погаснут, а планеты нагреются, прекратятся все процессы и, конечно, жизнь во всех ее проявлениях. И что самое обидное, общего количества энергии, то есть способности совершать работу, в такой уравновешенной вселенной будет ровно столько же, сколько сейчас или, скажем, несколько миллиардов лет тому назад. Способность к движению сохранится, а вот причина, побуждающая систему к движению, исчезнет. К счастью, на самом деле все обстоит не так трагично. Правда, доберемся мы до объяснения истинного положения вещей лишь к самому концу книги.Пока что нам стало ясно одно: причина движения, которую тщетно искали ученые, начиная с самых древних времен, найдена, Современная наука утверждает: причина движения суть физическая величина, получившая название энтропии и взятая с обратным знаком. Чем дальше система от состояния равновесия, чем меньше истинное значение энтропии по сравнению с максимально возможным — тем больше движения может совершиться в такой системе.Правда, здесь снова возникает вопрос. Многочисленные адепты самых разнообразных религий также претендовали на то, что они знают, в чем причина движения. Эту причину они усматривали, смотря по вкусу, в божестве, божествах, демонах, вселенской идее или вселенском разуме, как у Аристотеля и Платона. В конце концов бог или демон — это всего лишь слова. Может быть, и энтропия — всего лишь слово, пришедшее на смену устаревшему и мало убедительному понятию вселенского разума?Нет, это не так. Оказывается, отталкиваясь от первого и второго начал термодинамики, чисто формально производя одни лишь математические преобразования, можно вывести практически все законы классической физики. История физики знает и весьма яркие примеры использования закона неубывания энтропии в достаточно далеких на первый взгляд областях. Всем известно, например, что М. Планк открыл свой знаменитый закон квантования энергии, положивший начало квантовой физике, и ввел новую фундаментальную физическую константу — постоянную Планка, — исследуя процессы излучения черного тела. Однако мало кто знает, что М. Планк проделал все это, рассуждая о том, как возрастает энтропия в системе, состоящей из черного тела и излучателей энергии. Так что понятие энтропии и закон, которому подчиняется эта физическая величина, позволяют не только объяснить уже известные физикам явления, но и предсказать новые, которые действительно затем обнаруживаются в природе. А это и есть лучшее доказательство справедливости физических утверждений.Универсальность понятия энтропии потребовала и другого определения, более общего, чем определение через количество тепла и температуру. Развитие статистической физики позволило очень быстро найти такое определение. Величину энтропии, характеризующую данное состояние материальной системы, стали определять как логарифм вероятности для системы принять это состояние.Произнеся слово «вероятность», мы не можем не высказать здесь ряд дополнительных соображений. В природе совершаются события, о которых принципиально можно узнать лишь очень немногое. Например, вся мощь современной науки и техники не позволяет определить точку, в которую попадет артиллерийский снаряд после выстрела. Можно лишь приближенно указать некую площадь земной поверхности, в пределах которой заключена эта точка. С другой стороны, имеется возможность с достаточной степенью точности предсказать, как будет выглядеть эта площадь после, скажем, ста выстрелов, произведенных без изменения прицела. Выполнить это нам помогает наука — теория вероятностей. А с точки зрения информации можно отметить, что в определенных условиях наше знание о явлениях природы приобретает довольно своеобразную форму: почти ничего не зная об отдельных явлениях, мы можем знать достаточно много о массе таких явлений, если они совершаются в неизменяющихся условиях.Эта книга посвящена информации, ее свойствам и связанным с нею закономерностям. Во второй половине XX века получила бурное развитие техника переработки информации. Мы не станем затрагивать здесь вопросы этой переработки, поскольку даже самое поверхностное их рассмотрение требует отдельной книги. Наша задача состоит в другом: вскрыть единство информационных процессов, совершающихся в самых различных искусственных и естественных системах. Подобные процессы, как правило, оказываются заложенными в самой основе физических явлений. Поэтому читателя не должно смущать, что подчас мы не будем достаточно долго произносить слово «информация».Мы намерены показать, что, казалось бы, совершенно бессмысленная игра в вопросы и ответы, которой мы отвели столько места в начале главы, имеет самое непосредственное отношение не только к принципу действия тепловых двигателей, но и к описанию процессов, происходящих, например, в столь экзотических астрономических объектах, как черные дыры. Однако все это потребует от читателя соответствующей подготовки.В этой главе мы еще почти ничего не сказали ни об информации, ни об интуиции. Задача здесь состояла в том, чтобы ввести читателя в круг понятий, с которыми мы будем иметь дело в дальнейшем. И все же было сделано одно утверждение, проливающее уже достаточно яркий свет на природу информации: качество энергии, сказали мы, определяется ее информативностью.
О ВНУТРЕННЕМ СОВЕРШЕНСТВЕ
Чтобы некоторую физическую теорию можно было признать верной, она должна обладать внутренним совершенством и внешним оправданием, писал Эйнштейн. Что же такое внутреннее совершенство? Конечно, под этим нельзя понимать всего лишь простоту — физика выглядела бы тогда уж слишком примитивной. В связи с затронутым нами вопросом представляет интерес высказывание Ричарда Фейнмана. Наука начинается со сбора фактов, считает Р. Фейнман. Затем эти факты обобщаются и устанавливаются математические закономерности. Однако истинного величия наука достигает тогда, когда предлагается способ рассуждений, из которого все известные факты следуют естественным образом.Способ рассуждений… Но ведь способ рассуждений не может быть абстрактным, во всяком случае применительно к точным наукам. Если наука описывает природу, то предложить способ рассуждений — это то же самое, что и предложить описание некоторого механизма, вызывающего к действию те или иные явления природы. Значит, перефразируя Р. Фейнмана, можно сказать: истинного величия наука достигает тогда, когда ей удается вскрыть наиболее общие механизмы природы.Имея в виду только что сделанное утверждение, обратимся к физике. Всем известно, что современная релятивистская квантовая физика достигла величайших за всю историю науки успехов, дала человечеству совершенно новое понимание мира. Эти дифирамбы можно продолжать сколь угодно долго. Кроме понимания мира, современная физика подарила человечеству множество практически полезных вещей, таких, как атомная энергия, электроника, наконец, кибернетика, замахивающаяся на создание искусственного интеллекта.Но при всем при том нельзя не заметить, что как раз для современной физики характерно наличие очень большого количества утверждений, которые ни из чего не вытекают и никак не доказываются. Скорость распространения взаимодействий в природе ограничена и ни при каких условиях не может превышать величины скорости распространения света в вакууме, то есть примерно 300 000 километров в секунду. Это одно из наиболее фундаментальных утверждений, на котором базируется вся современная релятивистская физика. Но возникает вопрос: почему? Почему именно 300 000? Не станем же мы утверждать, что существуют магические числа, числа-божества, управляющие миром, и 300 000 — одно из таких чисел. Заметим к тому же, что ведь 300 000 получилось совершенно произвольно, только потому, что за единицу длины мы приняли километр. Выбери мы в качестве единицы длины милю или, скажем, фут, получилось бы совсем другое число. Почему же какое-то число, которое к тому же не имеет определенного значения, играет роль фундаментальной мировой константы?Дело даже не в самом числе. Почему именно такая физическая величина, как скорость, приобретает столь исключительное значение? Ведь согласно тому же принципу относительности равномерное прямолинейное движение неотличимо от состояния покоя. А это значит, что далеко не всегда вообще можно судить, движется тело или не движется. Возьмем знаменитый парадокс близнецов. Были два брата-близнеца. Один из них отправился в далекий космический полет, другой остался на Земле. Вернувшись из путешествия молодым человеком, космонавт застал своего брата глубоким стариком. Сейчас это знает каждый школьник, и подобные факты никого не удивляют. Более того, неодинаковое течение времени в различных инерциальных системах отсчета давно доказано многими экспериментами.Порассуждаем, однако, еще немного. Вот Земля, а вот космический корабль. Если корабль летит прямолинейно и равномерно (он уже успел разогнаться до скорости, близкой к скорости света), то у космонавтов есть все основания утверждать, что они вместе с кораблем неподвижны, а Земля со всем ее населением отдаляется от них (приближается, если речь идет об обратном пути) со скоростью, близкой к скорости света. Но если так, то течение времени должно замедлиться именно на Земле и космонавты, вернувшись из путешествия, длившегося по корабельным бортовым часам, скажем, двадцать лет, застанут своих родственников и знакомых постаревшими всего на каких-нибудь несколько секунд. Так где же должно происходить замедление времени? На корабле или на Земле?Конечно, на корабле, потому что, разгоняясь или тормозя, космический корабль испытывает ускорение. В отличие от скорости ускорение — величина абсолютная. Она может быть измерена прибором, расположенным внутри корабля и никак не связанным с какими-либо внешними объектами. Именно ускорение воздействует на часы, замедляя или ускоряя их ход. Но роль физической константы играет почему-то не ускорение, а скорость.Все те же соображения можно высказать применительно к какой-нибудь другой физической константе, например постоянной Планка. И опять-таки сильнее всего раздражает не то, что имеется какое-то число, которое в отличие от многих других чисел определяет протекание весьма большого количества процессов в окружающей нас природе. Непонятно другое. Почему это число (постоянная Планка) имеет физическую размерность момента количества движения? В чем исключительность именно такой физической величины? Современная физика не только не может ответить на эти вопросы, она не подготовлена даже к тому, чтобы корректно их поставить.Вот и приходится школьникам, а затем студентам зазубривать утверждения вроде следующего: мир устроен так, что любая физическая система может излучать или поглощать энергию лишь целыми порциями — квантами, причем для каждого такого кванта величина энергии не может быть меньше произведения их частоты на постоянную Планка.— Но почему? — вопит обиженный ученик.— Так уж устроен мир! — Это единственный ответ, который может дать современный физик, будь он хоть трижды академик. Надеемся, читатель согласится с нами, что вряд ли утверждение, основанное на «так уж устроен мир», можно считать обладающим внутренним совершенством.
ИГРАЕМ В БИЛЬЯРД
ИГРАЕМ В БИЛЬЯРДПредыдущую главу мы закончили достаточно сильным утверждением о том, что качество энергии определяется ее информативностью, то есть количеством информации, затраченным в процессе преобразования энергии из одной формы в другую. В этой главе мы постараемся показать, что так оно и есть на самом деле. Это, в свою очередь, позволит нам утверждать, что информация суть физическая величина, такая же, как, например, масса или сила электрического тока.Изучение природы всегда связано с построением различных моделей. В данном случае наиболее удобной моделью, которая позволит нам понять связь между информацией и другими физическими величинами, а также прояснит вопрос о качестве энергии, будет бильярдный стол. Надеемся, что все наши читатели достаточно хорошо представляют себе, как выглядит бильярдный стол с шестнадцатью шарами. Поэтому мы не станем его здесь описывать, а условимся лишь о тех допущениях, которые необходимо сделать, чтобы он мог служить нам в качестве модели. Собственно говоря, нам понадобится одно-единственное допущение. Будем считать, что шары движутся по поверхности стола без трения, в том числе и о воздух. Будем считать также, что шары и борта стола идеально упругие. При таких условиях сумма кинетических энергий шаров в любые моменты времени будет одной и той же и начавшееся на столе движение никогда не прекратится. На некоторое время откажемся также от луз, а затем вернем их на свое место.А теперь — внимание! Составили шары в пирамидку, прицелились, ударили и смотрим, что будет происходить дальше. Для начала присмотримся к одному какому-нибудь шару. Вот он отскочил от пирамидки, ударился о борт, отскочил от борта, ударился о противоположный борт, снова отскочил, ударился о встречный шар, изменил направление своего движения, снова ударился о борт и так далее. Предположим, что мы наблюдаем за поведением шара после удара достаточно долго, скажем, полчаса. И зададим себе главный вопрос: можно ли каким-то образом связать исходное положение шара в пирамидке с тем положением, которое он занимает на столе в некоторый данный момент времени (у нас — через полчаса)?Конечно, если все время следить за движением шара или фиксировать это движение с помощью кинокамеры, можно восстановить всю его траекторию, и это даст возможность утверждать, что положение шара в данный момент времени в данном месте стола известным образом зависит от его положения в пирамидке в начальный момент. Однако согласитесь с тем, что достаточно нам хотя бы на несколько минут потерять бильярдный стол из виду, и мы не сможем ничего сказать о расположении шаров. Нет и не может быть никакой теории, которая позволила бы с заданной точностью (пусть даже совсем невысокой) предсказать положение шара через определенное время после удара, если даже нам известны направление и скорость битка или кия, наносящего первый удар.Объясняется это тем, что хотя, казалось бы, движения шаров, как катящихся по поверхности стола, так и отскакивающих от бортов и друг от друга, подчиняются простейшим законам механики, на самом деле точные значения углов, под которыми шары отскакивают от бортов и друг от друга, зависят от микроскопической структуры материала бортов и материала самих шаров, поверхность которых гладкая только на первый взгляд. Поверхность стола также имеет свою микроструктуру. Благодаря всему этому катящиеся шары на самом деле следуют достаточно сложным траекториям.Сложность траекторий шаров приводит к тому, что по прошествии достаточно большого количества времени после исходного удара у нас не будет никаких оснований для выделения какой-либо, даже достаточно большой области поверхности стола, в которой преимущественно должен оказаться данный шар. С совершенно одинаковыми основаниями мы можем указать любую область поверхности стола как возможное местоположение наблюдаемого шара.Здесь необходимо сделать очень важную оговорку. Мы значительно облегчили бы себе труд, если бы сразу сказали, что величина угла, под которым шары отскакивают от бортов или друг от друга, всегда содержит случайную составляющую и в результате этого по истечении достаточно большого времени после начального удара каждый шар с равной вероятностью может наблюдаться в любой области поверхности стола. Более того, у читателя, живущего в 80-х годах XX столетия, не возникло бы никаких сомнений в том, что он понимает, о чем идет речь.Однако мы потому выбрали в качестве модели бильярдный стол, чтобы рассмотреть основные закономерности поведения шаров без привлечения понятий случайной величины и вероятности. Независимо от того, имеет ли наш читатель опыт игры на бильярде или нет, он достаточно хорошо может себе представить, как ведут или как должны вести себя шары. Именно из наблюдения за их поведением он сделает вывод, что если наблюдать за некоторым шаром в течение достаточно долгого времени, то можно будет убедиться в том, что в конце концов на поверхности бильярдного стола не останется ни одной, даже самой маленькой области, где бы шар не побывал хоть однажды. А это эквивалентно утверждению о том, что у нас нет никаких оснований выделить какую-либо область стола и считать ее преимущественным местом нахождения данного шара.Суммируя сказанное, будем утверждать, что по прошествии достаточно большого времени (что значит «достаточно большого», предоставляем судить читателю) после исходного удара мы не знаем и принципиально не можем знать, где находится каждый шар. Чтобы у читателя не создалось впечатления, что мы уж очень далеко уклонились от главной темы, скажем иначе: у нас нет информации о положении шара. Заметим, однако, что сам шар прекрасно «знает», где он находится. Если вам почему-либо не нравится, что мы наделяем шар свойством «знать», можно сказать и иначе. Если поместить наблюдателя внутрь бильярдного шара и снабдить его соответствующими измерительными приборами, то в любой момент времени он будет точно знать, где находится, более того — он сможет связать свое местоположение со всеми предыдущими. Отсюда вывод: можно измерить угол, под которым отскакивает шар, но нельзя его предсказать. Нельзя предсказать, поскольку отсутствуют законы, в точности управляющие движением шаров.
Модель ТОМА СОЙЕРА
Но если сам шар «знает», где он находится, может быть, все-таки не стоит быть столь категоричными? Может быть, все-таки есть возможность предсказать положение шаров на бильярде?Некоторую идею в этом направлении нам может дать метод, разработанный в свое время бессмертным Томом Сойером и успешно использованный им также для определения местонахождения шара, точнее, шарика.Процитируем соответствующие строки из книги Марка Твена:«…он подумал, что, пожалуй, стоило бы отыскать шарик, который он забросил, и терпеливо принялся за розыски. Но найти шарик не мог. Тогда он вернулся к тайнику, стал на то самое место, с которого бросал шарик, вынул из кармана второй шарик и бросил его в тем же направлении, приговаривая:— Брат, ступай ищи брата!Он заметил, куда упал шарик, побежал туда и стал искать. Должно быть, шарик упал слишком близко или слишком далеко. Том проделал то же самое еще два раза. Последняя проба удалась: шарики лежали на расстоянии фута друг от друга».Так, может быть, все дело обстоит довольно просто? Достаточно взять два бильярдных стола, выставить па них пирамидки в точности одинаковым образом и совершить в точности одинаковые первые удары, тогда, наблюдая за ситуацией на одном из столов, можно будет знать, что происходит на другом? Увы, читатель отлично знает, что это не так. Если мы возьмем даже не два, а, скажем, тысячи бильярдных столов, то непосредственно из собственного опыта мы можем сделать заключение, что, к примеру, через полчаса после первого удара среди этой тысячи не найдется и двух столов с одинаковым расположением шаров.Объясняется это хотя бы тем, что в природе не существует и не может существовать двух в точности одинаковых бильярдных шаров, а также тем, что, даже пользуясь сверхсовременной измерительной техникой, мы не сумеем выставить две в точности одинаковые пирамидки.Приходим к окончательному заключению. Благодаря отражениям от бортов и друг от друга каждый движущийся бильярдный шар совершает весьма сложную траекторию. Обратите внимание на слово «сложную», оно еще не раз встретится нам в дальнейшем. В силу этой сложности оказывается, что по прошествии достаточно большого количества времени после первого удара на поверхности бильярда не останется ни одной, даже самой маленькой области, в которой выбранный шар не побывал хотя бы однажды. Это объективная характеристика бильярдного стола. Достаточно отметить на поверхности стола какую угодно область и наблюдать за ней не отрывая глаз, и рано или поздно, но ваш шар пересечет эту область.
БИЛЬЯРД С КРЫШКОЙ
Только что сказанное представляет собой содержание так называемой теоремы Луивилля, лежащей в основе современной статистической физики. Если шар рано или поздно побывает в любой, сколь угодно малой, области, у нас нет никаких оснований выделить какую-либо область и считать ее преимущественной для пребывания данного шара. Заметим, что такая характеристика не совсем объективна, поскольку в ней идет речь об основаниях, имеющихся у нас. И тем не менее она целиком вытекает из предыдущих.Поскольку у нас нет никаких оснований предпочесть одну какую-либо область поверхности бильярдного стола другой, мы можем сделать и такое заключение: среднее количество времени, в течение которого данный шар пребывает в пределах данной области на поверхности бильярда, зависит только от размеров этой области. Это уже объективная характеристика, поскольку среднее количество времени можно измерить.Все три только что сформулированные характеристики по существу означают одно и то же. И причина того, что это именно так, одна — каждый из движущихся бильярдных шаров описывает достаточно сложную траекторию.Перед тем как перейти к дальнейшему, сделаем следующее замечание. При описании поведения бильярдных шаров нам несколько раз пришлось использовать слова «знаем», «не знаем». Это отступление может дать читателю некоторую идею относительно того, почему мы занялись изучением бильярда в книге, посвященной информации и интуиции.А теперь пойдем дальше. Закроем ровно половину (скажем, правую) бильярдного стола специально изготовленной крышкой. Крышка должна быть сделана так, чтобы она не оказывала никакого влияния на движение шаров, а лишь скрывала от наших глаз все, что происходит с шарами в пределах закрытой половины стола. Теперь нашему наблюдению доступна лишь левая половина бильярда. Введем понятие состояний. Будем считать, что бильярд находится в состоянии 0, если в пределах левой половины нет ни одного шара. Бильярд находится в состоянии 1, если в пределах левой половины находится один шар, в состоянии 2, если в пределах левой половины находится два шара, и т. д., в состоянии 16, если в пределах левой половины собрались все шестнадцать шаров.Заметим теперь, что состояния 0 и 16 могут быть реализованы единственным способом: когда все шары находятся справа или слева. Состояния 1 и 15 могут быть реализованы шестнадцатью различными способами: первый шар находится слева (справа), остальные в противоположной стороне, второй шар находится слева (справа), остальные… и т. д. Для подсчета числа способов, которыми могут быть реализованы состояния 2 и 14, будем рассуждать следующим образом. Имеется пятнадцать способов, в которых участвует шар номер 1, а именно: слева (справа) находятся шары с номерами 1 и 2, 1 и 3 и т. д., 1 и 16; четырнадцать способов, в которых участвует шар номер 2: это 2 и 3, 2 и 4 и т. д. … 2 и 1.6 (способ «2 и 1» уже был учтен в предыдущем случае); тринадцать способов с участием шара номер 3: это 3 и 4, 3 и 5, и т. д., всего 120 способов.Количество способов, которыми может быть реализовано каждое состояние, сведено в следующую таблицу, из которой мы видим, что наибольшим числом способов могут быть реализованы состояния 7, 8 и 9, то есть состояния, когда примерно половина шаров расположена на правой стороне бильярда, а другая половина — на левой.Состояния Кол-во способов, которыми могут быть реализованы данные состояния0 и 16 11 и 15 612 и 14 1203 и 13 5604 и 12 18205 и 11 43686 и 10 80087 и 9 114408 12870
Мы уже установили, что для каждого отдельного шара нет никаких оснований выделять преимущественную область его пребывания. С тем же успехом мы можем утверждать, что нет никаких оснований предпочесть одну какую-либо конфигурацию расположения шаров другой. А коли так, то точно так же, как мы это делали раньше, мы можем установить, что, какова бы ни была конфигурация расположения шаров, рано или поздно она реализуется, и что среднее количество времени, в течение которого на бильярдном столе имеет место данная конфигурация, одинаково для всех конфигураций.Каждый из рассмотренных выше способов представляет собой частный случай конфигурации. Следовательно, мы можем прийти к выводу, что среднее количество времени, в течение которого бильярдный стол находится в данном состоянии, пропорционально количеству способов, которыми реализуется данное состояние. Эти средние количества времени (в долях от полного времени наблюдений) сведены в таблицу. Из рассмотрения это? таблицы видно, что большую часть времени бильярдный стол проводит в состояниях 7, 8 и 9.
Состояния Среднее время в долях от полного времени наблюдений0 и 16 1,5*10-51 и 15 2,4*10-42 и 14 1,8*10-33 и 13 8,5*10-34 и 12 2,8*10-25 и 11 6,7*10-26 и 10 0,127 и 9 0,178 0,2Можно сказать и иначе. Если, бросив взгляд на бильярдный стол, мы застали его в состоянии 0 или 1 (15 или 16), у нас есть все основания ожидать, что в самом скором времени на смену этому состоянию придет какое-нибудь более часто встречающееся. Наоборот, если, случайно бросив взгляд на бильярдный стол, мы застаем его в состоянии 7, 8 или 9, у нас есть все основания считать, что еще в течение достаточно долгого времени он будет пребывать в этом состоянии. Можно сказать, что бильярдный стол стремится к состояниям 7, 8 или 9. Это верно в том смысле, что действительно на смену редко встречающимся состояниям быстро приходят часто встречающиеся состояния.Однако этим все и ограничивается. Другими словами, если уж использовать слово «стремится» (почему — будет ясно из дальнейшего), то надо хорошо отдавать себе отчет в том, что в данном контексте это слово значит лишь то, что было только что сказано. Не существует никакого специального механизма, который заставлял бы бильярдный стол стремиться к, состояниям 7, 8 или 9 в том смысле, в каком можно сказать, что стальной шарик стремится притянуться к магниту. Все зависит от того, как мы определили состояния. Именно из этого определения вытекает, что состояния 7, 8 и 9 реализуются значительно большим количеством способов, чем состояния 0 и 16.С другой стороны, состояния, определенные именно так, имеют достаточно четкий физический смысл. Например, общая масса шаров, расположенных в пределах, скажем, левой половины стола, равна массе одного шара, помноженной на номер состояния. С этой точки зрения можно также сказать, что большую часть времени бильярдный стол проводит в таком состоянии, когда масса шаров, расположенных слева, примерно равна массе шаров, расположенных справа.Мы нарочно тратим так много времени, чтобы читатель мог до конца понять и как следует прочувствовать следующее обстоятельство. Единственное реально наблюдаемое на поверхности стола физическое явление — это то, что шары двигаются, сталкиваются друг с другом и с бортами стола и вследствие этого описывают весьма сложные траектории. Все остальное есть лишь различные способы описания этого обстоятельства и, возможно, различные его следствия. Обнаруженные нами закономерности выполняются тем строже, чем больше шаров. Например, для пятидесяти шаров среднее количество времени, в течение которого стол будет находиться в одном из «средних» состояний, окажется уже равным 0,8, а для ста шаров —- равным 0,94.