В XIX веке изучали лишь наиболее простые, замкнутые системы, не обменивающиеся с внешней средой ни веществом, ни энергией; при этом в центре внимания находилась конечная стадия термодинамических процессов, когда система пребывает в состоянии, близком к равновесию. Тогдашняя термодинамика была равновесной термодинамикой. Именно равновесные состояния (в разреженном газе) изучал Больцман, с чем и была связана постигшая его творческая неудача: горячо восприняв идею эволюции (хорошо известна его оценка: «Девятнадцатый век — это век Дарвина»), он потратил массу сил и времени на то, чтобы дать дарвинизму строгое физическое обоснование — но так и не сумел этого сделать [10]. Более того, введенный им принцип порядка налагает прямой запрет на возникновение организованных (и потому менее вероятных) структур из неорганизованных — т. е. на прогрессивную эволюцию. На неравновесные же процессы в то время смотрели как на исключения, второстепенные детали, не заслуживающие специального изучения.
Ныне ситуация коренным образом изменилась, и как раз замкнутые системы теперь рассматривают как сравнительно редкие исключения из правила. При этом было установлено, что в тех открытых системах, что находятся в сильно неравновесных условиях, могут спонтанно возникать такие типы структур, которые способны к самоорганизации, т. е. к переходу от беспорядка, «теплового хаоса», к упорядоченным состояниям. Создатель новой, неравновесной термодинамики Пригожин назвал эти структуры диссипативными — стремясь подчеркнуть парадокс: процесс диссипации (т. е. безвозвратных потерь энергии) играет в их возникновении конструктивную роль. Особое значение в этих процессах имеют флуктуации — случайные отклонения некой величины, характеризующей систему из большого числа единиц, от ее среднего значения (одна из книг Пригожина так и называется — «Самоорганизация в неравновесных системах. От диссипативных структур к упорядочению через флуктуации»).
Одним из простейших случаев такой спонтанной самоорганизации является так называемая неустойчивость Бенара. Если мы будем постепенно нагревать снизу не слишком толстый слой вязкой жидкости, то до определенного момента отвод тепла от нижнего слоя жидкости к верхнему обеспечивается одной лишь теплопроводностью, без конвекции. Однако когда разница температур нижнего и верхнего слоев достигает некоторого порогового значения, система выходит из равновесия и происходит поразительная вещь. В нашей жидкости возникает конвекция, при которой ансамбли из миллионов молекул внезапно, как по команде, приходят в согласованное движение, образуя конвективные ячейки в форме правильных шестиугольников. Это означает, что большинство молекул начинают двигаться с почти одинаковыми скоростями, что противоречит и положениям молекулярно-кинетической теории, и принципу порядка Больцмана из классической термодинамики. Если в классической термодинамике тепловой поток считается источником потерь (диссипации), то в ячейках Бенара он становится источником порядка. Пригожин характеризует возникшую ситуацию как гигантскую флуктуацию, стабилизируемую путем обмена энергией с внешним миром.