「 编者按 」
一部部科学经典著作，犹如人类文明史上璀璨的里程碑，奠定了现代科学基石，铺就了人类进步的阶梯。为让更多读者感受科学魅力，北京市科学技术协会推出“科学阶梯”专栏，对科学经典著作进行深入诠释。
本期我们带来的是 《热力学史——能量与熵的学说》 ，让我们一起探索物理学中最具争议的概念——熵。
整整200年前，一位法国工程师提出了一个想法，可以量化宇宙不可阻挡地滑向衰变的过程。但正如目前所理解的那样，熵与其说是关于世界的事实，不如说是我们日益无知的反映。接受这一事实会导致人们重新思考从理性决策到机器极限的一切。
图片来源：Kristina Armitage/Quanta Magazine
生命是一本关于破坏的文集， 你构建的一切最终都会崩溃。任何秩序或稳定感都不可避免地湮灭，整个宇宙都沿着一段惨淡的跋涉走向一种沉闷的终极动荡状态。
为了跟踪这种宇宙衰变，物理学家使用了一种称为熵的概念。熵是无序性的度量标准，而熵总是在上升的宣言——被称为 热力学第二定律 ——是自然界最不可避免的宿命之一。
长期以来，我一直被这种普遍的混乱倾向所困扰。秩序是脆弱的。制作一个花瓶需要艺术性和几个月的精心策划，但用足球破坏它只需要一瞬间。我们一生都在努力理解一个混乱和不可预测的世界，在这个世界里，任何建立控制的尝试似乎都只会适得其反。 热力学第二定律断言机器永远不可能达到完美效率 ，这意味着无论宇宙中结构何时涌现，它最终都只会进一步耗散能量——无论是最终爆炸的恒星，还是将食物转化为热量的生物体。尽管我们的意图是好的，但我们是熵的代理人。
熵的增长与我们最基本的经历深深交织在一起，解释了为什么时间向前发展，以及为什么世界看起来是确定性的，而不是量子力学上的不确定性。
尽管具有根本的重要性， 熵却可能是物理学中最具争议的概念 。这种困惑，部分源于这个词在学科之间“辗转反侧”的方式——从物理学到信息论再到生态学，它在各个领域都有相似但不同的含义，但这也正是为何，要真正理解熵，就需要实现一些令人深感不适的哲学飞跃。
在过去的一个世纪里，随着物理学家努力将迥异的领域整合起来，他们用新的视角看待熵——将显微镜重新对准先知，将无序的概念转变为无知的概念。 熵不被视为系统固有的属性，而是相对于与该系统交互的观察者的属性。 这种现代观点阐明了信息和能量之间的深层联系，正在帮助引领最小尺度上一场微型工业革命。
在熵的种子被首次播下200年后，关于这个量的理解从一种虚无主义转为机会主义。 观念上的进化正在颠覆旧的思维方式 ，不仅仅是关于熵，还是关于科学的目的和我们在宇宙中的角色。
火的原动力
17岁的萨迪·卡诺（Sadi Carnot） 图片来源：Louis-Léopold Boilly
熵的概念源于工业革命期间对双面印刷机的尝试。一位名叫 萨迪·卡诺 （Sadi Carnot） 的28岁法国军事工程师着手计算蒸汽动力发动机的最终效率。1824年，他出版了一本118页的书，标题为 《对火的原动力的反思》 ，他在塞纳河畔以3法郎的价格出售。卡诺的书在很大程度上被科学界所忽视，几年后他死于霍乱。他的尸体被烧毁，他的许多文件也被烧毁了，但他的书的一些副本留存了下来，其中藏着一门新科学“热力学”的余烬——火的原动力。
卡诺意识到，蒸汽机的核心是一台利用热量从热物体流向冷物体的趋势的机器。他描绘了可以想象到的最高效的发动机，对可以转化为功的热量比例建构了一个界限，这个结果现在被称为 卡诺定理 。他最重要的声明是这本书最后一页的警告： “我们不应该期望在实践中利用可燃物的所有动力”。 一些能量总是会通过摩擦、振动或其他不需要的运动形式来耗散。完美是无法实现的。
几十年后，也就是1865年， 德国物理学家鲁道夫·克劳修斯 （Rudolf Clausius） 通读了卡诺的书，他创造了一个术语，用于描述被锁在能量中无法利用的比例。他称之为 “熵”（entropy），以希腊语中的转换一词命名。然后，他提出了后来被称为 热力学第二定律 的东西：“ 宇宙的熵趋于最大 ”。
那个时代的物理学家错误地认为热是一种流体，称为“热质” （caloric） 。在接下来的几十年里，他们意识到热量是单个分子碰撞的副产品。这种视角的转变使奥地利物理学家 路德维希·玻尔兹曼 （Ludwig Boltzmann） 能够使用概率重新构建并深化熵的概念。
鲁道夫·克劳修斯（Rudolf Clausius，左）提出了熵趋于增加的见解。路德维希·玻尔兹曼 （Ludwig Boltzmann） 将其根因归于统计力学 图片来源：Theo Schafgans/Creative Commons
玻尔兹曼将分子的 微观特性 （例如它们的各自位置和速度）与气体的 宏观特性 （如温度和压力）区分开来。考虑一下，不是气体，而是棋盘上的一组相同的游戏棋子。所有棋子的精确坐标列表就是玻尔兹曼所说的“微观状态”，而它们的整体配置——比如说，无论它们形成一个星形，还是全部聚集在一起——都是一个“宏观态”。玻尔兹曼根据产生给定宏观状态的可能微观状态的数量，来定义该宏观状态的熵。高熵宏观状态是具有许多相容的微观状态的宏观状态——许多可能的棋盘格排列，产生相同的整体模式。
棋子可以呈现看起来有序的特定形状的方式只有这么多，而它们看起来随机散布在棋盘上的方式要多得多。因此， 熵可以被视为无序的度量。 第二定律变成了一个直观的概率陈述：让某物看起来混乱的方式比干净的方式更多，因此，当系统的各个部分随机地在不同可能的配置之间切换时，它们往往会呈现出看起来越来越凌乱的排列。
卡诺发动机中的热量从热流向冷，是因为气体颗粒更有可能全部混合在一起，而不是按速度分离——一侧是快速移动的热颗粒，另一侧则是移动缓慢的冷颗粒。同样的道理也适用于玻璃碎裂、冰融化、液体混合和树叶腐烂分解。事实上，系统从低熵状态移动到高熵状态的自然趋势似乎是唯一可靠地赋予宇宙一致时间方向的东西。 熵为那些本可以反向发生的进程刻下了时间箭头。
熵的概念最终将远远超出热力学的范围。艾克斯-马赛大学的物理学家卡洛·罗维利 （Carlo Rovelli） 说， “当卡诺写他的论文时……我认为没有人想象过它会带来什么”。
扩展熵
熵在第二次世界大战期间经历了重生。美国数学家克劳德·香农（Claude Shannon）正在努力加密通信通道，包括连接富兰克林·罗斯福（Franklin D. Roosevelt）和温斯顿·丘吉尔（Winston Churchill）的通信通道。那次经历使他在接下来的几年里深入思考了通信的基本原理。香农试图测量消息中包含的信息量。他以一种迂回的方式做到这一点， 将知识视为不确定性的减少。
克劳德·香农将熵理解为不确定性 图片来源：Estate of Francis Bello; Science Source
乍一看，香农想出的方程式与蒸汽机无关。给定信息中的一组可能字符，香农公式将接下来出现哪个字符的不确定性定义为每个字符出现的概率之和乘以该概率的对数。但是， 如果任何字符的概率相等，则香农公式会得到简化，并变得与玻尔兹曼的熵公式完全相同。 据说物理学家约翰·冯·诺伊曼（John von Neumann）敦促香农将他的量称为“熵”——部分原因是它与玻尔兹曼的量非常一致，也因为“没有人知道熵到底是什么，所以在辩论中你总是占优势”。
正如热力学熵描述发动机的效率一样，信息熵捕捉到通信的效率。它与弄清楚消息内容所需的是或否问题的数量相对应。高熵消息是无模式的消息；由于无法猜测下一个角色，这条信息需要许多问题才能完全揭示。具有大量模式的消息包含的信息较少，并且更容易被猜到。
香农熵如何对通信施加基本限制 图片来源：Kristina Armitage/Quanta Magazine
在1957年的两篇具有里程碑意义的论文中，美国物理学家杰恩斯 （E. T. Jaynes） 通过信息论的视角来观察热力学，巩固了这一联系。他认为热力学是一门从粒子的不完整测量中做出统计推断的科学。杰恩斯提议，当知道有关系统的部分信息时，我们应该为与这些已知约束相容的每个配置分配相等的可能性。他的 “最大熵原理” 为对任何有限数据集进行预测提供了偏差最小的方法，现在应用于从统计力学到机器学习和生态学的任何地方。
因此， 不同背景下发展起来的熵的概念巧妙地结合在一起。 熵的增加对应于有关微观细节的信息的损失。例如，在统计力学中，当盒子中的粒子混合在一起，我们失去了它们的位置和动量时，“吉布斯熵”会增加。在量子力学中，当粒子与环境纠缠在一起，从而扰乱它们的量子态时，“冯·诺伊曼熵”就会增加。当物质落入黑洞，有关它的信息丢失到外部世界时，“贝肯斯坦-霍金熵”就会增加。
熵始终衡量的是无知 ：缺乏关于粒子运动、一串代码中的下一个数字或量子系统的确切状态的知识。然而，这种对熵的统一理解引发了一个令人不安的担忧：我们在谈论谁的无知？
图片来源：Jonas Parnow and Mark Belan/Quanta Magazine
一点主观性
作为意大利北部的一名物理学本科生，卡洛·罗维利从他的教授那里了解了熵和无序的增长。有些事情不对劲。他回到家，在一个罐子里装满油和水，看着液体在他摇晃时分离——这似乎与所描述的第二定律背道而驰。“他们告诉我的东西都是胡说八道，”他回忆起当时的想法。“很明显，教学方式有问题。”
卡洛·罗维利的经历抓住了熵如此令人困惑的一个关键原因。在很多情况下，秩序似乎会增加，从孩子打扫卧室到冰箱给火鸡降温。
卡洛·罗维利明白，他对第二定律的表面胜利不过是海市蜃楼。具有强大热视觉能力的超人观察者会看到油和水的分离如何向分子释放动能，从而留下更加热无序的状态。“真正发生的事情是， 宏观秩序的形成是以微观无序为代价的 ，”卡洛·罗维利说。第二定律始终成立，有时只是看不见。
杰恩斯在解决乔赛亚·威拉德·吉布斯提出的一个悖论时，阐明了熵的主观性质 图片来源：Creative Commons; The Scientific Papers of J. Willard Gibbs
杰恩斯也帮助澄清了这个问题。为此，他借助乔赛亚·威拉德·吉布斯（Josiah Willard Gibbs）于1875年首次提出的一个思想实验，该实验后来被称为 吉布斯混合悖论 。
假设在一个盒子里有两种气体A和B，由分隔器隔开。当你抬起分隔器时，第二定律要求气体扩散并混合，从而增加熵。但是，如果A和B是相同的气体，保持相同的压力和温度，那么抬起分流器不会改变熵，因为粒子已经最大限度地混合了。
问题是：如果A和B是不同的气体，但你无法区分它们，会发生什么情况？
在吉布斯提出这个悖论一个多世纪后， 杰恩斯提出了解决方法 （他坚称吉布斯已经理解了，但未能清楚地表达出来）。想象一下，盒子里的气体是两种不同类型的氩气，它们相同，只是其中一种可溶于一种称为whifnium的尚未发现的元素中。在发现whifnium之前，没有办法区分这两种气体，因此抬起分流器不会引发明显的熵变化。然而，在whifnium被发现后，一位聪明的科学家可以使用它来区分两种氩物种，计算出熵随着两种类型的混合而增加。此外，科学家可以设计一种基于whifnium的活塞，利用以前无法从气体的自然混合中获得的能量。
杰恩斯明确指出， 系统的“有序性” ——以及从中提取有用能量的潜力—— 取决于代理人的相对知识和资源 。如果实验者无法区分气体A和B，那么它们实际上是相同的气体。一旦科学家们有办法区分它们，他们就可以通过开发气体混合的趋势来利用功。熵不取决于气体之间的差异，而是取决于它们的可区分性。
物理学家卡洛·罗维利（Carlo Rovelli）长期以来一直强调物理学中量（包括熵）对观察者的依赖性 图片来源：Christopher Wahl
“ 我们可以从任何系统中提取的有用功，显然也必然取决于我们拥有多少关于其微观状态的'主观'信息， ”杰恩斯写道。
吉布斯悖论强调需要将熵视为一种观察属性，而不是系统固有的属性。然而，熵的主观视图是难以被物理学家接受的。正如科学哲学家肯尼斯·登比（Kenneth Denbigh）1985 年在书中写道，“这样的观点，如果它是有效的， 将产生一些深刻的哲学问题 ，并往往会破坏科学事业的客观性。”
接受熵的这个有条件的定义需要重新思考科学的根本目的。这意味着物理学比某些客观现实更准确地描述了个人经验。通过这种方式，熵被卷入了一个更大的趋势，即 科学家们意识到许多物理量只有在与观察者有关时才有意义 （甚至时间本身也被爱因斯坦的相对论所重新渲染）。“物理学家不喜欢主观性——他们对它过敏，”加州大学圣克鲁斯分校的物理学家安东尼·阿吉雷 （Anthony Aguirre） 说，“但没有绝对的——这一直都是一种幻觉。”
图片来源：Jonas Parnow and Mark Belan/Quanta Magazine
现在人们已经接受了这种认知， 一些物理学家正在探索将主观性融入熵的数学定义的方法。
安东尼·阿吉雷和合作者设计了一种新度量，称之为 观测熵 （observational entropy）。它提供了一种方法，通过调整这些属性如何模糊或粗粒度化观察者对现实的看法，来指定观察者可以访问哪些属性。然后，它为与这些观察到的特性相容的所有微观状态赋予相等的概率，就像杰恩斯所提出的那样。该方程将热力学熵（描述广泛的宏观特征）和信息熵（捕获微观细节）连接起来。“ 这种粗粒化的、部分主观的观点是我们有意义的与现实互动的方式， ”安东尼·阿吉雷说。
许多独立团体使用安东尼·阿吉雷的公式来寻求第二定律更严格的证明。就安东尼·阿吉雷而言，他希望用他的度量来解释为什么宇宙一开始是低熵状态（以及为什么时间向前流动）并更清楚地了解黑洞中熵的含义。“ 观测熵框架提供了更清晰的信息， ”巴塞罗那自治大学的物理学家菲利普·斯特拉斯伯格 （Philipp Strasberg） 说，他最近将其纳入了不同微观熵定义的比较。“它真正将玻尔兹曼和冯·诺伊曼的思想与当今人们的工作联系起来。”
安东尼·阿吉雷（Anthony Aguirre）定义了一个他称之为观测熵的量，其他研究人员认为这很清楚 图片来源：Lisa Tse for FQxl
与此同时，量子信息理论家采取了不同的方法处理主观性。他们将信息视为一种资源，观察者可以使用它来跟日益与环境融合在一起的系统进行交互。 对于一台可以跟踪宇宙中每个粒子的确切状态的具有无限能力的超级计算机来说，熵将始终保持不变——因为不会丢失任何信息——时间将停止流动。 但是，像我们这样拥有有限计算资源的观察者总是不得不与粗略的现实图景作斗争。我们无法跟踪房间内所有空气分子的运动，因此我们以温度和压力的形式取平均值。随着系统演变成更可能的状态，我们逐渐失去了对微观细节的跟踪，而这种持续的趋势随着时间的流逝而成为现实。“物理学的时间，归根结底，是我们对世界无知的表现，”罗维利写道。 无知构成了我们的现实。
“外面有一个宇宙，每个观察者都带着一个宇宙——他们对世界的理解和模型，”安东尼·阿吉雷说。熵提供了我们内部模型中缺点的度量。他说，“这些模型使我们能够做出良好的预测，并在一个经常充满敌意但总是困难的物理世界中明智地采取行动。”
拥抱不确定性
2024年9月，几百名研究人员聚集在法国帕莱佐，为纪念卡诺其著作出版200周年而举行的会议上。来自各个学科的参与者讨论了熵在各自研究领域中的应用，从太阳能电池到黑洞。在欢迎辞中，法国国家科学研究中心的一位主任代表她的国家向卡诺道歉，承认忽视了卡诺工作的重要影响。当天晚上，研究人员们在一个奢华的金色餐厅集合，聆听了一首由卡诺的父亲创作、由一支四重奏演奏的交响乐，其中包括这位作曲家的远亲后代。
卡诺的深远见解源于试图对时钟般精确的世界施加极致控制的努力，这曾是理性时代的圣杯。但随着熵的概念在自然科学中逐渐扩展，它的意义发生了变化。 熵的精细理解抛弃了对完全效率和完美预测的虚妄梦想，反而承认了世界中不可减少的不确定性。 “在某种程度上，我们正朝着几个方向远离启蒙时期，” 罗维利说， 远离决定论和绝对主义，转向不确定性和主观性。
我们无法避免地推动宇宙走向终极无序的命运。但我们对熵的精细理解让我们对未来有了更为积极的展望。走向混乱的趋势是驱动所有机器运作的动力。虽然有用能量的衰减限制了我们的能力，但有时候换个角度可以揭示隐藏在混沌中的秩序储备。此外， 一个无序的宇宙正是充满了更多的可能性 。我们不能规避不确定性，但我们可以学会管理它——甚至或许能拥抱它。毕竟，正是无知激励我们去追求知识并构建关于我们经验的故事。换句话说， 熵正是让我们成为人类的原因。
你可以对无法避免的秩序崩溃感到悲叹，或者你可以将不确定性视为学习、感知、推理、做出更好选择的机会，并利用你身上蕴藏的动力。
科学经典推荐
《热力学史——能量与熵的学说》
热力学或热物理是物理学中至关重要的基础学科之一，对当代科学和技术乃至人类日常生活都有着极为重要的影响。
德国著名的理论物理学家因戈·穆勒教授撰写的《热力学史——能量与熵的学说》一书，是一部讲述热和功等基本概念、重要历史人物、热力学理论与技术发展历程的优秀专著。
穆勒在正文中力求以最少的数学演算得到相应的物理图像；对于必须大量推导的情况，采用了插注的形式进行单独表述。这样安排可以使不熟悉相关数学工具的读者也能迅速了解热力学领域令人兴奋的概念和多姿多彩的人物故事。
来源：“清熙”公众号
撰文：Zack Savitsky
翻译：王庆法