物理 · Physics

信息的物理

Day 9 · 2026 · Phase B 热、熵与统计力学
一个比特不是抽象的 0 或 1——它占空间、要能量、会发热。信息不是飘在世界之上的幽灵,它彻底是物理的。
一百五十年前,麦克斯韦设想了一个"小妖":它守在两间气室的门口,只放快分子往一边跑、慢分子往另一边跑,就能凭空把一杯温水分成一半热、一半冷——不花一点功,却让熵减少。这直接踩了第二定律的脸。物理学花了一个世纪才抓住这个妖的破绽,而破绽的名字,正是信息。答案深得惊人:妖要分拣,就必须知道每个分子快不快——它得测量、得记住。而记忆是有限的,早晚要擦除;擦除一个比特,必然向环境吐出至少一份热。信息与热力学在这里合二为一,也第一次给"计算"划出了一条谁都绕不过的能量底线——那条线,正压在今天 AI 能耗问题的最深处。

麦克斯韦妖:信息能换来免费的功吗 Maxwell's Demon

麦克斯韦 · 1867
直觉 想象一个盒子被隔成左右两间,中间一道小门,门上坐着一个眼尖手快的"小妖"。盒里的气体分子有快有慢(快=热、慢=冷)。妖盯着飞来的分子:看到快的从左飞来,就开门放它去右边;看到慢的从右飞来,就放它去左边。门开合几乎不费力。渐渐地,右边聚满快分子(变热)、左边聚满慢分子(变冷)——一杯本来温吞吞的均匀气体,自己分成了冷热两半。可这正是热量从"没有温差"里凭空造出温差,等于让熵减少了。你甚至能用这个温差去驱动一台热机做功——一台不花燃料的永动机。哪里出错了?
机制 麦克斯韦 1867 年提这个思想实验,本意就是要说明:第二定律不是铁打的力学定理,而是一条统计规律——对大量分子成立,对会"作弊"的单分子操作未必成立。1929 年西拉德(Szilard)把妖榨到只剩骨架:设想盒里只有一个分子,妖只需知道它此刻在左半还是右半——这就是一个比特的信息。凭这一个比特,妖插入活塞、让分子推动它,就能从环境热库里提取出一份功:
W = kT ln2
W 是提取到的功;k 是玻尔兹曼常数(把温度折成能量的"汇率",约 1.38×10⁻²³ 焦/开);T 是温度;ln2 是 2 的自然对数(约 0.69),来自"左/右"这两种可能。这行式子第一次把一个比特的信息和一份确切的能量钉在了一起:知道分子在哪,值 kT ln2 的功。
反直觉的重点 很多人以为妖的破绽在"开门要花力气"。不是。门可以做得任意轻、开合任意省功——这条路堵不死妖。真正的破绽藏在一个几乎没人注意的动作里:妖要分拣,就必须先知道分子快不快、在左还是在右。它得测量,还得把结果记住。妖不是一个纯机械装置,它是一个会获取信息、有记忆的装置。账,最终要算在这份记忆头上——而不是那扇门。
一句话:妖没在偷功,它在偷信息——问题是,信息真的免费吗?
思考:如果妖的记忆是无限大的,它是不是就能永远作弊下去?"无限记忆"这个假设,藏着什么猫腻?
猫腻在「无限记忆」物理上不存在,而且不擦除只是把账赊着。妖每次测量都往记忆写信息,有限记忆迟早写满、必须擦除,而擦除按兰道尔要付 kT ln2 的熵——账最终结平,第二定律不破。「无限记忆」等于偷偷假设一个能无限承接熵的存储库,作弊前提本身就不成立。

兰道尔原理:擦掉一个比特的最低代价 Landauer's Principle

兰道尔 · 1961
直觉 把逻辑运算分成两类。有些是可逆的:比如把一个比特取反(0↔1),你事后总能从结果倒推回输入,没丢任何信息。另一些是不可逆的——最典型的就是擦除:不管这个比特原来是 0 还是 1,擦除后它一律变成 0。两个不同的输入(0 和 1)挤进了同一个输出(0)——倒推回去时,你分不清它原来是谁了,一个比特的信息永远丢失了。兰道尔 1961 年的洞见是:正是这种"信息丢失",逼出了物理代价。
机制 想象比特存在一个"双井"里:左井=0,右井=1,中间隔着能垒。擦除意味着不管小球原来在哪个井,都把它赶进 0 井。原来有 2 种可能(左或右),擦除后只剩 1 种——这个存储子系统的相态数被压缩了一半,它的熵下降了 k ln2。但第二定律不许总熵下降:这份被挤出去的熵,必须以的形式吐给环境。于是有了兰道尔极限——擦除一个比特,至少向环境放出:
QkT ln2
Q 是必然散出的热量。室温(T≈300 开)下这个数是 ≈ 2.9×10⁻²¹ 焦——约 0.018 电子伏特,小得惊人,却严格大于 0(数字零)。关键在那个不等号:这不是"目前工艺做不到更省",而是物理原理钉死的地板,再精巧的技术也不可能擦得比它更便宜。
注意代价挂在擦除(逻辑不可逆)上,不在"计算"本身。可逆的运算,原则上一分钱能量都不必花——这正是下一张卡要用来给妖判死刑的钥匙。
擦除前:0 或 1(2 种可能) 0 1 擦除 擦除后:一律是 0(1 种可能) 0 ↯ 向环境放热 ≥ kT ln2 熵 kln2 被挤出,只能变成热
擦除把两种可能的输入压进唯一的输出——信息丢失的这一步,逼着系统向环境吐出至少 kT ln2 的热。这是任何计算机都逃不掉的物理地板。
反直觉的重点 一个纯逻辑的动作("把变量清零")竟然有一个热力学价格,而且这个价格与你用什么材料、什么电路无关——晶体管、齿轮、DNA、神经元,只要它做了"多对一"的擦除,就得付这笔 kT ln2。这是"信息就是物理"最锋利的一刀:抽象的逻辑操作,被物理定律标了价。信息不再是飘在硬件之上的幽灵,它有质量般的实在——占空间、耗能量、遵守热力学。
一句话:算不花钱,忘才花钱——擦掉一个比特,至少赔上 kT ln2 的热。
思考:为什么"取反"(0↔1)可以免费,"清零"(都变 0)却要收费?两者对信息做了什么根本不同的事?
取反是一一映射(可逆):信息量没减、随时能反推回去,原理上零耗散。清零是多对一(不可逆):把 0 和 1 都压成 0,抹掉了「它原来是谁」,逻辑信息减少——而信息不会凭空消失,它以至少 kT ln2 的热被排进环境。收费的不是改状态,而是不可逆地丢信息。

妖之死:账原来算在记忆上 Exorcising the Demon

贝内特 · 1982 · 信息即物理
直觉 现在回去收拾麦克斯韦妖。妖靠一个比特的信息(分子在左还是右)提取了 kT ln2 的功——账面上像是白赚。但别忘了:这个比特现在记在妖的脑子里。妖要接着干下一个分子,就得腾出记忆——把上一次的结果擦掉。而擦除,按兰道尔原理,恰好要付出 kT ln2 的热。赚的和赔的分毫不差地抵消。妖忙活一圈,净收益是 0(数字零)。第二定律,一分钱都没被偷走。
机制 这个了断由贝内特(Charles Bennett)在 1982 年给出,接棒的是这样一条链子:测量本身可以做到可逆、不耗能(兰道尔与贝内特证明了可逆计算在原理上零能耗);提取功也没问题。唯一无法回避的耗散,是妖为了循环工作而必须清空记忆的那一步。换句话说,早年大家以为代价在"测量",其实错了——真正收费的是遗忘
赚: kT ln2   赔(擦记忆): kT ln2   ⟹   净 = 0
妖每提取一份功,就欠下一个"待擦的比特";等它把这个比特擦掉以完成循环,欠的债连本带利还清。第二定律不是被违反,而是被信息这条隐藏的账目救了回来
为什么重要 这场跨越一个世纪的破案,结论只有一句:信息是物理的(information is physical,兰道尔的名言)。一个比特不是数学抽象,它一定承载在某个物理系统的状态上——占据空间、携带能量、参与熵账。麦克斯韦妖之所以能被降服,正因为我们终于承认:妖脑中的"知识"和气室里的"热",是同一本热力学总账上的两笔,可以相互兑换、必须一起结算。前面「熵与时间之箭」把熵讲成"无序",这一期它露出了另一张脸——熵就是你缺失的信息;两张脸,同一个 k ln
跨学科对读 · 生物 / 工程 / 计算理论 "信息与能量可兑换"这条兑换率,不止困住了一个思想实验里的妖:
  • 生物:细胞里的分子马达(如驱动蛋白沿微管"走路")、离子泵、乃至 DNA 的纠错复制,都被论证为真实存在的麦克斯韦妖——它们靠读取分子信息来整流布朗运动,代价照样是消耗自由能(水解 ATP),一分不少。
  • 工程可逆计算是一个真领域——用不擦除信息的逻辑门(如 Toffoli 门),原则上能把每步能耗压到兰道尔极限以下,为超低功耗芯片指路(量子计算天然可逆,也吃这套逻辑)。
  • 计算理论:把"信息=物理熵"反过来用,就得到用统计力学分析算法能耗、把学习看成"压缩信息"的整套视角——熵、信息、能量本是一体三面。
凡是"用信息去驯服随机"的地方,兰道尔的收费站都立在那里。
一句话:妖没输在测量,输在遗忘——清空记忆的那一刻,它把偷来的功如数还清。
思考:如果一个装置只记录、从不擦除,它能不能真的违反第二定律?它又能撑多久?(提示:宇宙里的存储空间够不够它用到永远?)
短期像在违反,长期不能。只记不擦=把熵暂存进存储器而非排掉,总熵账没赖掉、只是挂在「记忆」名下。它能撑到存储空间用完为止——而宇宙里可用的存储(物质、能量)有限,迟早写满,届时要么停机、要么擦除付费。第二定律没被违反,只是被延期。

计算的热力学地板:AI 能耗的终极底线 The Thermodynamic Limit of Computation

兰道尔极限 · 计算的物理
直觉 兰道尔原理不只是给妖判案,它给一切计算机划了一条能量地板:每擦除一个比特,最少 kT ln2 的热必须散掉。现代芯片离这条地板有多远?远得可怕。一次晶体管开关的实际耗能,大约是兰道尔极限的一万到十万倍。也就是说,物理上还有四到五个数量级的省电空间——但也意味着,无论工艺怎么进步,这条地板永远踩不穿:一台每秒擦万亿亿比特的机器,光是"遗忘"就注定要发一份下不去的热。
机制 把地板换算成直觉:室温下擦一个比特 ≈ 2.9×10⁻²¹ 焦。听着微不足道,但乘上今天数据中心每秒的运算量,兰道尔极限对应的理论最低功耗就成了一个能拿来跟真实电表对比的数。真实世界里,训练一个大模型耗电以兆瓦时计,其中绝大部分并非花在这条物理地板上,而是耗在远高于地板的工程损耗(漏电流、驱动、散热、数据搬运)里。
这给出一个清醒的双结论:其一,AI 的能耗瓶颈目前不是物理定律,而是工程——离兰道尔地板还有上万倍余量,省电空间巨大。其二,地板确实存在:可逆计算能逼近它却不能穿过它,除非计算过程永不擦除信息(那又要求无限大的存储)。物理学既给了希望,也钉死了极限。
反直觉的重点 人脑约 20 瓦就跑完了今天超算望尘莫及的认知,能效比顶级芯片高出许多个数量级——它离兰道尔地板近得多。这暗示:低功耗智能在物理上完全允许,我们只是还没学会怎么造。当有人说"AI 的耗电是不可逾越的墙",物理学的回答是冷静的:真正不可逾越的那堵墙(兰道尔地板)还在极远处,我们撞上的不过是自己工艺的临时天花板。把哪些计算做成可逆、少擦除,才是逼近物理极限的正道。
一句话:AI 的能耗天花板不是物理定律,而是工程——真正的物理地板还在一万倍之下。
思考:如果一台计算机能把绝大多数运算做成"可逆、不擦除",它是不是就能几乎零能耗地思考?这样的机器,代价会转嫁到哪里去?
原理上可逆计算能把每步耗散压到远低于 kT ln2、接近零能耗。但代价转嫁到别处:可逆要保留全部中间信息→存储与体积暴涨;要读出有用结果、丢掉垃圾比特,终究得擦除、付兰道尔的账;还得跑得极慢(近平衡才低耗散)。省了能耗,付出的是时间、空间与最终一次不可免的清账。

深入思考

熵到底是"客观的无序",还是"我缺失的信息"?这一期让它们撞在了一起。
两个看似不同的熵,在兰道尔这里被证明是同一个量。热力学熵 S=k lnW 数的是微观态数目;香农信息熵数的是"你不知道的比特数"。麦克斯韦妖的了断只有承认"擦一个比特=丢一份物理熵 k ln2"才成立——这就把两者钉成了一枚硬币的两面,中间的兑换率正是玻尔兹曼常数 k。统计力学一期里 Jaynes 的最大熵视角早埋了这条线:熵度量的是"给定宏观约束下你最诚实的无知"。到这里它彻底点燃——无序与无知,本是同一件事
可逆计算真能零能耗吗?那为什么我的电脑还是烫的?
原理上,只要不擦除信息,计算就不欠热力学的债——用 Toffoli、Fredkin 这类可逆逻辑门(输入输出一一对应,随时能倒推),每步能耗可无限逼近 0。你电脑烫,是因为它时时刻刻在擦:每次改写寄存器、清缓存、丢弃中间结果,都在做兰道尔要收费的"多对一"操作,而且实际耗能还比地板高上万倍(漏电、驱动损耗)。可逆计算的代价是别处的:要么保留所有中间垃圾(吃存储),要么"反计算"把它们可逆地清掉(吃时间)。能量、空间、时间——三者之间在做交易,没有真正的免费午餐。
为什么恰恰是 ln2,而不是别的数?这个"2"从哪来?
那个 2 就是一个比特的两种可能:0 或 1、左或右。擦除把 2 种等可能状态压成 1 种,可及状态数从 W=2 降到 W=1,熵变 ΔS = k ln1 − k ln2 = −k ln2。若擦的是一个能存 d 种状态的存储单元(比如一个八进制位,d=8),代价就是 kT lnd。ln 里装的永远是"你消灭掉的可能性数目"。这也解释了信息为什么按 log 计:把可能性数目变成可加的比特,正需要取对数——这条 log 从熵 S=k lnW 一路贯穿到香农信息,同一根骨架。
真有人在实验室里"看见"兰道尔极限了吗,还是纯理论?
看见了。2012 年,一个法国小组用光镊把单个胶体微粒困在一个可调的"双井"里,当成一个物理比特,实测擦除它耗散的热逼近 kT ln2,漂亮地证实了兰道尔原理(Nature 2012)。后来在纳米磁体、单电子器件、乃至量子系统里都做了验证。这条 1961 年的原理,从纸面走成了可测的实验事实——"信息是物理的"不再是口号,而是能用温度计读出来的数字
宇宙本身能存多少信息、能算多少次?信息有终极上限吗?
有,而且深得吓人。把兰道尔、量子力学和引力凑到一起,会得到惊人的极限:一个区域能容纳的最大信息量,正比于它的表面积(不是体积!)——这就是贝肯斯坦上限与全息原理的种子,黑洞的熵正好等于其视界面积(以普朗克面积为单位)除以 4。塞进太多信息,物体会塌成黑洞。Seth Lloyd 甚至估算过"整个宇宙作为一台计算机"至今能执行的运算次数(约 10¹²⁰ 次)。这些线索把信息抬到了和空间、时间、引力同级的基本地位——后面「黑洞与引力波」一期的信息悖论,正是从这里烧起来的。

延伸阅读