熵不是混乱,而是选择变少
“房间越来越乱,所以熵增加了。”这个说法很直观,但它把熵窄化成了视觉上的混乱。
熵是数出来的
在统计物理里,熵和微观状态数有关:
一个宏观状态可以由许多不同的微观排列实现,Ω 越大,熵越高。气体分子均匀充满盒子,并不是因为它们“喜欢乱”,而是因为均匀分布对应的微观排列远多于挤在一角的排列。
时间箭头
这也是为什么打碎的杯子不会自己复原:不是绝对不可能,而是复原对应的微观状态太少。熵增描述的是概率上的压倒性,不是每时每刻的禁令。
信息里的熵
香农熵借用了类似的思想:一个消息越难预测,信息量越大。高度可预测的文本熵低,随机字符串熵高。这里的“熵”不再是温度或热量,而是不确定性。
同一个词在物理和信息论里指不同的量,但共享一个核心:可能性越多,熵越大。理解这一点,比记住“熵等于混乱”有用得多。


评论
登录后可以评论,也可以回复某条评论。
还没有评论
说说你的看法,或者指出文中没有说清的地方。