[S02] 052 熵

一、正确理解熵

1、封闭系统内的熵不会减少，这一条被称作热力学第二定律，物理学中的基本定律里它是唯一一个有时间箭头的定律，其他物理定律在时间上是可逆的，它的不可逆是从实测和实验中总结出来的。

2、我们可以用状态数描述熵，熵=kln（状态数），其中k为玻尔兹曼常数，之所以不直接用状态数量而是取一个自然对数，是为了方便处理状态数加和时的计算。

3、“屋子不会自己变整洁”意味着脏东西会趋向于分布在屋子里每个位置，把状态数尽量扩大，而整洁的屋子中，每个物品都只有几个状态数，这时的熵很小。

4、麦克斯韦曾经用“小妖”的例子质疑过熵，这还是1871年的事，直到1929年才由匈牙利物理学家西拉德解决，他证明了小妖在测量气体分子速度时产生的熵大于分子被约束减少的熵。至此，信息和熵有了关联。

5、物质的有序状态可以做功，编码的有序状态可以表达意思，在这个角度看，熵的概念在物理和信息上终于达到了统一。

二、信息熵

1、香农在《通信的数学原理》中把信息熵仔细定义了，它指的是系统中含有的平均信息量大小，用它可以定义一段信息需要的最小存储空间。

2、英语有26个字母，加上空格27个字符，如果他们出现的概率均等，用2做底取对数，结果是编码需要空间3log以2为底3的对数，约等于4.76bit，但是通过语言学的研究发现英语文学中的信息熵是4.03bit，这比4.76bit小不少，原因就是在英语中不少字母我们很少用，比如wxyz。

3、英语传达的信息均匀的使用了2的4.03次方，也就是大约16个半的字母，所以如果有机会改造一下这个语言系统的话，我们从数学理论上可以证明，用17个字母加一个空格，就可以在最大程度上表达所有日常使用的东西了，另外9个字母完全可以省掉。

4、这样的例子在现实中就存在，比如意大利语有21个字母，同样可以作为一种功能完善的语言，交流、表达。

三、复杂度怎么衡量

1、不同系统衡量方式不同，没有统一尺度衡量，最简单的比多少，在衡量基因组序列复杂度上就有问题，人有30亿个碱基对，一种线虫有6750亿个碱基对，但明显人比线虫复杂更多。

2、衡量复杂度的标准还有熵、有效复杂性、用计算机程序模拟后代码长度、计算时间、逻辑深度等等方式。

四、耳机线为什么缠绕在一起

1、因为熵总是趋向于增加的。所以线材在书包里逛荡的过程中，就好像受到随机的热运动，这个结局就是尽量让线材分布在空间里每个位置，并且线材形状尽量多的呈现出来。对于软软的耳机线材来说，能维持长长一段不弯曲虽说不是完全没有可能，但也只是众多可能中的一个而已，线材弯曲的状态则占据了更多的形状状态，所以线材一定趋向于分布成更多样式。所以耳机线会绕在一起。

2、很多人习惯把耳机线自己跟自己绕起来，或者用鱼骨绕线器，其实这都是非常伤线材的，都会造成金属疲劳，正确做法是让线材自然弯曲。

3、厂商为了防止绕线，把线材做成扁线，或用偏硬一些的包层，甚至提供一个小盒子，这些方法本质上都是限制了更多状态数的出现。