标签: 熵

      最近阅读了MIT教授、量子物理学家和信息学家Seth Lloyd写的《Programming the universe》，看到了很多有关信息的有意思的观点。       Seth Lloyd认为信息是真实存在的实体(information is physical)。在他看来，信息，也就是比特，并不是虚拟抽象的假设，而是物质世界的状态描述。你无法随意地说这里有个比特，你得告诉我们这个比特在哪里，在投掷的硬币里？还是算盘里？还是复活节岛上巨石里？从微观的角度讲，所有的比特归根到底，就是宇宙基本的粒子的状态描述——若干个比特描述粒子的位置，若干个比特描述粒子的速度，等等。离开了物理世界谈论比特，既没有意义，也不可能做到，因为比特的存储也离不开物理世界。我们需要硬盘、内存来存储比特，即便只是脑子里想到的比特，也必须有大脑中的蛋白质或者原子存储它们。       信息是真实存在的实体，意味着宇宙的信息是有限的。 Seth Lloyd认为每个宇宙基本粒子都可以用有限多的比特描述它的位置和速度，而宇宙基本粒子的总数是有限的，因此宇宙的比特总数也是有限的。 根据Seth Lloyd的估算，宇宙的比特总数是10的90次方       Seth Lloyd认为，信息是和物质、能量一样重要的宇宙宏观参数。物质是宇宙的基本成分，能量推动物质发生变化，而信息则提示物质和能量怎么变化。       Seth Lloyd认为，比特是守恒的。他举了了氢气球的例子：气球中的空气分子数量是固定的，因此信息比特的数量也是固定的。如果气球上出现破洞，发生氢气泄漏，那么气球内的比特减少了，但外面的比特增加了。对于整个宇宙也是如此，就像能量守恒一样，比特也是守恒的。       熵就是信息，而且是不确定的信息。根据热力学第二定律，封闭系统的熵永远不会减少。比如说，将热水和冷水倒在一起，结果一定是温水，而且这个过程是不可逆的，即温水不会再变回一半冷水和一半热水。而宇宙作为一个封闭系统，随着熵的增加，其最终结局就是热寂，即所有分子做无序的布朗运动。克劳德.香农第一次将信息和熵联系在一起。 而Seth Lloyd进一步认为，熵是不确定或者不知道的信息。怎么理解这一点呢？ Seth Lloyd提到了著名的麦克斯韦小精灵。他认为假想中麦克斯韦小精灵之所以能将一杯温水重新分成一半的热水和一半的冷水，是因为它知道每个水分子的信息（水分子的位置和速度），因此，知道更多信息意味着降低熵。在真实世界里，之所以熵会增加，是因为不确定性（不确定的信息）会传染扩散。想像一个斯诺克球台，刚开始只有白球做无序运动，即白球的信息不确定。当白球撞击红球时，红球的位置和信息也变得无序了，因此白球将不确定传染给了红球，导致了整个球堆的熵的增加。       比特在我心里本来已经是个很重要的东西，看了这本书，我觉得要用“伟大”来形容比特了。