咖啡自动机:给「复杂度的起落」造一把尺

原文:Quantifying the Rise and Fall of Complexity in Closed Systems: The Coffee Automaton · Scott Aaronson 等 · 2014 | i 系列 04 / 27 · 板块一:理论地基

论文名片

  • 论文(含模拟实验)
  • 2014 年
  • i 系列 04 / 27
名片速览
英文题名Quantifying the Rise and Fall of Complexity in Closed Systems: The Coffee Automaton
作者Scott Aaronson 等
年份与形式2014 年发表论文,包含计算机模拟实验
原文链接arxiv.org/abs/1405.6903
一句话定位把「奶倒进咖啡」做成格子玩具宇宙,认真量出复杂度如何先升后降。

书单里最「日常」的一篇:不训练任何网络、不刷任何榜单,只认真回答一个问题——一杯咖啡由分明变均匀的途中,「有趣」到底是怎么起落的?

Ilya 为什么选它

前三篇都在讲「描述长度」的哲学与工程,这一篇忽然去量一杯咖啡——跨度虽大,逻辑却顺:「复杂度」这把尺子造出来之后,总得先找个最干净的场合试刀。一杯加了奶的咖啡,规则简单、人人可感,是绝佳的试验田。

它也是书单中少有的「问题驱动」样本:先有 i05 的博文把问题问出来(2011 年),再有这篇论文把答案做出来(2014 年)。Ilya 把这一对收录进来,等于示范了研究是怎么从「好问题」长成「好论文」的。

更深一层:智能活在「复杂而有结构」的世界里——眼前的世界既不是全白画面,也不是纯噪点。想造能理解世界的机器,先得能说清「复杂」本身怎么量。这篇论文就是朝这个方向迈出的一小步。

从生活说起

一杯咖啡的三幕剧。清晨,把奶倒进黑咖啡:第一幕,黑白分明,一眼看穿,简单;第二幕,勺子轻搅,杯中浮起大理石般的漩涡纹路,怎么看都不腻——最有趣;第三幕,放下杯子随它去,最终混成均匀的浅褐色,又归于简单。「有趣程度」走了一条先升后降的弧线,终点甚至不如起点耐看。

延时摄影的选片难题。给这杯咖啡拍一段延时摄影,事后只许挑一帧发朋友圈:没人挑第一帧(纯黑一片),也没人挑最后一帧(灰扑扑一杯),大家都会挑中途纹路最盛的那一帧。直觉都知道「中途最精彩」,但直觉不是科学——中途到底「复杂」多少?升了多少、又落了多少?要回答,得先把「复杂」变成一个能写在纸上的数。

核心思想拆解

熵不够用了。热力学第二定律(second law of thermodynamics)说:封闭系统的熵(entropy,粗略说就是「无序度」)只增不减。它能预言牛奶终将混匀,却画不出「中途最有趣」这道拱桥——因为熵是一条只会往上爬的单调线,而「有趣」是一座有峰有谷的山。「黑白分明」和「完全均匀」都是简单状态,可熵只负责沿单调线往上走,「结构丰富度」这回事它根本不管。所以要量「有趣」,得另造一把尺。

造一个格子玩具宇宙。论文用元胞自动机(cellular automaton,一格一格、按简单局部规则逐步演化的「棋盘世界」)模拟咖啡杯:格子里两种「粒子」代表奶与咖啡,按简单规则逐步交换位置,从黑白分明一路演化到均匀混合。每一时刻的画面,都是一张可以存进电脑的图。

尺子:压缩后长度。怎么量每张画的「复杂度」?把画面交给压缩器,看压缩后的文件有多长。道理接续 i02:一个画面如果充满规律(全白、纯灰),几句话就能说清,压完所剩无几;如果处处是出乎意料的细节,就只能老老实实记录,压不短。真正的「最短描述」(Kolmogorov 复杂度)算不出来,压缩器就是它现成的工程替身。

结果:直觉有了数字。用这把尺子逐帧去量玩具宇宙:复杂度从起点出发先爬升、在大理石纹阶段附近达到峰顶、再滑落下去;而熵始终单调上升。「复杂」与「无序」从此在数字上分了家——一个是拱桥,一个是单行道。论文也老实讨论了这把尺子的微妙之处:纯随机的噪点同样压不短,可见「难压缩」与「有趣」并不完全是一回事,量复杂度比看上去更需要巧劲。

动手算一算

为什么「压缩后长度」能当尺子?拿三张 100×100 的黑白图做对比(比喻性说明,比例按定义直觉估计,不是论文数据):

三种画面的压缩直觉对比
画面描述它要多长直觉
全白图「100×100 全是白格」一句话压完所剩无几,接近零
大理石纹图大块纹路有规律可省,纹路走向却处处变化最难压,文件最大
纯噪点图相邻格子毫无关系,几乎格格都要记录也压不短,但难得没有花样

三行对比里藏着本篇的全部机关。其一,压缩长度成功地把「全白」与「大理石纹」分开——一个近乎零,一个很大,这正是熵做不到的区分。其二,纯噪点提醒我们尺子的边界:它量的是「难描述」,而「有趣」还需要结构。书单把本篇与 i05 放在一起,正是让你同时看到这把尺子的锋利与局限。

一句话画龙点睛:熵是单行道,复杂度是拱桥。

它改变了什么

问题有了答案。这篇论文把一个哲学味道的问题变成了可算的实验。问题出自博文:2011 年 Scott Aaronson 在博客里提出「复杂度先升后降该有定量定律」,数年后才有了这篇认真作答的论文。先读提问、再读回答,见 i05 复杂动力学第一定律。

尺子各有出处。「压缩长度当复杂度」直接承自 i02 Kolmogorov 复杂度 的理论传统;「描述长度是好模型的度量」则出自 i01 最小描述长度。一杯咖啡,把第一板块的三条线索拧成了一股。

术语小词典

本页术语速查
术语英文一句话解释
熵entropy无序度的量度;封闭系统里只增不减,解释「混匀」,解释不了「有趣」。
封闭系统closed system不与外界交换物质的系统;盖紧盖子的咖啡杯是它的日常替身。
元胞自动机cellular automaton按简单局部规则逐步演化的格子世界,计算机里的「玩具宇宙」。
压缩compression用更短的文件还原同样的信息;本篇拿压缩后长度近似复杂度。
复杂度complexity本篇特指「画面的结构丰富程度」,与「无序度」是两回事。