English →
博客精读 · 08 · bactra.org

Cosma Shalizi · Three-Toed Sloth
数据里浮出来的那个结构,多半是你方法的影子

2003 年至今 · 约 1250 篇 · 仍在更新(最新一篇 2026 年 7 月 31 日)· 2013 至 2014 年间篇数从每年近百骤降到十余篇,长文的位置改由每月书评栏目承接 · 本页通读 16 篇,跨度 2004 年 12 月至 2026 年 7 月

Cosma Shalizi 每一篇文章的第一行,都是一句劝你别读的话。他给这个东西取了个正式名字,叫「注意力节约声明(Attention Conservation Notice)」,二十多年来一篇不落。

他那篇后来被引用了无数次的智商长文,开头是这样的:

About 11,000 words on the triviality of finding that positively correlated variables are all correlated with a linear combination of each other, and why this becomes no more profound when the variables are scores on intelligence tests. […] Includes multiple simulations, exasperation, and lots of unwarranted intellectual arrogance on my part. 约 11000 字,讲一件微不足道的事:一堆正相关的变量,当然都会跟它们自己的某个线性组合相关;而当这些变量是智力测验分数时,这件事也并不因此就变得更深刻。……内含多个模拟、恼怒,以及我这边大量没有根据的智力上的傲慢。 《g, a Statistical Myth》,2007 年 10 月

另一篇写苏联计划经济的,他说这个话题「跟我们身处的世界的相关程度,大概相当于讨论一个信奉奥林匹斯诸神的人该不该赞成转基因生物。(或者说:半人马,赞成还是反对?)」。一篇讲互联网中心化的,他自己评价是「玄奥、思辨,就算说对了也没什么可操作性。你不如拿这时间去读本书」。今年 7 月那篇书评的开头则是:「我没有品味,而且对热力学发言的资格只剩下记忆了。」

把这当谦虚就误读了。这是他花了二十多年对别人的数据做的那件事,转过来对着自己做了一遍。他毕生的活儿,就是问「你这个结论里,有多少是世界的性质,有多少是你用的那套方法的算术必然?」——一个把这个问题问了一辈子的人,当然会在自己每篇文章顶上贴一张标签,写明本产品的已知失真。

他真正在跟什么较劲

Shalizi 是卡内基梅隆大学的统计学教授,也在圣塔菲研究所挂职。他原本是物理学家,做非线性动力学和统计力学。这个出身很重要,因为二十一世纪初,正是他那个部落大举涌进网络科学、经济学、社会学的时候——口号是「一切都是多体问题」。他当年也是其中一员。然后他去把统计学认真学了一遍,回过头来端了自己老家。

他反复回来的那个根问题是:一堆数字里浮现出的「结构」,什么时候是世界的骨头,什么时候只是你那把尺子的形状?

他给出的答案,都是同一种形状的:造一个你事先知道答案的假世界,把标准方法扔进去,看它报出什么。

2766 个能力,和一个不存在的 g

最漂亮的一次是关于 g——所谓的「一般智力因子」。它的证据是这样来的:给人做一批智力测验,分数之间彼此正相关,用因子分析(factor analysis)一提,就浮出一个能解释很大一块方差的主导因子。这个因子被命名为 g,然后被当成心智的一个真实部件来讨论。

Shalizi 干了两件事。

第一件:他让电脑随机生成相关矩阵——纯噪声,背后没有任何因果结构——再照标准流程造出 1000 个「受试者」的分数,跑一遍因子分析。结果第一个因子解释了 55.9% 的方差。重复一千次,平均 47%。他补了一句:真实智力测验里 g 解释的方差比例通常在四分之一到三分之二之间,而且多半靠近下限,大约三分之一。随机噪声比真实智商测验的 g 还强。

第二件更狠。1914 年,一个叫 Godfrey Thomson 的人提出过一个模型:假设人有海量彼此完全独立的小能力,每个测验随机抽用其中一批。Shalizi 照着做了一遍:11 个测验(对应韦氏成人智力量表的 11 项),总共 2766 个能力,彼此之间不相关到不能再不相关,没有任何一个能力在任何一个测验里占主导。跑因子分析,出来一个 g,解释 47.8% 的方差,各项载荷漂亮得可以直接拿去发表;再跑单因子检验,卡方 38.41、44 个自由度、p 值 0.709——完美通过。

他还顺手证明了这个假 g 可以做得「可遗传」:身高的遗传度约 0.8,血液甘油三酯约 0.5,那么「身高加甘油三酯」这个量也是可遗传的——可遗传并不能让一个毫无意义的量变得有意义。

这背后其实有个纯代数的理由,Perron–Frobenius 定理:只要相关矩阵全是正数,就必然存在一个方差占比最大、且所有变量都正载荷其上的因子。而智力测验本来就是照着彼此相关的标准挑出来的。

So making up tests so that they're positively correlated and discovering they have a dominant factor is just like putting together a list of big square numbers and discovering that none of them is prime — it's necessary side-effect of the construction, nothing more. 所以,把测验造得彼此正相关,然后发现它们有一个主导因子,就好比列一串很大的平方数,然后发现里面没有一个是质数——这是构造方式的必然副产品,仅此而已。 《g, a Statistical Myth》脚注 8

请注意他没有说的话。他没说 g 不存在。他说的是那块表停了:

If, after looking at your watch, you say that it's 12 o'clock, and I point out that your watch has stopped at 12, I am not saying that it's not 12 o'clock, just that your watch doesn't actually give you any evidence about the time. 如果你看了一眼表说现在是十二点,而我指出你的表停在了十二点,我并不是在说现在不是十二点,我只是在说,你的表并没有给你任何关于时间的证据。 《g, a Statistical Myth》

同一把刀,砍了四样东西

这个动作他做了不止一次。

幂律。2005 年,Barabási 在《自然》上发文说达尔文和爱因斯坦的回信间隔服从幂律。Shalizi 指出那批数据被对数正态分布拟合得像教科书插图,然后借高尔顿的口气下了一句判词:「你不可在我面前有别的分布,因为我是忌邪的极限定理。」两年后他不再嘴炮,跟 Clauset 和 Newman 合写了那篇著名的方法论文,把 24 个被宣称为幂律的真实数据集重新跑了一遍:对数正态几乎总是有竞争力,常常还更好。他估计这套标准若被采纳,「《Physica A》每期会少掉一半以上」。

社会传染。Joey 昨天跳了桥,今天 Irene 也跳的概率上升了——这是传染,还是他们本来就是同一类人?Shalizi 和 Andrew C. Thomas 证明:在观察数据里,这两者一般而言不可分辨。不是数据不够,是不同的因果结构会产生完全相同的可观测结果。

最优计划经济。2012 年他读了小说《Red Plenty》,然后去算了一笔账。已知最快的线性规划算法,步数大约按 n3.5 增长——问题规模乘一千,时间乘三百亿。而据经济学家 Alec Nove 统计,1983 年苏联有 1200 万种可区分的商品;还必须按地点索引,否则计划算不出运输。一台一秒能解 1200 万变量的机器,处理 120 亿变量要一千年。把「最优计划在道德上是否可欲」这个吵了一百年的问题,换成了一道算术题。

然后他给出了那个让所有人都不舒服的结论:这件事最该让资本主义的拥护者感到不安,因为它意味着他们的制度面对不了任何竞争,连竞争的威胁都没有——而按他们自己的理论,此时体系的主人们会越来越多地把产出当作垄断租金收走。「这不会有什么好结局。」

他自己写下的、最狠的那条批评

在那篇 g 的文章里,他讲完 2766 个能力的模拟之后,主动加了一句:Thomson 模型最大的问题是 g 显得太强了——它轻松通过单因子检验,而真实的智力测验(比如韦氏量表)全都通不过。

也就是说:他用来拆掉 g 的那个反例,对数据的拟合比 g 本身还要「好过头」,因此作为世界的模型反而更不像真的。他把这一点写在了自己论证的正中间。

这大概是最能说明他的地方。一个人可以花二十年拆别人的方法,也可以顺手在自己最有力的那一击上标出裂纹。而这两件事,其实是同一件事——就是那句写在每篇文章顶上的、劝你别读的话。