English →
博客精读 · 03 · astralcodexten.com

Scott Alexander · Astral Codex Ten
证据为什么会失效:一个精神科医生的怀疑术

2013–2026 · 前身 Slate Star Codex 1,557 篇(2020 年他自己删掉过一次)· 现址 Astral Codex Ten 1,400 余篇 · 本页抓取其中 870 篇正文,合计约 340 万词 · 未停更:最近一篇 2026 年 9 月 1 日

有个保安,在一栋极其无聊的楼里上班。这楼基本没被偷过。他坐在岗亭里填字谜。偶尔有响动,他去看看是贼还是风。

是风。永远是风。从来不是贼。托皮卡的枕头超市没人想抢。如果一栋楼平均十几二十年才被偷一次,他可能整个职业生涯都碰不上一个真贼。

于是他慢慢养成一条极好用的启发法:听见响动就当没听见,接着填字谜——是风,兄弟。

这条法则的正确率是 99.9%。作为一条启发法,这成绩相当漂亮。唯一的问题是——

He could be losslessly replaced by a rock with the words "THERE ARE NO ROBBERS" on it. 他可以被一块石头无损替换,石头上刻着「没有贼」。 《几乎总是对的启发法》,2022

写这段的人叫 Scott Alexander,本名 Scott Siskind,湾区一名执业精神科医生。他 2013 年开博客,2020 年因为怕《纽约时报》写出他的真名,把 1,557 篇文章全删了;2021 年在 Substack 上重开,然后在复活第一篇的最后一行,自己把真名写了出来。他一天到晚在写医学、统计、政治、AI,产量高到读者根本追不完——但那 1,400 余篇底下,翻来覆去只有一个问题:

你凭什么以为自己知道任何事?

这问题他有职业上的理由。精神科医生每天坐在一个人对面,这个人的推理机制可被证明是坏的。恐惧症患者完全清楚这条狗不会咬他。你把他和一条温顺的罗威纳关一屋,出来之后他更怕狗了。

Scott 最被自己反复回头引用的那篇文章(我把 870 篇正文的站内链接数了一遍,它被 16 篇后文回引,是第二名的将近两倍),讲的就是这台机器怎么卡死的。他管它叫困住的先验(trapped prior)。大脑不是先看见再判断,而是把「原始感受」和「语境预期」搅在一起,产出你以为是原始感受的那个东西——白葡萄酒染成红色,很多人就尝出红酒味。恐惧症是这个机制的极端情况:先验强到把体验整个染色,于是每一次与狗的良好接触,都被处理成一次可怕经历,反过来把先验喂得更强。

然后他把这一步推到政治上,得出一句真正扎人的话:

they start out wrong, and each new fact they learn, each unit of effort they put into becoming more scientifically educated, just makes them wronger. 他们一开始就是错的,而他们每学到一个新事实、每多花一分力气让自己更懂科学,都只是让他们更错。 《困住的先验:理性的一个基本问题》,2021

这不是比喻。1979 年有个实验:让支持和反对死刑的人各读两篇研究,一正一反,方法论质量被设计成一样好。两边读完都更确信自己原本是对的。证据增加,分歧扩大——这在他看来是先验被困住的确诊指征。

如果只有这一半,Scott 就是个悲观的认知偏误科普作者。他真正原创的是另一半:就算如此,你依然能知道事情——只是得知道该怎么听。

他举了个让两边都不舒服的例子。假设你是个厌恶 FOX News 的自由派,在机场看见 FOX 报道一起枪击案。你信不信?他说他信。因为——

The level on which FOX News is bad isn't the level where they invent mass shootings that never happened. FOX News 坏,坏不到「编造一起根本没发生的枪击案」这个层级上。 《有界的不信任》,2022

他管这个叫有界的不信任(bounded distrust)。有偏见的信源不是随机噪声,它在玩一个有规则的游戏:有些线它会越,有些线它不会越,而且大家其实都知道线在哪。学会那套规则,你就能从一个确实在误导你的信源里,稳定地榨出真信息。

这套技能有个残酷的推论。老练的人几乎从不觉得政府在对自己说谎——苏联政府说「今年收成不错」,老练的人注意到他说的是「不错」而不是「辉煌」,于是正确地理解成:大家要挨饿了。在老练的人看来,那些真的信了「收成不错」然后被饿到的人,事后变成阴谋论者,显得偏执。而在被骗过的人看来,老练的人显得轻信。

Scott 的和解写得非常好:

The savvy people need to realize that the clueless people aren't always paranoid, just less experienced than they are at dealing with a hostile environment that lies to them all the time. 老练的人得明白,那些不懂门道的人并不总是偏执,他们只是没那么有经验,而他们要对付的,是一个一直在对他们撒谎的敌意环境。 《有界的不信任》,2022

所以这个头脑最核心的一下是:不信任不是一个开关,是一门手艺。它可以做得好,也可以做得烂;做得烂的两种极端——什么都信、什么都不信——都会让你被那块石头替代。而他自己那条最诚实的话,藏在《困住的先验》的最后一行:他说,讽刺的是,他对「困住的先验」这个理论的先验,本身就是困住的——他读到的每样东西都让他更确信它是对的。他把这句留在文章末尾,然后说:我期待外部视角。

想看他为什么算出「捐肾的术前检查比手术本身危险 15 倍」、火山岛上的石头教怎么把所有专家换成一块石头、伊维菌素那 29 篇研究最后被他归结成「虫子」、以及一个叫 Alexandros Marinos 的人写了 21 篇文章证明他错了之后他认了哪几条——切到上面的「完整版」。

更新记录