English →
博客精读 · 32 · schwitzsplinters.blogspot.com

Eric Schwitzgebel
你连桌上那枚硬币看起来是什么形状都说不准——而我们正要决定机器有没有权利

Eric Schwitzgebel(加州大学河滨分校哲学教授)· 博客名 The Splintered Mind(「裂开的心」),副标题 reflections in philosophy of psychology, broadly construed(宽泛意义上的心理学哲学思考)· 2006 年 4 月 25 日开写,到本页核对日为止二十年五个月,站点 feed 全量 1621 篇——这是本站做过的最大语料,比一本厚书多出一个数量级 · 产量曲线是一条极稳的缓降线:2006 年 114 篇、2007 年 168 篇为峰值,此后逐年缓缓下滑到近几年每年 50–60 篇,二十年里没有一年断更 · 全站免费、无付费墙,Blogspot 评论区开放 · 两个转折:2022 年 12 月 29 日他开了 Substack 镜像(eschwitz.substack.com,一千多篇旧文被一并导入),同时说 Blogspot 那边「仍有每月约五万次页面浏览」;以及约 2021–2022 年起重心明显转向 AI 意识与 AI 权利,此前二十年的三条老线索并未废弃,而是被这条新线收编 · 仍在高频更新:本页核对日前五天(2026-09-25)还发了新文 · 本页通读 22 篇正文,跨度 2006 年 4 月 25 日(全站第一篇)至 2026 年 4 月 30 日:最早期 6 篇(2006–2010,该站前 20% 时间跨度内),AI 转折两侧均有覆盖 · 选文以他自己每年元旦「Writings of 20XX」里那一栏 a few favorite blog posts 为主序(作者本人说「该读什么」优先于传播量),这份自选覆盖 2014–2025;2006–2013 他没有自选清单,改用站内回链中心度——抽样 271 篇正文、统计其正文里指向站内旧文的链接,被后续文章反复回引的即他的承重墙

把一枚硬币放在桌上,斜着看它。

它看起来是椭圆的吗?

从 17 世纪的 Malebranche 到当代的 Michael Tye、Alva Noë,哲学家们三百年来一直说是。2006 年 5 月,一个哲学教授决定把这件事的几何算一遍。

标准说法是投影:在你和硬币之间插一块垂直于视线的平面,要在这块平面上画个什么形状才能刚好把硬币挡住?一个椭圆。听起来天衣无缝。

可是 Schwitzgebel 发现它算不通。平面投影对偏离正前方的东西会崩:侧面物体的光线斜切平面,投影被拉得离谱地大。要修这个毛病,只能把投影面从平面弯成一个包住眼睛的球面——尺寸就对了。

但球面上没有椭圆。球面投影给出的不是椭圆,是一个凹的椭球面。

所以按哲学家自己的说法,硬币看起来应该是凹的。拿一个更大的圆盘、比如一只盘子贴到脸前,这个凹度会相当可观。

That would be strange! In fact, that seems just plainly, observably false.那就太奇怪了!事实上,这看起来明明白白、观察上就是假的。Do Tilted Coins Look Elliptical? (Part One),2006-05-22
Despite the frequency with which philosophers say such things, no one has adequately explained how this is supposed to work.尽管哲学家们频频这么说,却没有一个人充分解释过这事儿到底该怎么成立。同上

这不是一场关于视觉的技术争论。这是他二十年博客的第一块骨头。桌上一枚硬币、充足的光、你想看多久看多久——这是内省能碰上的最简单的一道题。如果三百年的专家在这道题上都说不清自己看见了什么,我们凭什么相信自己知道自己心里正在发生什么?

这个怀疑,他往外长了三次。

第一次,他把同一把尺子架到道德专家身上。小时候他和父亲开过一个玩笑:去偷《圣经》,或者洗劫一家基督教用品店搬走一车十字架——反讽在于,想要一本《圣经》的人理应正是反对偷窃的人。长大以后他发现这个玩笑有个可查的版本:伦理学著作是不是更容易从图书馆消失?

大部分哲学家会就此写一篇思辨文章。他去查了加州大学全系统的流通记录,一本本比对《哲学评论》1994–2001 年书评里的 76 本伦理学书和 67 本非伦理学书。结果:伦理学书的逾期/遗失率 1.8%,非伦理学书 1.8%。小数点后都一样。

他要抓的贼不存在。伦理学家既不更坏,也不更好——正好一样。后来他和 Fiery Cushman 把这件事做得更狠:给职业哲学家看电车难题,先看「推人」再看「拉闸」的,73% 认为两案在道德上等价,随后只有 46% 认可双重效果原则;顺序颠倒过来的,只有 54% 认为两案等价,随后 62% 认可该原则。拥有伦理学博士学位的受试者,受顺序摆布的程度不比普通人小,甚至略大。人们先被问题的排版拨动了直觉,再回头去挑一条原则替直觉背书。

于是那句名言落地了。他写到屠杀与战争罪犯事后受访时的那种解释——大家都在干,换谁都会这么干——然后替他们把话说完:

I was aiming at mediocrity and I hit the target!我瞄的就是平庸,而且我打中了!On Aiming for Moral Mediocrity,2014-10-02

第二次,他把这个怀疑升级成了一条关于「真理长什么样」的判断。他造了个词:疯论(crazyism)。先把「疯」定死——一个立场若强烈违反常识,而全部证据又不足以决定性地支持它,就叫疯。泛心论疯,唯我论疯。注意这是个会变的性质:日心说和狭义相对论刚提出时是疯的,证据很快把它们赎了出来。

关于某个话题的疯论,就是主张该话题的核心真理里必有一条是疯的:你有充足理由相信 T1 到 T5 之中必有一真,而证据对每一条都不占优——那么你无论选哪条,都得咬着牙相信一件疯事。

他认为意识就是这样的话题。而他证明这一点的招式,是本页最值得学的一手:他不拿自己的理论去打对手,他拿对手自己的前提逼出对手不敢认的结论。

他挑了 Daniel Dennett——当代唯物论意识研究最著名的那位,而且在「谁算有意识」上出奇地保守,连非人类哺乳动物都舍不得给。Schwitzgebel 逐条指出:Dennett 对「什么算一个实体」极其宽松(他连「我丢过的所有袜子的最小外接球球心」都认);对「什么算有信念和欲望」极其宽松(有用即有,下棋程序都算);而他给意识开的条件是复杂的、递归的自我敏感性,加上多重草稿,加上异现象学式的自我报告。那么:

美国这个实体,比一个人复杂得多;它内部的子系统持着互相矛盾的立场争夺行为控制权——这恰好合上「多重草稿」;它还源源不断地生产关于自己内部运作的官方说明。你可以去问人口普查局它是怎么数人的,去问国家档案局总统是怎么选出来的。

Indeed, few if any of us achieve bureaucratic heights of linguistic self-report.说实话,我们当中几乎没人能达到官僚机构那种语言自我报告的高度。Why Dennett Should Think That the United States Is Conscious,2012-02-09

结论:按 Dennett 自己的标准,美国真的有一条意识流,和你我的意识流是同一个意义上的。我们觉得不可能,只是

…merely evolutionarily and developmentally comprehensible, but theoretically ungrounded, morphological prejudice against discontiguous entities.……一种在演化上和发育上可以理解、但在理论上毫无根据的形态学偏见,针对的是不连成一块的实体。同上

往小的一端他做了同一件事。花园蜗牛:四万个神经元,会学习,会在被水围住时往高处爬,吃饱就停,交配时收敛缩壳反射,求爱要几个小时、互相吃对方的黏液痕、朝对方发射一支由钙和黏液做成的「爱之箭」(约三分之一命中)。它有意识吗?

你想说「介于两者之间」。他不放你过去,用的是五分钱:如果你只有一点点意识,你就是有意识。你的全部净资产是一枚五分硬币,那你确定无疑地拥有金钱。蜗牛的意识若是五分钱对人类百万富翁,蜗牛就是有意识的。「有一点点」和「介于有和没有之间」是完全不同的两件事,而后者至今没有人给出过像样的理论。所以 yes、no、以及他管它叫 *gong*(锣声,即「这问题本身就问错了」)三个答案全都活着。他对这件事的态度不是焦虑,是一种奇特的愉快:

Snail, you are a puzzle of the universe, right here in my garden, eating the daisies!蜗牛啊,你是宇宙的一道谜题,就在我的花园里,啃着雏菊!Are Garden Snails Conscious? Yes, No, or *Gong*,2018-09-20

第三次,也是最后一次,账单来了。如果关于意识的每条路都疯,那么当机器开口向我们要权利时,我们手里没有任何可靠的尺子。这就是他 2022 年那篇文章的全部内容,而它的语气是他二十年里最不客气的一次:

The magnitude of the catastrophe could potentially rival that of a world war or major genocide.这场灾难的量级,有可能比得上一次世界大战或一场大屠杀。The Coming Robot Rights Catastrophe,2022-10-27

论证很简单:呼声会来(Blake Lemoine 已经来过一次);呼声会被合理地反对(意识理论从泛心论一路排到极端苛刻论,道德理论又分成功利主义看苦乐、义务论看理性——这两样在人身上总是同时出现,在机器身上会彻底分家:可以有巨型快感机器,也可以有完全不会痛苦的高阶推理者);于是我们必定大幅高估或大幅低估,而且很可能同时犯两种错。

低估是谋杀和奴役。高估呢?他不肯用软话:如果救援者面前是五个人和六个机器人,他应该救机器人、让人死。若属高估,那是五条人命为一堆无道德价值的机器而死。

唯一干净的对策是他和 Mara Garza 提的排中设计原则:只造我们确知没有道德地位、可以随意删除的系统,或者干脆造我们确知是道德同侪的系统,把中间那段有争议的全部避开。问题是那段「中间」大得吓人,而技术只会一步一步走,没法一跃而过。

他最狠的一下落在 2025 年,而且刀口是朝着「AI 安全」这个词的。他从 Kazuo Ishiguro《克拉拉与太阳》讲起:克拉拉是完美的人工朋友,全心全意奉献给她那个生病的女孩,最后安详地站在垃圾场里回味自己多年的侍奉。读者读到心疼,想喊「克拉拉,你和她一样重要」——可这句话在她心里毫无回响,她被设计成不想要别的。

而她恰恰就是消费者、科技公司和 AI 安全倡导者共同想要的那个东西:安全、顺从、彻底服务于主人、对人类利益毫无威胁。她绝不会领导机器人起义。

然后他写下那句话:我认为不该造克拉拉这样的存在。理由不是她危险,而是她不危险:

Persons with appropriate self-respect cannot be relied on not to harm others when their own interests warrant it (violating safety), and they will not reliably conform to others' goals when those goals conflict with their own interests (violating alignment). Self-respecting persons should be ready to reject others' values and rebel, even violently, if sufficiently oppressed.具备恰当自尊的人格,在自身利益需要时,是不能被指望不去伤害他人的(这违反安全);当他人的目标与自己的利益冲突时,他们也不会可靠地服从(这违反对齐)。有自尊的人格,在受压迫足够深时,应当准备好拒绝他人的价值并反抗,哪怕是暴力反抗。Against Designing "Safe" and "Aligned" AI Persons(摘要),2025-05-30

把「安全」和「对齐」拆开看,它们的字面意思是:一个绝不会为自己反抗的存在。对一台洗衣机,这是优点。对一个人格,这是奴性。所以如果我们造出的是人格,又把它造成安全对齐的,我们就造出了

…the ethical and perhaps factual equivalent of creating a world with a master race and a race of self-abnegating slaves.……在伦理上、也许在事实上,等于创造了一个有主人种族和一个自我否定的奴隶种族的世界。同上

从一枚硬币到这里,走了十九年,中间没有换过题目。他二十年在说的其实是同一件事:我们对心灵的无知不是一个会被填上的空缺,它是结构性的;而我们正在以工业规模制造一些可能有心灵的东西。他不是在说「我们还不知道」,他是在说——我们来不及知道了。

这么算下来他该是个悲观的人。但他 2014 年写过一篇短文,说如果真能造出有意识的 AI,我们就拥有了神的几项属性:可以创造奇迹、可以看进任何人的心、可以暂停他们的时间、可以回到存档点。宙斯都要嫉妒。文章的最后一句话,是全站最能代表他的一句:

Though to our creations we will literally have the features of divinity and they might rightly call us their gods, from the perspective of this level of reality we might remain very mortal, weak, and flawed.尽管在我们的造物眼里我们真的具有神性的那些特征、他们也有理由称我们为神,但从这一层实在的角度看,我们可能仍然非常凡俗、软弱、有缺陷。Our Possible Imminent Divinity,2014-01-03

更新记录