TOPIC 45 · PHASE A 认知

语义的群体编码

海马里的「词向量」,以及一身兼数职的神经元

2026-10-04 · BigCat

你脑子里没有一个专管「狗」的神经元——「狗」是几百个神经元一起指向的一个方向。

朋友跟你说:「不好意思,一点小意思,你别多想,我没别的意思。」一句话里三个「意思」,你一个都没听错。可你从没停下来查过字典,也说不出自己是怎么分开它们的。词义在你脑子里,到底是以什么形状存着的?

最直观的猜法是:每个词有一格专门的「抽屉」,听到「狗」,狗那格就亮。2026 年 9 月一项研究在人脑里一个个神经元地去找这些抽屉,结果发现——没有抽屉。有的是一张地图:意思近的词落得近,意思远的词落得远,而同一个词换个语境,就会挪到地图上别的地方去。这张地图的形状,和今天的大语言模型肚子里那张,出奇地像。

// 01

没有「狗神经元」:一个细胞,管一堆不相干的词

先说在哪儿录的。海马是脑子深处一对弯弯的结构,以「管记忆」和「管认路」出名。平时没人能往健康人的海马里插电极——能录到的,是一些顽固性癫痫病人:医生为了找发作源头,要在他们脑里临时埋几天电极,有人愿意在等待发作的空档里顺便参加实验。海马与内嗅

这项研究里,十几位病人戴着电极,听一段段真人讲的故事,研究者同时记下几百个海马神经元的放电。然后做一件很笨也很稳的事:把每个词的读音、在句子里的语法角色先「扣掉」,看剩下的放电还能不能用这个词的意思来预测。能——而且很稳健。

有意思的在后面。如果你指望某个细胞只对「动物」有反应,那会失望:单个神经元往往对好几个类别里的好几个词都有反应,这几个词之间八竿子打不着。单独盯着任何一个细胞,你根本说不出「它是管什么的」。这种「一个单元身兼数职」的现象,专业上叫混合选择性,也叫多义性。

A B C 狗 咖啡 星期一 跑 妈妈 狗 唱 面包 周末 猫 医生 吃 动物 食物 时间 动作 人物
示意:每个神经元都对几个不同类别的词有反应——单看一个,读不出它「管什么」

EN Recording hundreds of hippocampal neurons in epilepsy patients listening to narrative speech, the study found robust encoding of word meaning even after controlling for sound and grammar. But single neurons are not tidy "dog cells": each responds to multiple words from multiple unrelated semantic categories (mixed selectivity).

// 02

意思藏在「一起」里:词义是一张地图上的位置

单个细胞读不出来,那就别单看。把同一时刻几百个神经元的放电强弱排成一长串数字,这一串就是这个词在你脑子里的「坐标」。换句话说,一个词的意思,不住在哪个细胞里,而是住在所有细胞一起摆出的那个组合里——这就叫群体编码。

有了坐标就能量距离。研究者发现:两个词的群体反应离得多远,和这两个词意思差多远,是对得上的。「猫」和「狗」在这张图上挨着,「兔子」和「星期一」隔得老远。注意,没人教过这些神经元什么叫「动物」——这个结构是它们自己长出来的。

几百个神经元的群体反应(压成二维看) 近 = 意思像 远 = 意思不像 猫 狗 兔子 苹果 香蕉 面包 星期一 周末 开心 难过 没人教它分类,意思相近的词自己就聚到了一起
示意:群体反应之间的距离,跟词义之间的距离对得上

EN Meaning lives not in any single cell but in the joint pattern across the population. The distance between two words' population responses tracks how different their meanings are — cat sits next to dog, rabbit far from Monday — a geometry nobody taught the neurons.

AI 对读

大语言模型处理文字时,也不把词当成一个个字面符号,而是给每个词配一长串数字(几百到几千个),叫词向量,也叫嵌入。这串数字的妙处在于:意思近的词,数字也近,所以可以在「空间」里量距离。这项研究把神经元的群体反应和好几种模型的词向量拿来对比,发现两张地图的形状能对上——同样是「猫挨着狗」。一个靠电信号,一个靠矩阵乘法,各自从海量语言里摸索,长出了同一类几何。

// 03

同一个词,换个语境就挪了位置

回到开头那三个「意思」。如果每个词在脑子里只有一个固定坐标,「不好意思」和「什么意思」就会挤在同一个点上,你就分不开它们。事实是:同一个词的群体反应会随上下文变。研究者用语言模型给每个词估了一个「多义程度」——它在不同句子里意思飘得有多厉害——结果这个词的神经反应飘得有多厉害,和它的多义程度是一起涨的。

更说明问题的是一组对比。早期的词向量(比如 word2vec)是静态的:一个词就一个点,不管上下文。后来的模型(GPT-2、BERT)给的是上下文词向量:同一个词在每句话里都重新算一遍。拿海马神经元去对:「群体距离 ≈ 词义距离」这条规律,在上下文词向量上成立,换成静态词向量反而反过来了。和神经元最贴的,是 GPT-2 那一档。

静态词向量 意思 一个词 永远一个点 上下文词向量 · 海马也这样 意思 「这话什么意思?」 → 含义 「真不好意思」 → 歉意 「一点小意思」 → 心意、薄礼
示意:同一个词,在不同句子里落到群体空间的不同位置

EN The same word's population response shifts with context, and how much it shifts tracks the word's polysemy as estimated from language models. The meaning-geometry match held for contextual embeddings (GPT-2, BERT) but reversed for static ones (word2vec); GPT-2 aligned best.

AI 对读

研究 AI 内部机制的人,几年前在大模型里也撞见了「一个神经元管一堆不相干的东西」,并给它起了同一个名字:多义神经元。一种流行的解释叫叠加:模型要表示的概念远比它的神经元多,干脆让每个神经元同时参与好几个概念,概念不再一格一个,而是一个「方向」——由很多神经元按不同比例合起来指出去。海马的数据与这幅图景相容:几百个细胞要扛住成千上万个词和它们的语境变体,一格一个根本不够用。

// 04

像,不等于一样

同一时期还有另一条证据。2026 年 6 月发表在 Nature 上的一项研究,在病人说话时录额叶和颞叶的单个神经元,再借语言模型去解读:有的神经元跟踪词和词之间的语法关系、词性,有的跟踪整句的句法结构和短语怎么一段段接下去;这种能力主要偏在左半脑。一个在听,一个在说;一个在海马,一个在语言网络——两边都看到了同一类「组合起来、随语境变」的编码。

但有几道边界得画清楚。第一,相似是在几何层面:两张地图形状对得上,不代表脑子里在跑和 GPT-2 一样的算法。脑子没有「先把整段文字读进来再统一算」的步骤,学习方式也完全不同。第二,对得最好的是 GPT-2 那一档——一个今天看来很小很旧的模型;更大的模型不一定更像脑,这本身就值得琢磨。第三,录的是癫痫病人的海马,数量也就几百个细胞。

还有一个更根本的问题:海马是在「存」词义,还是在把词义和此时此地的语境捆在一起?海马的老本行是把「什么、在哪、何时」绑成一段经历。听故事时,它可能正在做同样的事——给每个词打上「在这个故事的这个位置」的戳。那它表现得这么「讲语境」,也就不奇怪了。

EN A June 2026 Nature study found frontotemporal neurons during speech production tracking grammatical relations, parts of speech and phrase structure, left-lateralised. But the brain–LLM match is geometric, not mechanistic; the best fit was the small GPT-2; and the hippocampus may be binding meaning to the episode rather than storing a dictionary.

🌀 越界 · 跨学科的联想

「一个词没有固定的家,意思取决于它和别的词的关系、和此刻的语境」——这句话,哲学家和语言学家早就说过:

// 深入思考

那以前说的「詹妮弗·安妮斯顿神经元」是错的吗?
不算错,但常被讲过头。2005 年的著名发现是:人的内侧颞叶(包括海马)里,有神经元对某个特定名人的各种照片、甚至名字都有反应。这很容易被讲成「一个概念一个细胞」。但研究者自己一直强调:你只测了几十上百张图,没测到的那些它可能也会响;而且同一个概念也会被很多细胞共同响应。今天的结果更像是把这件事补完整:单个细胞可以挑剔,但挑剔的对象往往不止一个,真正可靠的读法在群体里。
为什么偏偏是 GPT-2,而不是更大更强的模型最像脑?
没有定论,有几种猜测。一是模型越大,它学到的东西里有越来越多是「为了预测下一个词」的特殊技巧,未必是脑也需要的;二是几百个神经元能测出的维度本来就有限,更精细的结构比不出来;三是这类对比非常依赖用的是模型哪一层、怎么降维。所以别读成「GPT-2 和人脑最像」,更稳的读法是:上下文化这件事很关键,而「越大越像脑」并不是自动成立的。
如果词义是群体里的方向,那「舌尖现象」是怎么回事?
就是你明明知道那个词,连它的意思、第几个字都差不多想得起来,就是说不出来。一种可能的读法是:意思那一层的「方向」已经指对了,但从意思到发音的那一步没接上——语义和语音在脑子里本来就是分开编码、再连起来的。这项研究刻意把语音和语法的影响扣掉之后还能读出语义,恰好说明这两层是可以拆开的。这只是一个合理的联想,不是这项研究直接测到的。
能用这些神经元「读心」,知道一个人在想什么词吗?
在很窄的条件下,可以从群体活动里粗略解出「大概是哪一类意思」,但离读心还很远:要在脑里埋电极、要先拿这个人自己的数据训练、只在听固定材料时有效,换个人、换个任务就要从头来。更重要的是,这类数据牵涉到最私密的东西,「神经数据该由谁拥有、能不能拿去做什么」已经是正在讨论的法律和伦理问题(接 Topic 29 脑机接口)。

// 延伸阅读