你脑子里没有「红」这个词,只有一小撮细胞比平时多发了几下。
此刻你闻到点什么、听见空调在响、还惦记着明天要交的东西——这些完全不搭界的事,在你脑子里全靠同一样东西扛着:一个个一模一样的小电脉冲。它们没有颜色、没有气味,也不分轻重,每一个都跟别的长得一样。世界的全部丰富,只能压进「什么时候发、发多密、谁在发」这么点余地里。这一期讲大脑到底怎么写字。写到最后你会撞上一个更硬的问题:我们能把码读出来,不等于我们找到了大脑自己在用的那套码。
「大脑里的信号长什么样」,答案朴素到有点扫兴:神经元的输出线上跑的,是一个个短促的电脉冲,一次约一毫秒,学名动作电位,行内直接叫它 spike(尖峰)。关键在于——它们全都一样高。不是重要的事就发得猛一点,是真的一样:要么不发,要么就是那一整套固定动作。(它怎么被点起来、为什么非得全或无,神经元与动作电位)
这有点像一种只有「哒」这一个音的语言。你没办法把「哒」喊得更红或者更甜,你能做文章的地方只有三处:什么时候哒、哒多快、以及是谁在哒。整个神经编码这门学问,问的就是世界怎么被塞进这三样里。
EN The brain's only signalling unit is the action potential — an all-or-none pulse of fixed height, roughly a millisecond long. Amplitude carries nothing, so every bit of information must live in when a cell fires, how densely, and which cell it is.
1926 年,Edgar Adrian 把电极扎进一根感觉神经,然后去拉伸肌肉。他看到的东西后来拿了诺奖:拉得越用力,神经元发得越快。强度变成了频率。这就是频率编码,到今天仍是最稳的一条:你按皮肤越重、光越亮、声音越响,对应神经元每秒发的次数就越多。
但它有个麻烦:数个数要花时间。要估准「每秒多少个」,你得盯上一个窗口,几十甚至上百毫秒。可人做事快得离谱——1996 年 Simon Thorpe 那组让人看一闪而过的照片、判断里面有没有动物,脑电上约 150 毫秒就分出来了。信号从眼睛到那一步要过好几站,摊到每一站的每个神经元头上,可能总共只发得出一两个脉冲。一两个脉冲,没什么「率」好数。
于是还有另一套:时间编码,信息藏在脉冲落在哪个时刻。常见的花样有三种。谁先发:刺激最强的那批细胞往往抢先开口,光是「第一波脉冲的先后顺序」就够拼出一张脸。相位:海马里有个漂亮例子——老鼠跑过某个位置细胞管的那片地时,这个细胞每一次发放都比上一次在背景脑波上稍微早一点,于是「我已经走到这片地的几成了」被写进了相位里,这叫相位进动。精确间隔:一小簇脉冲彼此隔多远,本身也是内容。
要点不是二选一。同一串脉冲上可以同时叠着好几层:粗糙的强度写在率里,精细的时序写在相位里——像同一根电线上跑着好几个频道。
EN Adrian (1926) showed intensity maps onto firing rate — but counting spikes takes time the brain often doesn't have (rapid categorisation resolves in ~150 ms). Hence temporal codes: first-spike order, phase relative to an ongoing rhythm (hippocampal phase precession), and precise inter-spike intervals. Rate and timing coexist on one spike train like separate channels on one wire.
一个很自然的猜想:脑子里也许有个细胞专管「你奶奶」,她一出现它就发。这个假想被戏称为祖母细胞。真实情况几乎是反过来的。
拿运动皮层举例(这套实验后来直接成了脑机接口的地基)。让猴子往不同方向伸手,你会发现每个细胞都有一个自己最偏爱的方向,朝那边动时发得最欢。但它并不只在那个方向发——偏三十度、六十度它照样发,只是少一点。所以单看一个细胞,你根本分不清手是在往二十度还是八十度动:它对方向的态度是「广而不精」。
精确的答案在一群细胞的合唱里。把参与的每个细胞想成一支箭:箭头指着它最偏爱的方向,长度按它此刻发得多不多。把这些箭首尾相加,合起来那支箭指的方向,和手实际动的方向对得极准。这叫群体向量——同一群细胞里没有谁知道答案,答案只存在于「加起来」这个动作里。
那 2005 年那个著名的「詹妮弗·安妮斯顿细胞」呢?确实有位病人脑子里找到一个细胞,看这位演员的照片就发,换别人不发。它稀疏得惊人,但它不是祖母细胞:同一个细胞对这位演员的各种照片、甚至她名字的文字都发,它编的是概念而不是某张图;而且研究者自己算过——一根随便插下去的电极就能碰上,说明这类细胞绝不可能只有一个,同一个概念背后仍站着成千上万个。真相落在两个极端中间:既不是一人一岗,也不是全员参与,而是一小撮。
EN Single neurons are broadly tuned — a motor cortex cell fires for a preferred direction but also for neighbouring ones, so alone it can't specify anything. Precision emerges from the population vector: sum each cell's preferred direction weighted by its firing rate. Even the famous "Jennifer Aniston cell" is not a grandmother cell — it codes a concept across photos and text, and thousands of such cells must exist per concept.
AI 里管这个叫分布式表示。你可能听过 embedding(嵌入向量)这个词:AI 处理一个词、一张图时,会把它写成一串几百上千个数。意思不在其中任何单独一个数上,而在整串数的模式里——就像方向不在任何一个细胞上,只在那群细胞的合唱里。下游怎么把它读出来?给每个数配个权重、加起来——和群体向量算合向量是同一个动作。两边还共享同一条好处:一小撮单元的组合能表示的东西,远远多过单元本身的个数。
既然是一群细胞一起编码,那让所有细胞都参与,信息不就最多吗?大脑偏不。它走的是另一条路:任何一个瞬间,只有很小一撮神经元在发,绝大多数安静着。这叫稀疏编码。
第一个理由很土:贵。每发一个脉冲,细胞都得花能量把跑错位的离子搬回原处,而整个脑子的预算只有二十瓦上下。有估算说,这点预算只够同时点亮百分之一量级的皮层神经元。
第二个理由才是妙的。1996 年 Olshausen 和 Field 做了件很干净的事:他们拿一堆自然照片喂给一个很简单的模型,只提两个要求——你得能用这些零件把图重建出来,而且每次只准用很少几个零件。全程没告诉它任何关于大脑的事。结果它自己长出来的那套零件,是一格格朝向不同的边缘条纹,和真实 V1 里简单细胞的感受野几乎一模一样(V1 是视觉信号进入皮层的第一站,视觉通路)。
这个结果有点吓人:V1 长成那样,可能不是进化随手挑的,而是「用尽量少的零件重建自然图像」这个目标的唯一好解。而且稀疏不只是省电——同时亮着的东西少,下游读起来就不容易把两件事混成一件。省和准,在这里居然是同一个设计。
EN Only a small fraction of cortical neurons fire at any instant. Partly it's the energy bill; more interestingly, Olshausen & Field (1996) trained a model on natural images with just two constraints — reconstruct the image, use as few units as possible — and it grew oriented edge filters that look like V1 simple cells. Sparseness buys both efficiency and readability.
这套想法在 AI 里刚刚翻红。大语言模型内部有个头疼的现象叫叠加:一个单元往往同时兼职好几个不相干的概念(同一个数既管「法语」又管「化学」),所以你盯着单个单元看,永远看不懂它在干嘛——这和「单个神经元广而不精」是同一个毛病。目前最主流的破解办法,是训练一个刻意做得又宽又稀疏的小网络去把这团东西拆开,每次只准少数几个单元亮,逼它们一格一个概念。这就是稀疏自编码器,骨架和 Olshausen 那篇一模一样,只是把自然图像换成了模型的内部激活。
「意义不在任何一个零件上,只在它们的关系里」——这句话,好几门完全不搭界的学问都各自走到过: