Day 54 · 2026.08.15

决策与赌博的数学

在不确定中下注:从效用、风险,到增长率与后悔
"赌徒能让财富增长的最大速率,正等于这条信道的信息传输率。" — J. L. Kelly Jr., 1956

期望效用

Expected Utility · 为什么理性的人不追求钱的期望值
Decision Theory
直觉版

1738 年 Daniel Bernoulli 摆出一个赌局:反复抛硬币直到出现正面,第 $n$ 次才出就赔你 $2^n$ 元。期望收益 $\tfrac12{\cdot}2+\tfrac14{\cdot}4+\cdots=\infty$,可没人肯为它付一百元。问题不在算错,而在于把「钱」当成了目标本身。第一个一百万让你从租房变成有房,第十个只是账面多一位数。Bernoulli 的解法:先把钱换算成它对你的意义——一把内在刻度,叫效用——再求期望。这条曲线越往上越平,凹的。

财富 x 效用 u(x) 风险溢价 u(E[X]) E[u(X)] x₁ E[X] x₂
正式定义

von Neumann 与 Morgenstern(1944)走得更彻底。设你对随机结果(彩票)有偏好序 $\succcurlyeq$,只要它满足四条公理——完备性传递性连续性(好坏之间总有一个概率混合恰好等价于中间项)、独立性(两边同时掺入同一第三选项不改变排序)——那么必然存在函数 $u$ 使得

$$L_1\succcurlyeq L_2\iff \sum_i p_i\,u(x_i)\ \ge\ \sum_j q_j\,u(y_j)$$

$x_i$ 是结果、$p_i$ 是其概率,$u$ 把结果映到一条实数刻度上。

为什么美

请注意逻辑的方向:没有人假设你拥有效用函数。前提只是「你的选择彼此自洽」,结论才是「你的行为必然看起来像在最大化某个期望值」。这类结果叫表示定理——数字不是被塞进模型的,是从秩序里被逼出来的。而「风险厌恶」这个心理学词汇在此退化成一句几何:$u$ 凹 $\iff$ $E[u(X)]\le u(E[X])$,弦永远落在曲线下方,落差就是你愿付的保险费。

应用

RLHF 的奖励模型做的正是这件事:人类只提供成对比较(A 优于 B),Bradley–Terry 把它们拟合成一个标量分数,策略再最大化其期望——vNM 定理正是「标量分数存在」这一步的合法性来源。而公理被违反之处就是行为经济学的入口:Allais 悖论中人的选择系统性违反独立性,前景理论因此改用参考点与概率加权。

一句话精华 + 思考题
效用不是关于金钱的心理学假设,而是「选择自洽」这一要求投下的数学影子。
思考题:多目标对齐中我们默认能把不同价值加权求和成一个标量,这等于预设了完备性与传递性。人类价值真的满足它们吗?

一致性风险度量

Coherent Risk Measures · 一把合格的风险尺子该满足什么
Convex Analysis
直觉版

方差是最常用的风险刻度,却有个尴尬:它同样惩罚上涨,而没人害怕赚太多。于是有了统治九十年代风控的 VaR——95% 置信水平下的那条线:95% 的日子里亏损不会超过它。

问题是它只报告门槛的位置,对门槛之外一字不提:两个组合可以 VaR 相同,一个再往外只多亏一点,另一个直接归零。更糟的是,把两笔各自 VaR 很小的资产打包,合并后的 VaR 可能大于两者之和——分散化竟让风险读数升高。尺子坏了。

VaR₉₅ 门槛在哪 CVaR₉₅ 门槛之外有多惨 损失分布 损失 → 5% 尾部
正式定义

Artzner 等人(1999)反过来问:一把合格的尺子该满足什么?把 $\rho(X)$ 读作「要垫进多少现金,头寸 $X$ 才算安全」,答案是四条公理:单调性平移不变性 $\rho(X+c)=\rho(X)-c$(加现金抵掉同额风险)、正齐次性次可加性 $\rho(X+Y)\le\rho(X)+\rho(Y)$。四条全满足者称一致性风险度量。VaR 恰恰卡在最后一条上,而条件风险价值

$$\mathrm{CVaR}_\alpha(L)=E\big[\,L \mid L\ge \mathrm{VaR}_\alpha(L)\,\big]$$

——尾部的平均损失,而非尾部的入口——四条全过。

为什么美

次可加性看着像技术条件,实则是「分散化不该让风险变大」这句常识的精确编码。真正漂亮的是它的推论:任何一致性风险度量都可写成 $\rho(X)=\sup_{Q\in\mathcal Q}E_Q[-X]$——在一族候选概率 $\mathcal Q$ 上取最坏情形的期望损失。这把两件事证明成同一件:「我厌恶风险」与「我不确定该用哪个概率、于是按最坏的那个打算」等价。四条朴素公理经凸对偶一走,稳健与悲观合二为一。

应用

巴塞尔协议 2016 年把市场风险的监管指标从 VaR 换成 ES(即 CVaR),理由正是次可加性;Rockafellar 与 Uryasev 证明 CVaR 优化可化为线性规划,风控从此可算。同一个 $\sup_Q$ 在机器学习里叫分布鲁棒优化:最小化的不是训练分布上的平均损失,而是其邻域内一族分布中的最坏损失,用以抵抗分布漂移。

一句话精华 + 思考题
一把风险尺子的公理,决定了它奖励还是惩罚分散化。
思考题:$\sup_Q$ 里那族 $\mathcal Q$ 该取多大?取小了不稳健,取大了最优策略退化为「什么都不做」——这个取舍有客观答案吗?

Kelly 准则

The Kelly Criterion · 财富被乘时,该最大化什么
Information Theory
直觉版

有一个对你有利的赌局,可反复玩,你自由决定每次押身家的几成。全押?只要输一次就永久出局——破产是吸收态,此前赢多少次都补不回来。只押百分之一?稳,但慢到没意义。中间必有一个最优比例。

要点在于:财富是被的,不是被加的。乘法过程的长期表现由几何平均决定,而几何平均等价于 $\log$ 的算术平均。该最大化的从来不是每轮期望收益,而是期望的对数增长率

g(f*) f* f*/2 2f* 增长率归零 下注比例 f 长期增长率 g(f) 左缓 右陡
正式定义

设赔率 $b{:}1$(押 1 赢 $b$),胜率 $p$,$q=1-p$,每轮押现有财富的比例 $f$。$n$ 轮后 $W_n=W_0(1+fb)^{k}(1-f)^{n-k}$,$k$ 为胜数。取对数、除以 $n$,由大数定律得长期增长率

$$g(f)=\lim_{n\to\infty}\tfrac1n\log\tfrac{W_n}{W_0}=p\log(1+fb)+q\log(1-f)\ \Longrightarrow\ f^*=\frac{pb-q}{b}=\frac{\text{优势}}{\text{赔率}}$$

注意 $\log$ 不是被假设的效用偏好,它是「把乘法变加法、好让大数定律用得上」的必然产物。

为什么美

Kelly 1956 年在贝尔实验室写下这个结果,隔壁坐着 Shannon,论文标题叫《信息率的新解释》。对公平赔率的二元赌局,最优增长率是 $g^*=\log 2-H(p)$,$H$ 为 Shannon 熵。右边是「你比无知者多掌握的信息量」,左边是「你的钱能以多快的指数速度增长」。你能赚到的,恰好等于你比别人多知道的。一个度量编码长度的量,未加修饰就成了财富增长率的上界——信息论与赌博是同一个定理的两次读法。

应用

Thorp 用它做 21 点与可转债套利,并把 Kelly 带进对冲基金的仓位管理。实践中通常只押 half-Kelly:如上图,$g(f)$ 在 $f^*$ 附近极平坦,右侧却急坠并在 $2f^*$ 处穿零,而 $p$ 永远是估出来的——在左缓右陡的曲线上,估计误差应当往左让。

一句话精华 + 思考题
当财富被乘而不是被加,理性目标从期望值变成期望对数——这一步换掉的不是偏好,是时间。
思考题:一次性的重大决策(转行、创业)没有「重复多轮」可言,Kelly 的论证还剩下什么?

多臂老虎机

Multi-Armed Bandits · 给「无知」明码标价
Sequential Decision
直觉版

一排老虎机,回报分布各异而你并不知道。每拉一次杆你同时在做两件事:赚这一次的钱,和买一点「哪台更好」的信息。信息不能单买——它只能作为下注的副产品被取得,这正是它区别于普通优化之处。一直拉当前最好的那台,可能永远错过真正的好机器;挨个轮流试,拉杆又大多浪费在已知的坏机器上。这个张力无法消除,只能定价。

回报估计 拉过 400 次 拉过 9 次 ← 本轮选它 拉过 120 次 拉过 30 次 最高上界 圆点 = 均值,竖线 = 置信半径
正式定义

$K$ 台机器,第 $a$ 台的期望回报为 $\mu_a$,最优者 $\mu^*$。衡量算法好坏的不是总收益,而是后悔——与「一开始就知道答案」之间的差距 $R_T=T\mu^*-E\big[\sum_{t=1}^{T}\mu_{a_t}\big]$。UCB 算法每一步选

$$a_t=\arg\max_a\ \hat\mu_a+\sqrt{\frac{2\ln t}{n_a}}$$

$\hat\mu_a$ 是当前估计(利用),根号项是置信半径:拉得越少($n_a$ 小)它越宽,且随 $t$ 缓慢抬升。这是给「无知」明码标价,并让久未验证的选项自动重新浮上来。上图中被选中的,正是均值不最高、但上界最高的那台。

为什么美

Lai 与 Robbins(1985)证明任何合理算法都逃不掉 $R_T=\Omega(\log T)$,而 UCB 达到 $O(\log T)$——上下界同阶。这意味着「乐观地面对不确定性」不是工程启发式,而是可证明最优的原则

更意外的是 Gittins(1979):折扣无限期下的最优策略竟可分解——为每台机器单独算一个只依赖自身历史的指数,拉最大者即可,$K$ 维耦合的动态规划坍缩成 $K$ 个一维问题。而 Thompson 早在 1933 年就提出按后验概率随机抽一台,也同阶最优:频率派的置信上界与贝叶斯的后验采样殊途同归。

应用

A/B 测试用它把流量持续倾向优胜方案,不必等实验跑完;推荐系统冷启动、临床试验的自适应分配、超参数搜索(Hyperband)都直接是 bandit。最著名的一次是把 UCB 装进搜索树节点:UCT 与蒙特卡罗树搜索,AlphaGo 的骨架。LLM 的偏好数据采集同理——候选是臂,标注预算就是拉杆次数。

一句话精华 + 思考题
探索的代价可以被精确定价,而最优的价签叫「乐观」。
思考题:分布式系统的失效检测器同样要在「再等等」与「判定死亡」之间权衡。它能被写成一个 bandit 问题吗?那里的后悔该如何定义?

深入思考

Kelly 最大化对数财富,vNM 却说效用可以是任何凹函数——Kelly 是在偷偷规定一种偏好吗?
Samuelson 为此论战数十年。分歧的实质是时间平均与系综平均:vNM 排序的是一次决策的偏好,Kelly 描述的是单条轨道在时间上的几乎必然行为。对乘法过程二者并不相等(非遍历),因为大数定律作用在 $\log W$ 而非 $W$ 上。所以 Kelly 并非假设「$u=\log$ 恰好正确」:若目标是让轨道以最大速率增长,$\log$ 是被推导出来的。Ole Peters 的遍历经济学更进一步,主张不少所谓行为偏差其实是对非遍历性的正确反应。
期望效用的四条公理里,哪一条最先被真人违反?
独立性。Allais(1953)的两组彩票让绝大多数人的选择自相矛盾,根源是对「确定性」的额外偏好。更根本的攻击来自 Ellsberg(1961):人们宁赌已知比例的摸球,也不赌比例未知的——被厌恶的不是风险,是概率本身的不确定。它的修补正是概念二:把单一概率换成一族 $\mathcal Q$ 取最坏,模糊厌恶就成了一致性风险度量。
若老虎机的回报分布随时间漂移,$\log T$ 的后悔界还成立吗?
不成立,算法必须主动遗忘。平稳设定下 $\sqrt{2\ln t/n_a}$ 依赖「样本越多估计越准」;一旦分布会变,旧样本反而有害。滑动窗口或折扣 UCB 把后悔改写成与变化次数相关的形式,典型量级退化到 $T^{2/3}$。代价是必须先回答「多久以前的证据算过期」——这个参数没有免费的最优值,它编码的正是你对世界变化速度的先验。这与分布式系统整定超时阈值是同一个难题。
四个概念之间,是否存在一条统一的主线?
可以按「你被允许知道什么」排序:期望效用假设概率已知且只决策一次;风险度量承认概率本身不确定,用一族 $\mathcal Q$ 取最坏;Kelly 假设概率已知但决策无限重复,目标从期望换成增长率;bandit 连概率都要边做边学,代价被量化成后悔。四者是同一个问题在「信息 × 重复次数」两维上的四个格点——缺哪一维,建议就会在另一维上出错。