不是每件事都要请专家：书生·明决与“快慢分流”的成本账
小模型做系统1、按置信度把难题转给大模型：111 题上 97 对、耗时约省 53%；明决与 THX-01 是不同产品。
你好，我是刘润。
今天想和你聊一个模型，书生·明决，英文名 Intern-Decision。
但我不想只聊模型。我想借它聊一个更底层的问题：
当“思考”有成本的时候，谁来决定哪件事值得想？
一个小模型，到底在做什么？
据上海人工智能实验室官方发布，书生·明决是一个多模态决策模型。
“决策模型”是什么意思？
它不负责写长文章、不负责推理复杂的数学题。它负责的是：看一眼画面，然后做一个动作。
比如，看游戏画面，决定按哪个键。看一张验证码，决定点哪里。
官方用了一个词，叫“系统1快思考”。
这个说法来自心理学。人的思考大致分两种：
系统1，快、直觉、几乎不费力。比如看到红灯就停。
系统2，慢、费力、需要推理。比如算一道 17×24。
大模型擅长系统2，但每次调用都贵、都慢。明决想做的，是系统1。
快，到底有多快？
明决有三个尺寸：0.8B、2B、4B。
据官方数据，在一张 4090 显卡上：
0.8B 和 2B 的端到端延迟约 33 毫秒；
4B 约 44.16 毫秒；
作为对比的 Jev，约 109.70 毫秒。
我算了一下（以下为自算）：4B 的延迟大约是 Jev 的 40%，也就是快了约 2.5 倍；0.8B/2B 大约快了 3.3 倍。
快，还得准。
官方称，在 7 项评测上，4B 平均分 90.02，高于 Jev 的 88.74。其中 Typed Decision 80.55，ToolACE 96.45。
所以，明决的定位是：又快，又不比对手差。
但这还不是最有意思的部分。
真正的问题：小模型不会的怎么办？
一个 4B 的模型，再快，也有做不对的时候。
怎么办？
传统思路有两种。
第一种，全部交给大模型。准，但慢、贵。
第二种，全部交给小模型。快、便宜，但会出错。
有没有第三种？
有。叫“分流”。
官方的做法是：让明决和大模型按置信度分流。明决有把握的，自己做；没把握的，交给大模型。
这就像一家医院。
感冒发烧，全科医生看就行了。疑难杂症，再转给专家。
你不会让院士去看每一个感冒。不是院士看不好，是太贵了。
一组数字，看懂分流的账
官方给了一组非常关键的实验。
在一组 111 道任务上，明决 4B 和大模型 Atria-Dawn-Preview 搭档：
单用明决 4B：做对 82 道；
单用大模型：做对 99 道，耗时 300 秒；
分流：做对 97 道，耗时约 140 秒。官方称，省了约 53% 的时间。
我们把它换算成正确率（以下为自算）：
单用 4B：82/111 ≈ 73.9%
单用大模型：99/111 ≈ 89.2%
分流：97/111 ≈ 87.4%
你发现了吗？
分流只比全用大模型少对了 2 道题，却只用了不到一半的时间。
用一个公式来表达：
总成本 = 小模型处理量 × 小模型单价 + 转交量 × 大模型单价
分流的本质，是把“转交量”压到最低，同时守住正确率。
这里要说清楚，官方只给了时间数据，没有给出费用数据。所以“省钱”这一层，是我按“耗时越少、调用大模型越少”推断的，不是官方数字。
为什么这件事重要？
因为在 AI 应用里，有一个经常被忽视的变量：每一次“思考”的边际成本。
过去，我们讨论模型，都在问：谁更聪明？
但在真实业务里，问题往往是：
用户价值 = 正确率 × 响应速度 ÷ 单次成本
一个只追求正确率的系统，可能会让用户等得不耐烦，或者让企业算不过账。
一个只追求便宜的系统，又会频繁出错。
分流，其实是在这三个变量之间找一个最优解。
它的逻辑链条是：
小模型先判断 → 置信度高则直接执行 → 置信度低则转交大模型 → 整体时间下降、正确率接近上限
它和“只做判断”的模型有什么不同？
这里要特别说明一句，避免混淆。
前几天我们聊过另一个“只做判断”的小模型。书生·明决和它，是两家不同机构、两个不同的产品，不要混为一谈。
明决的特点是：多模态，能看画面、做动作，并且官方明确把它设计成和大模型“按置信度分流”的搭档。
据官方透露，明决之后将接入书生·端砚。
对你有什么启发？
我想借这个模型，给你三个启发。以下都是我的推断和观点，不是官方说法。
第一，不要用专家去解决所有问题。
如果你在做 AI 产品，先看看你的任务里，有多少是“系统1”的活儿。这部分，用小模型就行。
第二，分流的关键，是“知道自己不知道”。
分流能不能成立，取决于小模型的置信度准不准。如果它对错的答案也很有信心，那分流就会失效。
第三，算账，要算“全链路”。
不要只比较单个模型的单价或分数。要算：在你的真实业务里，哪种组合，在可接受的正确率下，总时间和总成本最低。
最后的话
人类为什么进化出了系统1？
因为大脑是一个非常耗能的器官。如果每件事都用系统2去想，我们早就累垮了。
AI 也一样。
真正聪明的系统，不是每件事都想得最深，而是知道什么事值得想。
这，可能就是明决给我们最大的启发。
来源：上海人工智能实验室：书生·明决；GitHub Intern-Decision；Hugging Face Intern-Decision collection。正确率百分比与倍数为作者自算；「省钱」为推断，官方只给时间。