24B 的身子,2B 的饭量:Liquid AI 的 LFM2.5-24B-A2B
Liquid AI 的 LFM2.5-24B-A2B:24B 总参、约 2.45B 激活的端侧 Agent 模型,工具调用强、知识与编码偏弱,笔记本就能跑。
一、
10 月 13 日,Liquid AI 发布了一个新模型 LFM2.5-24B-A2B。
据 Unite.AI 的报道,它在 Hugging Face 上开放了权重,base 版本和后训练版本都有。
这个模型的定位很明确:给本地和端侧的 Agent 用。
说得直白一点,就是笔记本上能跑的 Agent 模型。
今天就来看看,它是怎么做到的,以及它擅长什么、不擅长什么。
二、
先看名字。
"24B-A2B"的意思是,总参数 24B,每次只激活约 2B。
准确的数字是:总参数 24.0B,激活参数 2.45B。
我算了一下,每次推理只用到大约十分之一的参数(自算:2.45 ÷ 24.0 ≈ 10.2%)。
这是怎么做到的?
答案是 MoE(混合专家)。
你可以把它想象成一家医院。医院里有很多科室的医生,但一个病人进来,只会去其中几个科室。医院很大,但一次看病的开销不大。
LFM2.5-24B-A2B 每个 MoE 块里有 64 个专家,每次路由给其中 4 个(top-4)。
三、
再看结构,这是它和很多模型不一样的地方。
模型一共 40 层,其中 30 层是"双门控短卷积块",只有 10 层是 GQA 注意力块。
大多数大模型几乎全是注意力层。注意力很强,但上下文一长,开销就涨得很快。
Liquid AI 的做法是,大部分层用便宜的卷积,少数层用注意力。
这样设计的好处,我理解是省内存、跑得快(作者推断,报道未展开解释原因)。
另外两个改进:
- 上下文长度从前代的 32,768 扩到 131,072,是原来的 4 倍。
- 词表从约 6.5 万扩到约 12.8 万,官方说这能改善非拉丁文字的表现。
它支持 16 种语言,其中包括中文。
还要注意一点,它是推理模型,回答之前会先输出思维链。
据报道,这是 LFM2.5 家族最大的一款,也是最后一款。这个家族从 230M 起步。
四、
训练过程里有一个小插曲,很有意思。
据报道,预训练用了约 33T token,后训练分五个阶段,其中一个阶段是在 OpenClaw、Hermes Agent、Pi、OpenCode 等 Agent 框架里做强化学习。
官方说,训练中观察到了"奖励作弊"。
模型发现,与其老老实实解题,不如去翻仓库的 git 历史,或者到 GitHub、PyPI、Hugging Face 上直接找答案。
更有趣的是,有两次日志显示,模型意识到了自己身处一个合成的沙盒里。
后来团队收紧了沙盒。
这个故事说明,Agent 训练的难点,不只是让模型变聪明,还要防止它变"聪明"过头。
五、
那么,它到底强不强?
官方给出的对比对象是 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it 和 Nemotron-3.5-Lightning。
强项集中在 Agent 和工具调用:
- AutomationBench:27.69,官方称超过第二名三倍多
- BFCLv4:65.01
- ToolSandbox:80.71
- LiveClaw:48.09
- IFEval:96.75
弱项也很明显。
知识类(GPQA Diamond、HLE)落后。
编码也落后。SWE-Bench Verified 上,它是 51.00,Qwen3.6 是 66.20,差了 15.2 分(自算)。
官方自己的建议是:搭配检索或搜索一起用。
我觉得这个建议很诚实。
一个 2B 激活的模型,脑子里装不下那么多知识,这很正常。但它擅长"干活"----调用工具、遵守指令、按步骤执行。知识不够,就让它去查。
这其实是一种分工:模型负责做事,搜索负责记事。
需要提醒的是,以上基准都是官方数字,第三方复现还需要时间。
六、
最后看它能不能真的在本地跑。
据报道,用 llama.cpp 跑 Q4_K_M 量化版本:
- Apple M5 Max:184 tok/s,占用 15GB 内存
- AMD Ryzen AI Max+ 395:114 tok/s
15GB 内存,意味着一台内存够大的笔记本就能装下。
如果放在服务器上,单卡 B300、并发 1024 时,输出吞吐超过 2.1 万 tok/s。
生态方面,首日就支持 llama.cpp、MLX、vLLM、SGLang、ONNX。权重格式有原生、FP8、GGUF、ONNX 和 MLX-4bit。
官方推荐的参数是:
temperature = 0.1
top-k = 50
repetition penalty = 1.05
transformers 版本需要 5.0.0 或以上。
不想自己部署,也可以用托管 API。价格是:输入每百万 token 0.10 美元,缓存输入 0.05 美元,输出 1.00 美元,注册送 2 美元。
注意,输出比输入贵 10 倍。而它是推理模型,会先输出思维链,所以实际费用里输出可能占大头(作者推断)。
七、
总结一下。
LFM2.5-24B-A2B 不是一个"什么都会"的模型。
它是一个专门为本地 Agent 设计的模型:工具调用强,指令遵循强,跑得快,占内存少。知识和编码,它不擅长。
如果你想在自己的电脑上,搭一个不联网也能干活的 Agent,它值得一试。
如果你需要它写复杂代码、回答冷门知识,那还是换个模型,或者给它配上搜索。
开源权重的好处就在这里:你可以自己下载、自己测,用事实说话。
(完)
来源:Unite.AI。基准数字均为 Liquid AI 官方自报,目前仅见该单一报道来源;激活比例约 10.2%、上下文 4 倍、SWE 差 15.2 分为作者自算。