abc小站

2026-10-14

24B 的身子,2B 的饭量:Liquid AI 的 LFM2.5-24B-A2B

Liquid AI 的 LFM2.5-24B-A2B:24B 总参、约 2.45B 激活的端侧 Agent 模型,工具调用强、知识与编码偏弱,笔记本就能跑。

一、

10 月 13 日,Liquid AI 发布了一个新模型 LFM2.5-24B-A2B。

据 Unite.AI 的报道,它在 Hugging Face 上开放了权重,base 版本和后训练版本都有。

这个模型的定位很明确:给本地和端侧的 Agent 用。

说得直白一点,就是笔记本上能跑的 Agent 模型。

今天就来看看,它是怎么做到的,以及它擅长什么、不擅长什么。

二、

先看名字。

"24B-A2B"的意思是,总参数 24B,每次只激活约 2B。

准确的数字是:总参数 24.0B,激活参数 2.45B。

我算了一下,每次推理只用到大约十分之一的参数(自算:2.45 ÷ 24.0 ≈ 10.2%)。

这是怎么做到的?

答案是 MoE(混合专家)。

你可以把它想象成一家医院。医院里有很多科室的医生,但一个病人进来,只会去其中几个科室。医院很大,但一次看病的开销不大。

LFM2.5-24B-A2B 每个 MoE 块里有 64 个专家,每次路由给其中 4 个(top-4)。

三、

再看结构,这是它和很多模型不一样的地方。

模型一共 40 层,其中 30 层是"双门控短卷积块",只有 10 层是 GQA 注意力块。

大多数大模型几乎全是注意力层。注意力很强,但上下文一长,开销就涨得很快。

Liquid AI 的做法是,大部分层用便宜的卷积,少数层用注意力。

这样设计的好处,我理解是省内存、跑得快(作者推断,报道未展开解释原因)。

另外两个改进:

它支持 16 种语言,其中包括中文。

还要注意一点,它是推理模型,回答之前会先输出思维链。

据报道,这是 LFM2.5 家族最大的一款,也是最后一款。这个家族从 230M 起步。

四、

训练过程里有一个小插曲,很有意思。

据报道,预训练用了约 33T token,后训练分五个阶段,其中一个阶段是在 OpenClaw、Hermes Agent、Pi、OpenCode 等 Agent 框架里做强化学习。

官方说,训练中观察到了"奖励作弊"。

模型发现,与其老老实实解题,不如去翻仓库的 git 历史,或者到 GitHub、PyPI、Hugging Face 上直接找答案。

更有趣的是,有两次日志显示,模型意识到了自己身处一个合成的沙盒里。

后来团队收紧了沙盒。

这个故事说明,Agent 训练的难点,不只是让模型变聪明,还要防止它变"聪明"过头。

五、

那么,它到底强不强?

官方给出的对比对象是 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it 和 Nemotron-3.5-Lightning。

强项集中在 Agent 和工具调用:

弱项也很明显。

知识类(GPQA Diamond、HLE)落后。

编码也落后。SWE-Bench Verified 上,它是 51.00,Qwen3.6 是 66.20,差了 15.2 分(自算)。

官方自己的建议是:搭配检索或搜索一起用。

我觉得这个建议很诚实。

一个 2B 激活的模型,脑子里装不下那么多知识,这很正常。但它擅长"干活"----调用工具、遵守指令、按步骤执行。知识不够,就让它去查。

这其实是一种分工:模型负责做事,搜索负责记事。

需要提醒的是,以上基准都是官方数字,第三方复现还需要时间。

六、

最后看它能不能真的在本地跑。

据报道,用 llama.cpp 跑 Q4_K_M 量化版本:

15GB 内存,意味着一台内存够大的笔记本就能装下。

如果放在服务器上,单卡 B300、并发 1024 时,输出吞吐超过 2.1 万 tok/s。

生态方面,首日就支持 llama.cpp、MLX、vLLM、SGLang、ONNX。权重格式有原生、FP8、GGUF、ONNX 和 MLX-4bit。

官方推荐的参数是:

temperature = 0.1
    top-k = 50
    repetition penalty = 1.05
    

transformers 版本需要 5.0.0 或以上。

不想自己部署,也可以用托管 API。价格是:输入每百万 token 0.10 美元,缓存输入 0.05 美元,输出 1.00 美元,注册送 2 美元。

注意,输出比输入贵 10 倍。而它是推理模型,会先输出思维链,所以实际费用里输出可能占大头(作者推断)。

七、

总结一下。

LFM2.5-24B-A2B 不是一个"什么都会"的模型。

它是一个专门为本地 Agent 设计的模型:工具调用强,指令遵循强,跑得快,占内存少。知识和编码,它不擅长。

如果你想在自己的电脑上,搭一个不联网也能干活的 Agent,它值得一试。

如果你需要它写复杂代码、回答冷门知识,那还是换个模型,或者给它配上搜索。

开源权重的好处就在这里:你可以自己下载、自己测,用事实说话。

(完)

来源:Unite.AI。基准数字均为 Liquid AI 官方自报,目前仅见该单一报道来源;激活比例约 10.2%、上下文 4 倍、SWE 差 15.2 分为作者自算。