abc小站

2026-10-13

一个 27B 的模型,凭什么说自己会"干活":OpenCSG Agentic-27B 的账,和那行小字

算成绩、显存、吞吐的账;许可是 OpenCSG 自定义协议,商用需书面授权;pass@3 不等于上线通过率。

今天聊一个模型。

OpenCSG 的 Agentic-27B。

名字很直白。

Agentic,意思是"能干活的"。

27B,意思是 270 亿参数级别。

但这年头,名字里带 Agent 的模型,比路边卖煎饼的摊子还多。

所以问题就一个:

它到底是真能干活,还是只会在 PPT 里干活?

我们一笔一笔算。


01

先说它想干什么。

据 Hugging Face 模型页,Agentic-27B 是一个面向 Skills、工具调用、私有化执行的 27B dense Agent 模型。

翻译成人话:

它不是陪你聊天的。

它是让你在自己的服务器上,接一堆工具,然后让它一步一步把活干完的。

官方反复强调的一个词是:真实多步工具执行。

什么叫多步?

不是你问一句、它答一句。

而是查资料、调接口、读结果、再调下一个接口,一环扣一环。

这种活,最怕的不是不聪明。

是中间某一步掉链子。

一步错,后面全白干。

02

再看它的家底。

基座是 Qwen3.8-27B。

参数约 27.36B,BF16 精度。

训练方法是 LoRA DPO,用了大约 5857 条样本。

上一代用了大约 3000 条。

我算了一下(以下为自算),样本量差不多翻了一倍,约 1.95 倍。

注意,5857 条,这个数在大模型训练里不算多。

它说明一件事:

这不是从头造一个模型。

这是在一个现成的好底子上,做针对性的"岗前培训"。

这种做法省钱,也省时间。

但上限,很大程度上取决于底子本身。

03

然后是成绩单。

官方称,Agentic Eval 平均分 0.83。

上一代是 0.46。

自算一下,约 1.8 倍。

另一个数字:pass@3 为 96/103。

pass@3 的意思是,同一道题给三次机会,至少一次做对就算过。

96/103,自算约 93.2%。

看着很漂亮对吧?

但有两件事你得心里有数。

第一,Agentic Eval 是什么评测、题目从哪来,模型页给的信息有限,外部复现情况也不清楚。

第二,pass@3 是"三次里对一次"。

真实业务里,你的流程可不一定允许它试三次。

试三次,就是三倍的时间和三倍的算力。

所以,这个成绩可以参考,但别直接当成上线后的通过率。

04

接下来,算硬件的账。

这一节是最实在的。

官方称,单卡 A800 80GB 加载约占 51.1 GiB。

我验算了一下(以下为自算):27.36B 参数,BF16 每个参数 2 字节,约 54.7 GB,换算成 GiB 约 51 GiB。

和官方数字对得上。

80GB 的卡,大约是 74.5 GiB。

减掉权重,还剩二十来个 GiB(自算,约 23 GiB)。

这部分要留给 KV cache、并发请求这些东西。

够不够用?

看你的上下文多长、并发多高。

官方给了一个吞吐:并发 8,约 212.93 tok/s。

如果平均分(以下为自算且假设各请求均匀),每路大约 26.6 tok/s。

这个速度,干后台批处理没问题。

拿来做要求秒回的交互,就得自己再掂量掂量。

部署方面,模型页的 vLLM 示例里带了 auto-tool-choice 和 qwen3_xml parser。

意思是,工具调用的解析,官方已经给你铺了一条现成的路。

这一点对想私有化部署的团队来说,省了不少踩坑的功夫。

05

好,重点来了。

那行小字。

很多人看到"开源模型"四个字,脑子里自动补全成"免费随便用"。

不是的。

据模型页,Agentic-27B 用的是 OpenCSG 自定义许可协议。

商用,需要书面授权。

我再说一遍:

商用,需要书面授权。

这意味着什么?

意味着你可以下载、可以研究、可以在自己机器上跑。

但你要是拿它去做产品、去赚钱,得先找 OpenCSG 拿到书面许可。

不拿就用,那叫埋雷。

雷什么时候炸,不由你决定。

以下是我的推断:对企业来说,这一条比任何跑分都重要。

因为跑分差一点,最多是效果差一点。

许可没理清,可能是整个项目推倒重来。

所以,打算商用的朋友,第一步不是部署。

是先去读许可全文,然后发邮件。

06

最后,说说我的看法。

以下都是推断,不是官方说法。

Agentic-27B 这类模型,代表了一个很现实的方向:

不追求最大,追求在一张卡上,把多步工具执行做稳。

对很多不想把数据交给云端的企业来说,这正是刚需。

一张卡,一个模型,一套工具,自己的数据不出门。

账是算得过来的。

但前提是三件事都想清楚:

成绩要在自己的业务上复测;

硬件余量要按自己的并发去算;

许可要先拿到书面授权。

三件事,少一件,都别急着上生产。

毕竟,模型是别人的,锅是自己的。

来源:Hugging Face:opencsg/Agentic-27B。显存与吞吐为作者自算(吞吐假设均匀);许可与上线判断为作者解读,正文已标明。