一个 27B 的模型,凭什么说自己会"干活":OpenCSG Agentic-27B 的账,和那行小字
算成绩、显存、吞吐的账;许可是 OpenCSG 自定义协议,商用需书面授权;pass@3 不等于上线通过率。
今天聊一个模型。
OpenCSG 的 Agentic-27B。
名字很直白。
Agentic,意思是"能干活的"。
27B,意思是 270 亿参数级别。
但这年头,名字里带 Agent 的模型,比路边卖煎饼的摊子还多。
所以问题就一个:
它到底是真能干活,还是只会在 PPT 里干活?
我们一笔一笔算。
01
先说它想干什么。
据 Hugging Face 模型页,Agentic-27B 是一个面向 Skills、工具调用、私有化执行的 27B dense Agent 模型。
翻译成人话:
它不是陪你聊天的。
它是让你在自己的服务器上,接一堆工具,然后让它一步一步把活干完的。
官方反复强调的一个词是:真实多步工具执行。
什么叫多步?
不是你问一句、它答一句。
而是查资料、调接口、读结果、再调下一个接口,一环扣一环。
这种活,最怕的不是不聪明。
是中间某一步掉链子。
一步错,后面全白干。
02
再看它的家底。
基座是 Qwen3.8-27B。
参数约 27.36B,BF16 精度。
训练方法是 LoRA DPO,用了大约 5857 条样本。
上一代用了大约 3000 条。
我算了一下(以下为自算),样本量差不多翻了一倍,约 1.95 倍。
注意,5857 条,这个数在大模型训练里不算多。
它说明一件事:
这不是从头造一个模型。
这是在一个现成的好底子上,做针对性的"岗前培训"。
这种做法省钱,也省时间。
但上限,很大程度上取决于底子本身。
03
然后是成绩单。
官方称,Agentic Eval 平均分 0.83。
上一代是 0.46。
自算一下,约 1.8 倍。
另一个数字:pass@3 为 96/103。
pass@3 的意思是,同一道题给三次机会,至少一次做对就算过。
96/103,自算约 93.2%。
看着很漂亮对吧?
但有两件事你得心里有数。
第一,Agentic Eval 是什么评测、题目从哪来,模型页给的信息有限,外部复现情况也不清楚。
第二,pass@3 是"三次里对一次"。
真实业务里,你的流程可不一定允许它试三次。
试三次,就是三倍的时间和三倍的算力。
所以,这个成绩可以参考,但别直接当成上线后的通过率。
04
接下来,算硬件的账。
这一节是最实在的。
官方称,单卡 A800 80GB 加载约占 51.1 GiB。
我验算了一下(以下为自算):27.36B 参数,BF16 每个参数 2 字节,约 54.7 GB,换算成 GiB 约 51 GiB。
和官方数字对得上。
80GB 的卡,大约是 74.5 GiB。
减掉权重,还剩二十来个 GiB(自算,约 23 GiB)。
这部分要留给 KV cache、并发请求这些东西。
够不够用?
看你的上下文多长、并发多高。
官方给了一个吞吐:并发 8,约 212.93 tok/s。
如果平均分(以下为自算且假设各请求均匀),每路大约 26.6 tok/s。
这个速度,干后台批处理没问题。
拿来做要求秒回的交互,就得自己再掂量掂量。
部署方面,模型页的 vLLM 示例里带了 auto-tool-choice 和 qwen3_xml parser。
意思是,工具调用的解析,官方已经给你铺了一条现成的路。
这一点对想私有化部署的团队来说,省了不少踩坑的功夫。
05
好,重点来了。
那行小字。
很多人看到"开源模型"四个字,脑子里自动补全成"免费随便用"。
不是的。
据模型页,Agentic-27B 用的是 OpenCSG 自定义许可协议。
商用,需要书面授权。
我再说一遍:
商用,需要书面授权。
这意味着什么?
意味着你可以下载、可以研究、可以在自己机器上跑。
但你要是拿它去做产品、去赚钱,得先找 OpenCSG 拿到书面许可。
不拿就用,那叫埋雷。
雷什么时候炸,不由你决定。
以下是我的推断:对企业来说,这一条比任何跑分都重要。
因为跑分差一点,最多是效果差一点。
许可没理清,可能是整个项目推倒重来。
所以,打算商用的朋友,第一步不是部署。
是先去读许可全文,然后发邮件。
06
最后,说说我的看法。
以下都是推断,不是官方说法。
Agentic-27B 这类模型,代表了一个很现实的方向:
不追求最大,追求在一张卡上,把多步工具执行做稳。
对很多不想把数据交给云端的企业来说,这正是刚需。
一张卡,一个模型,一套工具,自己的数据不出门。
账是算得过来的。
但前提是三件事都想清楚:
成绩要在自己的业务上复测;
硬件余量要按自己的并发去算;
许可要先拿到书面授权。
三件事,少一件,都别急着上生产。
毕竟,模型是别人的,锅是自己的。
来源:Hugging Face:opencsg/Agentic-27B。显存与吞吐为作者自算(吞吐假设均匀);许可与上线判断为作者解读,正文已标明。