abc小站

2026-10-09

一个月 10 万刀的 Devin 账单,LiteLLM 把计算器按冒烟了

LiteLLM 开源自托管云端 coding agent Moyai:自称单月 Devin 账单 101,872 美元,换成 Moyai 约省 79%。按人头收钱,还是按活付钱?

01

前两天刷到 LiteLLM 发了篇博客。

标题很平静:开源一个叫 Moyai 的东西。

一个可以自己托管的云端 coding agent。

本来我还在想,又一个 agent,这个月第几个了?

结果往下一翻,看到一个数字。

101,872 美元。

这是 LiteLLM 团队自称的,他们单月的 Devin 账单。

冒昧了。

十万刀,一个月。

这已经不是买工具了,这是在给 AI 发工资,而且发的是高管那一档。

然后他们说,同样的产出,换成 Moyai,一天大约 700 美元。

31 天,大约 21,700 美元。

省了大约 79%。

所以问题来了。

一家公司宁可自己撸一个轮子,也不愿意继续交这笔钱。

到底是 Devin 太贵?

还是 AI 写码这门生意,本来就不该按人头收钱?

02

先说清楚,Moyai 到底是个啥。

说白了就是一个你自己部署的“云端程序员”。

你在 Slack 里丢一句话,或者在浏览器里下个任务。

它就去干活。

干完给你开 PR。

最狠的是这一句:笔记本合上了,它照样能开 PR。

为什么?

因为活根本不在你电脑上跑。

你的笔记本只是个下单的柜台,后厨在云上。

这一点很关键。

以前很多人用 AI 写码,是坐在电脑前跟它一来一回地聊。

你一走,它就停。

本质上就是雇了一个必须有人盯着的实习生。

你盯着它的时候,你自己也在上班。

这笔账其实是双份的:AI 的钱一份,你盯它的工时一份。

现在不一样了。

任务丢出去,人可以去开会,去吃饭,去合上电脑下班。

回来看 PR 就行。

举个场景,纯属假设。

周五下午五点半,产品在群里说,这个按钮文案改一下,那个接口加个字段。

以前你会怎么办?

叹口气,打开电脑,跟 AI 聊半小时,盯着它改,盯着它跑。

现在呢?

在 Slack 里把需求转一句给它。

然后合上电脑,下班。

周一早上来,PR 在那等着你审。

你要做的,是看它改得对不对,而不是陪它从头改到尾。

这才叫把活“派出去”,而不是“陪着干”。

对打工人来说,区别非常朴素。

一个是你陪 AI 加班。

一个是 AI 替你加班。

03

再说它的结构,这块其实挺有意思。

Moyai 没有死磕“我家 agent 天下第一”。

它的路子是:可以跑一堆现成的 harness。

Claude Code。

Codex。

OpenCode。

Deep Agents。

Hermes。

等等。

harness 你可以粗暴理解成 agent 的驾驶舱。

模型是发动机,harness 决定怎么读代码、怎么调工具、怎么一步一步把活干完。

Moyai 干的事,是把这些驾驶舱都摆进同一个调度台里。

你今天觉得这个顺手,就用这个。

明天那个出新版了,换那个。

不用为了换个工具,把整条流程推倒重来。

这叫什么?

这叫不站队。

AI 写码工具这两年的更新速度,大家都看到了。

今天这家领先,下个月那家发新版,再过一阵又换一家。

你要是把整个团队的流程绑死在一家身上,等于把方向盘交给别人。

哪天人家涨价、改规则,你连讨价还价的底气都没有。

harness 能换,就是给自己留了一条退路。

风控里最朴素的一句话:别把鸡蛋放在一个篮子里。

然后是第二层:所有模型请求,都走 LiteLLM。

LiteLLM 后面接着 100 多家 provider。

这一下,算盘就露出来了。

harness 可以换,模型可以换,但请求全从一个口子过。

口子在谁手里?

在你自己手里。

你想想看,这和按席位买托管服务差在哪?

托管服务的逻辑是打包。

你按人头交钱,买的是一整套,里面怎么配、怎么跑,是人家的事。

自托管加自家网关,是把打包拆开。

驾驶舱你挑,发动机你挑,油从你自己的加油站出。

讲道理,对一家天天跟模型请求打交道的网关公司来说,最难受的大概就是自己的账从别人的口子过。

04

账得算细。

先打个招呼:下面的源头数字,全部是 LiteLLM 团队自称,不是第三方审计。

你愿意信几成,自己掂量。

Devin 那边:单月 101,872 美元。

按 31 天摊,每天大约 3,286 美元。(这是我拿他们的数字自己按的计算器)

Moyai 这边:每天大约 700 美元。

31 天,大约 21,700 美元。

一个月差出来大约 80,172 美元。

80,172 除以 101,872,大约 78.7%。

四舍五入,79%,和他们自己说的对得上。

换个说法,原来一天的钱,现在差不多能撑四天半。

那这 700 美元一天,到底花在哪?

素材里没拆。

我也不替他们瞎编。

但能确定的是,Moyai 本身开源,跑真任务又要接 Modal 和 LiteLLM gateway。

从结构上推,这 700 刀的大头,应该落在云上跑任务和模型推理这些用量上。

至于具体怎么分,没有公开拆账,这句只是我的推断,别当真。

而模型推理那一块,正好走他们自己的网关。

这就很有意思了。

按席位计费的逻辑是什么?

按人头收钱。

团队里多一个人要用,就多一份钱。

但 AI 写码这件事,真正烧钱的从来不是“几个人在用”。

而是“跑了多少任务、调了多少次模型”。

一个人一天派二十个任务,和二十个人一人派一个任务。

按人头算,账单天差地别。

按机器干的活算,差不多。

按人头收钱,收的是组织架构的钱。

按用量付钱,付的才是活的钱。

按人头收,对卖方的好处很明显。

收入稳,好预测,好做报表。

对买方来说就未必了。

用得少的那几个座位,钱照交。

用得多的那几个人,又恨不得一个人顶十个座位用。

这两个口径一错位,账就很难算清楚。

而算不清的账,最后往往都是买方多掏。

05

那是不是大家都该连夜把 Devin 退了?

别急。

先看门槛。

本地 demo 倒是很简单,克隆下来,进到项目目录,三行命令:

git clone https://github.com/BerriAI/moyai.git
    uv sync
    uvicorn app.main:app --port 8787
    

跑起来,服务就挂在本机 8787 端口上。

但注意,这只是 demo。

看看样子,摸摸流程,可以。

真要让它干活,得接上 Modal 和 LiteLLM gateway。

翻译成人话就是——

本地那三行,是样板间。

Modal 加网关,才是交房。

而交房之后,物业是你自己。

自托管省下来的钱,不是大风刮来的。

你得有人搭,有人维护,有人在任务卡住的时候去查到底卡在哪一层。

是 harness 的问题?

是模型的问题?

还是云上那一侧的问题?

这部分人力成本,不会出现在那张 21,700 美元的对比里。

所以这笔账,到底对谁最划算?

对那种已经在大量用 coding agent、每月账单已经肉疼、手里又有人能折腾基础设施的团队。

一个月账单本来就没几个钱的小团队,折腾自托管,省下来的钱可能还不够工程师加班喝咖啡。

一个月账单十万刀的团队,那就不叫省钱了。

那叫止血。

如果你是团队负责人,动手之前,可以先问自己三个问题。

第一,你现在每个月花在 coding agent 上的钱,到底是多少?

第二,这些钱里,有多少是真的在跑任务,有多少是座位空着也在交?

第三,你团队里,有没有人愿意、并且有能力去接 Modal 和网关这一摊?

三个问题,有一个答不上来,先别急着迁。

先把本地 demo 跑起来看看,几行命令的事。

样板间看着顺眼,再谈交房。

06

最后说说 LiteLLM 自己的算盘。

一家做网关的公司,为什么要开源一个 coding agent?

你品。

Moyai 的模型请求,都走 LiteLLM。

Moyai 用的人越多,网关在团队技术栈里就扎得越深。

它不是在跟 Devin 比“谁的 agent 更聪明”。

它甚至都不自己造驾驶舱,现成的 harness 拿来就跑。

它是在掀桌子。

意思很直白:这桌饭,本来就不该按人头收钱。

agent 开源给你,自己托管。

推理走网关。

这就是卖铲子的人,顺手把矿场图纸也送了。

图纸不要钱。

铲子你总得用吧?

当然,这对我们这些用的人来说,是好事。

托管服务那边,要么想办法把价格讲明白,要么拿出比开源更值钱的东西。

开源这边,要么越来越好用,要么就只是一张漂亮的账单截图。

无论哪种,买方都不亏。

他们互相算账,我们坐收省钱。

至于那十万刀、那 79%——

都先按 LiteLLM 团队自称的口径看。

别神话。

但也别假装没看见:AI 写码这门生意,计价方式已经开始被人拿着计算器追着问了。

只能说,我爱这个魔幻的世界。

来源:LiteLLM 官方博客:Moyai 开源(2026-10-07);GitHub:BerriAI/moyai。账单与约 79% 省钱比例均为 LiteLLM 团队自称;按日折算与差额为作者用这些数字做的算术,不代表官方另有披露。