一张图变成一个能走进去的世界:Helix World 实时音画世界模型
从一张图生成可键盘操控、带空间声音的实时世界,单卡 H800 上 768×512@24fps,RTF 约 0.77(按通常定义理解)。
这篇文章介绍一个新发布的模型 Helix World。
它可以从一张图片出发,生成一个可以用键盘操控的世界,而且这个世界是有声音的。
一、世界模型是什么
先说一个概念:世界模型(world model)。
普通的视频生成模型,你给它一句话,它还你一段视频。视频是固定的,看完就结束了。
世界模型不一样。它生成的画面会根据你的操作而变化。你往前走,画面就往前推;你转头,画面就跟着转。
你可以把它想象成一个游戏引擎,只不过里面没有建模、没有贴图、没有物理代码,每一帧画面都是模型"想"出来的。
这类模型过去一两年很热,但大多数只有画面,没有声音。
为什么声音重要呢?
大家可以做一个小实验:把一部电影静音看十分钟。画面一帧不少,可是"身临其境"的感觉会少掉一大半。
Helix World 要补的就是这一块。
二、Helix World 是谁做的
据 Noiz AI 官方博客称,Helix World 由 Noiz AI 与香港科技大学合作完成,定位是"实时交互式音画世界模型"。
论文已经放在 arXiv 上,编号 2609.38123。代码在 GitHub 的 NoizAI/HelixWorld 仓库,预览版权重放在 Hugging Face 的 NoizAI/HelixWorld-preview。
三、怎么玩
用法很简单。
你给它一张图,比如一张街景。然后用 WASD 键移动,用方向键调整视角。
模型会一边生成画面,一边生成和画面对应的声音。
官方说法里,控制方式是"6DoF 镜头 + 键盘控制"。6DoF 就是六个自由度:前后、左右、上下三个方向的移动,加上三个方向的转动。
也就是说,它不是只能沿着一条轨道走,而是理论上可以在空间里自由移动和环顾。
四、"实时"到底有多快
这个模型最引人注意的一点,是"实时"。
据官方介绍,在单张 H800 显卡上,它可以输出 768×512 分辨率、每秒 24 帧的画面,RTF 为 0.77,而且这个数字已经包含了音频和视频的解码时间。
RTF 是 real-time factor 的缩写,中文叫"实时率"。
它的通常含义是:生成时间除以内容时长。小于 1,就说明生成比播放快。
按这个通常含义理解(以下为作者推断,以论文定义为准),RTF 0.77 大约相当于:生成 1 秒的音画内容,用时约 0.77 秒。
这意味着画面不会越播越卡,你按下按键,系统来得及跟上。
当然,要注意前提:这是一张 H800 数据中心显卡上的成绩,不是家用电脑。普通玩家在自己的显卡上能跑成什么样,官方没有给出数字。
五、它是怎么做到的
怎么让一个大模型跑得这么快呢?
官方给了两个关键词。
第一个是基座。Helix World 基于 LTX-2.3 构建。也就是说,它不是从零训练,而是站在一个现成的音视频生成模型上改造出来的。
第二个是"蒸馏因果学生"。
这句话需要拆开解释(以下是一般原理,具体做法以论文为准)。
"蒸馏"是指,先有一个又大又慢、效果好的"老师"模型,再训练一个小而快的"学生"模型去模仿老师的输出。
"因果"是指,学生生成每一帧时,只看过去,不看未来。
为什么要"只看过去"?
因为实时交互里,未来根本还没发生。你下一秒按哪个键,模型不可能提前知道。普通视频模型可以一次性把整段视频前后一起优化,世界模型做不到,它只能一帧接一帧往前推。
所以,"蒸馏 + 因果"合在一起,可以理解为:把一个擅长生成整段视频的老师,教成一个能一帧一帧即时作答的学生。
训练数据方面,官方称用了大约 3000 小时、210 万个片段。
我顺手算了一下(作者自算):3000 小时约等于 1080 万秒,除以 210 万个片段,平均每个片段大约 5 秒。这说明训练用的是大量短片段,而不是长视频。
六、效果怎么样
官方给了几组评测数字。
第一组是导航能力。在 WBench 上,Helix World 的导航均分是 79.9。官方的说法是,这是"快于实时"的模型里最高的。
注意这个限定词。它不是说在所有世界模型里排第一,而是在速度够快、能实时跑的那一档里排第一。
第二组是声音。团队自己做了一个评测集 HelixBench,用来衡量"空间声学一致性"。
什么叫空间声学一致性?
举例来说(这是假设的例子),画面左边有一条河,那么水声应该更多出现在左声道;你走近这条河,水声应该变大。声音和空间位置对得上,就是"一致"。
在这一项上,Helix World 得分 41.8,对比模型 EchoWM 是 12.7。
按这两个数字自算,前者约为后者的 3.3 倍。不过 HelixBench 是团队自建的评测,外部还没有复现,这个差距最好当作"论文称"来看。
第三组是用户研究。官方称,在有声条件下,用户更偏好 Helix World,胜过 EchoWM,也胜过"先生成画面、再另外配音"的做法。
最后一点很有意思。它说明"边生成画面边生成声音",比"画面做完再配音"更自然。原因可能是(作者推断):同步生成时,模型能同时看到画面和声音的对应关系,后期配音则只能事后去猜。
七、局限
官方也很坦率地列了几条局限。
1、现在放出的是预览权重,不是正式版。
2、分辨率有限,768×512 离高清还有距离。
3、如果只比静音画面,它的画质不是第一。
第三条值得多说一句。
这说明 Helix World 的长处在"音画一起"和"实时",而不是单纯的画面质量。如果你只需要漂亮的无声画面,别的模型可能更合适。
八、能拿来做什么
官方没有给出具体的落地案例,以下是作者的推断。
我能想到的方向有几个:游戏原型的快速试玩、虚拟场景的沉浸式预览、给盲人或低视力用户的空间声音导航研究。
但要清楚,这些都是可能性。现在它还是一个预览版研究模型,离产品还有距离。
总结
Helix World 做的事情,可以用一句话概括:把"世界模型"从默片变成了有声片,而且做到了实时。
它的数字很亮眼,但大多来自论文和自建评测。
想亲自试试的朋友,可以去 GitHub 和 Hugging Face 下载预览版,自己感受一下"走进一张图片"是什么体验。
来源:Noiz AI 博客:Helix World;helixworld.org;GitHub NoizAI/HelixWorld;Hugging Face NoizAI/HelixWorld-preview;arXiv:2609.38123。RTF、「每片段约 5 秒」「约 3.3 倍」为作者理解或自算,正文已标明。