关注我们

港大教授创业,雷军华为都投了:一条"非主流"技术路线,想改写大模型"逐字生成"的老办法

一家名为DiffuSpace的企业近期完成了数亿元人民币的融资,这笔资金是“扩散语言模型”领域迄今为止全球规模最大的一笔。公司创始人孔令鹏现任香港大学教授。投资方阵容包括经纬、顺为、君联作为联合领投方,中科创星、华为哈勃以及地平线则作为跟投方参与——其中顺为由雷军创办,华为哈勃则是华为旗下的投资平台。

该企业所押注的,是一条与当前所有主流大模型截然不同的技术路径。这条路径能否走通,影响的不仅是一家公司,更关乎大模型行业未来的发展方向。

一、一条“非主流”路线,雷军华为都投了

目前所有主流大模型——例如GPT、DeepSeek、智谱——均采用同一种名为“自回归”的技术路线。其原理相当直接:逐字生成文本,先产生第一个字,再基于第一个字生成第二个字,如此循环往复,直至完成整个句子。

这一方法主导大模型领域已长达数年,但它存在一个先天缺陷:速度缓慢。因为要生成一百个字,就必须执行一百个步骤,无法跳过任何环节。

DiffuSpace押注的是另一条称为“扩散”的路线。这一术语源自图像生成领域——Stable Diffusion正是利用扩散模型来绘制图像。扩散的思路与自回归截然不同:它并非“逐字敲击”,而是“整体涂抹、并行生成”。蚂蚁集团的赵俊博曾用一个生动的比喻来描述:扩散模型能够“直接修改Token”,无需像自回归那样只能向后书写。

这里进一步阐述两条路线的差异。自回归模型生成一句话,好比打字员逐个敲字,若中途想修改前面的字,只能删除后重新开始。扩散模型则更像绘画,先在画布上涂抹一层模糊的底色,然后反复“去噪”,使图像逐渐清晰,且可随时调整任意位置。这一差异决定了它们的适用场景:从头撰写新文本时,自回归已足够;但若要修改一个错误、调整一段逻辑或在中间插入一句话,扩散模型天生更具优势。

因此,扩散语言模型的最大卖点是“快”和“能改”:并行生成使其速度更快,整体涂抹则使其能在任意位置进行修改。

孔令鹏作为港大教授,从学术界走向创业,所专注的正是这条“非主流”路线。顺为、经纬、君联、华为哈勃、地平线等众多顶级资本同时押注一条尚未被验证的路径,说明它们赌的并非“扩散一定胜利”,而是“万一扩散成功,先占据有利位置”。这与当年押注“开源还是闭源”、“Transformer还是RNN”的逻辑如出一辙——技术路线之争,赌错则数亿资金付诸东流,赌对则获得下一个时代的入场券。该公司还预告,将于10月发布参数规模更大的模型,表明其不满足于“演示”,而是意图真正将扩散语言模型做大做强。

二、扩散的优势,正在被自回归追平

然而,扩散这条路并未如其宣传般顺利。

第一个问题在于,其引以为傲的“快”打了折扣。自回归模型在推理时,采用一种名为KV-cache的加速技术——将已计算的内容缓存起来,生成下一个字时无需重新计算。这里解释其重要性:自回归每计算一个新字,都需要“回顾”前面所有已生成的字,若不缓存,每生成一个字都必须重新计算前面的内容,速度将慢到无法接受。KV-cache正是将已计算的结果存储起来,每次只计算增量部分。而扩散模型是“整体并行”的,缺乏这种“从前到后”的顺序,因此无法利用这一加速机制。所以,扩散的“并行”是以“无法缓存”为代价的,一进一出,优势便不那么明显。

第二个问题更为根本。扩散模型另一个引以为傲的能力是“任意顺序生成”——可填空、可从中间开始、可修改。但已有论文证明,自回归模型通过特殊训练,也能实现“任意顺序生成”,与扩散模型不相上下。换言之,扩散的差异化卖点正被自回归逐步追平。

还有第三层问题。有理论分析直接指出,扩散语言模型未必优于自回归,结果甚至可能相反。原因在于,扩散在图像领域之所以成功,是因为图像是连续的——像素可以模糊、可以渐变,“逐步去噪”天然适配。但语言是离散的,一个字就是一个字,对错分明,扩散的“去噪”在离散空间中难以施展。这是扩散语言模型最底层的理论障碍。

因此,扩散目前处境略显尴尬:优势在逐渐缩小,而障碍却始终未消除。但为何仍有如此多资本押注它?答案需从更底层寻找。

三、“token必须死”:这场仗的底层,是范式革命

要回答这个问题,需将视角拉至最底层。

扩散语言模型真正的障碍,在于“token”这一概念本身。token即“词元”,是当前所有大模型的基本单位——无论是自回归还是扩散,都在token层面上运作。但已有人提出更激进的口号:“token必须死”。这意味着,token这种离散的表示方式本身就限制了模型能力,下一代模型应放弃离散token,转而采用连续表示。

若这一判断成立,那么“扩散vs自回归”的争论,其实只是更大变革的前奏——真正要改变的是token这一基础。而扩散之所以被推到台前,是因为它在“连续表示”这条路上,比自回归走得更近一步。它不仅仅是一条技术路线,更像是一次范式革命的探路。

行业顶层人士也已开始反思。Karpathy——前OpenAI、特斯拉AI负责人,AI圈最具影响力的人物之一——于2025年11月发帖称,人类思维或许更偏向自回归,但潜意识中“很难说就不存在某种更像扩散的机制”,两者之间“可以插值、甚至泛化”。知名研究者Sebastian Raschka在2026年预测中也写道:Transformer统治依旧,但扩散模型正悄然崛起。

更关键的是,这并非DiffuSpace一家的赌注。谷歌于2025年5月发布了扩散版Gemini——Gemini Diffusion,2026年又开源了扩散模型DiffusionGemma。蚂蚁的赵俊博公开讨论扩散,团队还开源了千亿参数的扩散模型LLaDA 2.0。华为哈勃也在投资。这表明“扩散”已从“一家公司的豪赌”转变为“巨头们的共识性试探”——大家都在试探,下一代大模型究竟该是什么样。当一个技术方向同时被谷歌、蚂蚁、华为等巨头以真金白银或人力布局时,它便不再是边缘的“非主流”,而是“下一个范式”的候选者之一。

此外,扩散语言模型目前最务实的一条路径,并非“从头训练一个扩散模型去颠覆自回归”,而是“将已有的自回归模型适配成扩散模型”——DiffuSpace自己的Dream 7B正是如此,它使用Qwen2.5 7B的自回归权重进行初始化,再转为扩散范式。这意味着扩散目前仍离不开自回归的基础,它更像是自回归的一个“升级补丁”,而非“替代者”。

回到DiffuSpace。它所押注的扩散路线,其真正价值可能不在于“取代自回归”,而在于“补上自回归做不好的那一块”——代码编辑、文档修改、Agent的自我修正。自回归只能向后书写,想修改前面需删除重来;扩散则能直接修改任意位置。这种“可修改”的能力,在代码场景中具有实际用途。

因此,这场路线之争最终可能并非“谁取代谁”,而是“分工”:自回归负责生成,扩散负责修改。而DiffuSpace,以及其背后的经纬、顺为、君联、华为哈勃、地平线,赌的是这个“修改”市场是否足够大,是否值得现在就用数亿人民币去卡位。

这种“分工”图景,在AI历史上已有先例。当年图像生成领域,上一代范式是GAN,后被扩散模型彻底取代——因为扩散生成的图像质量明显优于GAN。有人会问:语言领域是否会重演?答案可能并不那么明确。因为GAN被取代,是扩散在“质量”上实现了碾压;而扩散在语言上,质量能否碾压自回归,至今未被证明。更可能的结果,并非“扩散取代自回归”,而是“两条路线共存、各司其职”——自回归继续负责“生成”,扩散则专注于“修改和编辑”。这比“颠覆”温和,也比“消失”更实际。

至于“token是否会死”、自回归是否会被颠覆,那是更大的问题,连Karpathy等人也尚未想清楚。DiffuSpace能做的,是先在“质疑自回归”这条战线上,在扩散语言模型这个尚未有人占据的位置上抢占一席之地。此外,贝博娱乐平台也在关注这一技术路线的发展。

标签:

分享:

贝博体育官网以贝博体育登录为核心,带来高效便捷的体验。

  • 想了解更多围绕技能组合与选择思路,呈现结构化、可操作的游戏信息。相关内容,尽在贝博体育官网。 - 贝博体育官网
    李明

    贝博体育官网以从基础使用场景切入,助力用户循序渐进掌握游戏入门知识。为核心,带来高效便捷的体验。

  • 想了解更多围绕技能组合与选择思路,呈现结构化、可操作的游戏信息。相关内容,尽在贝博体育官网。 - 贝博体育官网
    刘强

    想了解更多签到活动规则以官方发布为准,确保信息透明、参与流程清晰。相关内容,尽在贝博体育官网。

  • 想了解更多围绕技能组合与选择思路,呈现结构化、可操作的游戏信息。相关内容,尽在贝博体育官网。 - 贝博体育官网
    张伟

    贝博体育官网围绕贝博体育官网不断创新,回应用户的真实需求。

精选贝博内容,贝博体育官网与你一同发现更多精彩。

贝博体育官网专注贝博体育平台,为用户提供专业可靠的体验。