(原标题:云天畅想茅晓东:AI算力的战场,正在从“云端”下沉)
大模型正在变得越来越聪明,但在云天畅想创始人、董事长茅晓东看来,真正决定AI(人工智能)能否进入日常终端的,并不只是模型的智能能力本身。
“对C端市场,真正决定AI使用的,还是用户体验。”茅晓东在接受经济观察报采访时表示。他举例说,如果一副智能眼镜翻译一句话要等三秒,或者一个机器人每次反应都要把传感器数据传到远端云中心再返回,所谓智能就很难变成真实体验。
这也是云天畅想接下来想解决的问题之一。6月17日,云天畅想宣布完成超10亿元人民币的E轮融资,本轮融资由中国互联网投资基金领投,中金资本等机构联合投资,近两轮合计融资接近20亿元。
这些资金中很大一部分将用来编织一张网。茅晓东说,云天畅想希望在大模型和终端设备之间,搭一张更靠近用户的实时智算网络,“大模型的中心云类似‘炼油厂’,云天畅想要做的网络类似‘加油站’,前者集中炼出智能,后者负责把智能送到用户身边。”
在云天畅想内部,这张网络被称为Real-time Intelligence Fabric(实时智算织网)。茅晓东解释,之所以不用一般的“网络”一词,是因为Fabric更像一块由经纬线织成的布。点越多、线越密、网格越小,网络离用户越近,实时交互的能力就越强。
过去十年,通信行业存在两个趋势:一个是终端设备越来越轻、越来越省电、越来越具性价比,另一个是通信网络从3G、4G、5G到6G,不断提高带宽、降低时延。这意味着,一些原本需要放在终端本地完成的计算,开始有条件向云侧、边缘侧迁移。
正是看到了这一趋势,在2016年,云天畅想就开始将GPU算力、服务器和5G、宽带网络结合,为游戏、视频、电竞等行业提供低时延服务。彼时大模型尚未出现,这些服务主要集中在实时渲染和互动体验。
在AI场景下,端侧设备无法持续塞入高功耗的大算力芯片,而AI应用又越来越依赖GPU和模型推理,这进一步激发了对边缘侧计算的需求。特别是AI真正大规模进入物理世界后,实时互动会成为关键约束。
茅晓东说,机器人、智能硬件、可穿戴设备、智能座舱、低空经济、无人机等场景,都不可能完全依赖远端中心云,也不能依赖设备本身的计算能力,因为不可能在机器人里面“放两张几千瓦的大卡”,功耗、续航、体积重量等方面有很大瓶颈。在这种状态下,一种物理距离贴近用户、又具有集约运算能力的边缘端算力就是刚需。
在茅晓东看来,这就是云天畅想“实时智算织网”要做的事情。云天畅想不一定要从零训练基础大模型,而是要在模型、硬件、网络和场景之间做适配:什么任务放在中心云,什么任务放在边缘节点,什么任务可以利用终端算力,如何在有限能耗下更快地产生更多低时延 Token。这些问题不够“显眼”,却直接决定用户最终感受到的AI是否顺畅。
云天畅想并不只是把服务器放得更近。云天畅想首席科学家张霖涛表示,边缘场景中的硬件能力差异更大,需要做模型适配、硬件优化、网络结合、动态负载平衡,并提升利用率。因为节点数量多、规模小,不像云仓只有少数大节点,系统必须在“离用户最近”和“节点是否拥堵”之间动态选择。
在茅晓东的设想中,未来,智能终端不一定需要成为一个昂贵且拥有充足算力的设备,而是可以把AI能力外包给实时智算织网。
这仍是一门需要时间验证的生意。一方面,实时AI的需求正在出现,游戏、直播、智能硬件等场景已经出现少量对低时延敏感的需求;另一方面,具身智能、AI手机、Agent应用商店等更大规模的C端应用还没有真正普及。茅晓东也说,Agentic AI的C端渠道可能要到明年才开始涌现,机器人等物理AI场景则更靠后。
他预测,“智能”要达到像水电一样几乎“无延迟”地随取随用,还需要5至10年的大规模建设期。
