(原标题:科大讯飞刘庆峰:国产算力训练大模型仍有挑战和压力)
经济观察报 记者 任晓宁
10月22日,在接受包括经济观察报在内的媒体采访时,科大讯飞创始人刘庆峰提到,国产算力训练大模型仍然面临很大的挑战和压力,当下国产算力跟英伟达相比有近两代代差。
目前,国内主流大模型厂商更多将国产芯片用于推理环节,较少用在训练环节。刘庆峰提到,当芯片能力差距较大时,使用国产芯片训练大模型会存在效率较低的问题。尤其是今年,大模型主打长上下文和复杂Agent能力,使用国产芯片训练,会存在“装不下,训不动”的问题。
他以算法验证环节为例,如果用较前沿的GPU,一个月就能验证完。如果用国产芯片,3个月能验证60%,半年能验证80%。
但通过优化,国产算力仍有挖潜空间。刘庆峰认为,全栈自主可控对于国产大模型有非常重要的意义。他对全栈自主可控的定义是,从底层硬件到模型的算法,再到数据、场景,以及软硬一体化的落地,都要具备自主能力。其中最重要的是,算力要用国产芯片,不仅使用国产芯片做推理,还要使用国产芯片做训练。
“国外芯片的算力的确比我们多,生态也更好。但如果大家都不在国产算力上做训练,我们自主可控这一步永远跨不出去。”他认为,只有在国产芯片上训练出大模型,才是真正的自主可控,才能实现模型协同共同发展,让国产模型真正摆脱“卡脖子”的风险。
因此,刘庆峰希望越来越多的大模型厂商使用国产芯片训练,一起形成国内自主可控的大模型生态。
刘庆峰说,对于目前国产算力与国外的差距,他并不担心,“做科技创新,没有竞争精神和好胜心是不行的。”他认为,虽然现在国产算力对标全球最优水平还有差距,但未来一定会有并跑甚至领跑的一天。
