(原标题:浪潮信息申请基于集群拓扑结构的模型部署专利,提升服务器集群中各个带宽的利用率)
金融界2023年12月4日消息,据国家知识产权局公告,浪潮电子信息产业股份有限公司申请一项名为“基于集群拓扑结构的模型部署方法、系统、设备及介质”,公开号CN117155791A,申请日期为2023年10月。
专利摘要显示,本发明公开了一种基于集群拓扑结构的模型部署方法、系统、设备及介质,涉及服务器集群领域,为解决跨中央处理器通信影响通信效率的问题,该方法包括基于服务器集群的配置信息生成拓扑结构树;按拓扑结构树确定各个中央处理器节点对应的算力,基于算力获取最优划分部署方案;按最优划分部署方案对预设模型按其网络层进行划分得到多个模型模块,将各个模型模块部署在各个中央处理器节点下的各个设备节点上,以使服务器集群的各个设备节点之间的通信开销最小。本发明能够使得跨中央处理器节点通信的数据量最小,以提升服务器集群中各个带宽的利用率。
本文源自:金融界
作者:情报员