(原标题:颠覆铜互连,革命SerDes)
公众号记得加星标,第一时间看推送不会错过。
处理器间数据传输速度越快,理论上可以完成的工作就越多。这正是互连技术创新的驱动力,无论是纵向扩展还是横向扩展系统,都离不开这一点。Lightmatter 公司正致力于突破现有技术瓶颈,开发一种新型三维共封装光互连 (CPO) 技术,有望大幅提升 I/O 性能。
计算加速器对于人工智能工作负载至关重要,尤其是在训练大型语言模型 (LLM) 和其他类型的生成式人工智能模型方面。英伟达凭借其强大的 Blackwell GPU 处于领先地位,但其他芯片制造商,如AMD、博通和英特尔,以及谷歌、AWS和微软等云巨头,都在寻求创新,力图在这个蓬勃发展的市场中分得一杯羹。
一般来说,计算能力越强,处理器配备的高速内存(最好是HBM)越多,模型训练速度就越快。然而,情况并非总是如此。在某些情况下,由于系统内GPU和XPU之间的数据传输速度不够快,GPU或其他XPU(极限处理单元)会闲置。这阻碍了客户扩展AI训练工作负载的计划,因为仅仅购买更多GPU或XPU并不能解决问题。
业界正通过新型互连技术不断创新,其中以英伟达市场领先的NVLink纵向扩展互连技术最为突出,该技术可在GB200 NVL72系统中提供高达1PB/s的网络带宽。其他互连技术,例如Ultra Accelerator Link (UALink)和Ethernet for Scale-Up Networking (ESUN),也为高端纵向扩展系统提供了替代传统PCIe的极具前景的方案。
Lightmatter公司希望通过新型光纤互连技术颠覆传统的铜互连方式。这家于2018年在硅谷成立的公司,在今年早些时候推出了其互连参考平台——Passage M1000光子超级芯片。M1000本质上是一款主动式3D中介层,位于GPU或其他AI加速器下方。它拥有8个单元,覆盖4000平方毫米的面积,支持总共1024个串行数据通道,每个通道可提供56 Gbps的吞吐量。对于外部连接,它提供256个通道,每个通道8个波长,总带宽达114 Tbps。
在最近于密苏里州圣路易斯举行的 SC25 大会上,Lightmatter 的产品副总裁 Steve Klinger在接受HPCwire采访时解释说,这一切都是为了最大限度地利用芯片空间,从而更快地输出数据。
“如果你观察GPU或网络交换芯片,通常会发现芯片外围环绕着一圈SerDes,它们负责处理芯片的所有I/O,”他说道。“目前,这些I/O大多通过电气线路连接到电路板边缘。然后,要么使用机架内的铜线连接芯片,要么使用机架外的可插拔光模块来实现更大的扩展性。而我们提供的解决方案是将光模块完全集成到芯片内部。”
物理定律限制了这些信号的传输距离,因此SerDes通常设计在芯片边缘。既然芯片边缘空间不足以快速传输数据,为什么不将SerDes集中放置在芯片中央,然后从芯片下方用激光束进行传输呢?这正是Lightmatter公司利用其共封装光学器件(CPO)技术所实现的,该技术允许芯片制造商将SerDes垂直堆叠在芯片中央。
“3D方案之所以强大,是因为它不再受限于外部电路,”Stringer说道。“你不必把所有高速I/O都集中在芯片外侧的环形区域。实际上,你可以把这些信号引入芯片内部,因为电光转换就在芯片正下方进行。”
英伟达也在利用CPO技术来最大化GPU集群中的数据传输速度。在今年早些时候的GTC大会上,英伟达发布了用于InfiniBand集群的水冷式Quantum-X800芯片。此外,它还推出了一款名为Spectrum-X的以太网交换机,同样采用了CPO技术。博通也在开发基于CPO技术的快速横向扩展交换机。然而,英伟达目前的横向扩展NVLink技术完全基于铜缆;英伟达尚未宣布在其横向扩展架构中加入光子技术。
克林格表示,Lightmatter正在与一些未透露名称的GPU或XPU制造商合作,将CPO技术直接集成到他们的芯片上。他表示,这些产品可能会在2027年底发布,并在2028年实现商业化。克林格还表示,这种3D堆叠方法可以让芯片制造商通过互连实现32太比特到64太比特的光子带宽。
“我们允许他们在芯片上集成更多这样的器件,”Stringer说道。“他们不必仅仅局限于芯片外部区域。现在他们可以在芯片内集成数百个SerDes器件,这样一来,我们就能够在一个与I/O芯片集成的光学引擎中节省32Tb到64Tb的数据,而这个光学引擎恰好位于芯片的一个光罩边缘。”
光子技术目前仍处于前沿阶段,尚未得到广泛应用。首先,与铜相比,它仍然很昂贵,而且对温度非常敏感。然而,随着人工智能模型训练需求的急剧增长,客户将不得不竭尽所能,以确保GPU和XPU的持续扩展性。
随着功率的增加,液冷已成为控制热量的必备手段。我们在SC25展厅里随处可见的管道和暖通空调部件就证明了这一点。在这种情况下,再为水冷系统添加一些彩色灯光似乎也并非异想天开。
Lightmatter或许不是唯一一家在SerDes层面进行创新的光子学公司。但如果说8.5亿美元的总融资额和44亿美元的估值能说明什么的话,那就是Lightmatter是一家值得关注的公司。
若您对硅光SiGe技术及流片相关话题有更多探讨需求,欢迎添加微信深入交流。
(来 源 : 编译自 hpcwire )
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第4252期内容,欢迎关注。
加星标第一时间看推送,小号防走丢
求推荐
