首页 - 财经 - 产业观察 - 正文

这款巨大的芯片,击败竞争对手

关注证券之星官方微博:

(原标题:这款巨大的芯片,击败竞争对手)

如果您希望可以时常见面,欢迎标星收藏哦~

来源:内容由半导体行业观察(ID:icbank)编译自singularityhub,谢谢。

计算机芯片是一种热门商品。Nvidia 现在是世界上最有价值的公司之一,而 Nvidia 芯片的台湾制造商台积电被称为地缘政治力量。因此,越来越多的硬件初创公司和老牌公司都想从这家公司手中夺取一两颗明珠,这不足为奇。

其中,Cerebras 是最奇怪的一家。该公司生产的计算机芯片大小如玉米饼,上面布满了近一百万个处理器,每个处理器都连接到自己的本地内存。这些处理器体积虽小,但速度却快如闪电,因为它们不需要在远处的共享内存之间来回传送信息。而且处理器之间的连接也很快——在大多数超级计算机中,这需要跨房间大小的机器连接单独的芯片。

这意味着这些芯片在特定任务上表现出色。最近对其中两项研究(一项模拟分子,另一项训练和运行大型语言模型)的预印本研究表明,晶圆级优势可能非常强大。在前者中,这些芯片的表现优于世界顶级超级计算机Frontier 。他们还表明,精简后的人工智能模型可以在不牺牲性能的情况下使用通常三分之一的能源。

分子基质

我们制造物品的材料是技术发展的关键驱动力。它们通过突破强度或耐热性的旧限制,带来新的可能性。以核聚变能为例。如果研究人员能够实现,这项技术有望成为一种新的清洁能源。但要释放这种能量,材料必须能够承受极端条件。

科学家使用超级计算机模拟聚变反应堆内衬金属如何应对高温。这些模拟放大单个原子,并利用物理定律指导它们在宏观尺度上的运动和相互作用。如今的超级计算机可以高精度地模拟包含数十亿甚至数万亿个原子的材料。

然而,尽管这些模拟的规模和质量多年来取得了很大进步,但它们的速度却停滞不前。由于超级计算机的设计方式,它们每秒只能模拟有限的相互作用,而让机器变得更大只会使问题更加严重。这意味着分子模拟的总长度有一个硬性的实际限制。

Cerebras 与桑迪亚国家实验室、劳伦斯利弗莫尔国家实验室和洛斯阿拉莫斯国家实验室合作,研究晶圆级芯片是否可以加快速度。

该团队为每个处理器分配了一个模拟原子。因此,它们可以快速交换有关其位置、运动和能量的信息,模拟原子的处理器在现实世界中物理上接近,因此它们也是芯片上的邻居。根据它们在任何给定时间的属性,原子可以在移动时在处理器之间跳跃。

该团队模拟了三种材料(铜、钨和钽)中的 80 万个原子,这些材料可能对聚变反应堆有用。结果非常惊人,钽的模拟速度比 Frontier 超级计算机快 179 倍。这意味着该芯片可以将超级计算机上一年的工作量压缩到几天内,并将模拟时间从微秒延长到毫秒。它在执行任务时也效率更高。

“我从事材料原子模拟工作已有 20 多年。在此期间,我参与了模拟规模和准确性的大幅改进。然而,尽管如此,我们仍无法提高实际模拟速率。运行模拟所需的挂钟时间在过去 15 年里几乎没有变化,”桑迪亚国家实验室的艾丹·汤普森在一份声明中表示。“借助 Cerebras 晶圆级引擎,我们可以突然以高超音速行驶。”

尽管该芯片提高了建模速度,但它无法在规模上竞争。模拟原子的数量受限于芯片上的处理器数量。下一步包括为每个处理器分配多个原子,并使用将64 个 Cerebras 系统连接在一起的新型晶圆级超级计算机。该团队估计,这些机器可以以与研究中类似的速度模拟多达 4000 万个钽原子。

人工智能之光

虽然模拟物理世界可能是晶圆级芯片的核心竞争力,但它们一直专注于人工智能。最新的人工智能模型呈指数级增长,这意味着训练和运行这些模型所需的能源和成本激增。晶圆级芯片或许能够提高人工智能的效率。

在另一项研究中,Neural Magic 和 Cerebras 的研究人员致力于缩小 Meta 的 70 亿参数 Llama 语言模型的大小。为此,他们制作了一个所谓的“稀疏”AI模型,其中许多算法参数都设置为零。理论上,这意味着可以跳过这些参数,从而使算法更小、更快、更高效。但当今领先的 AI 芯片(称为图形处理单元 (GPU))以块的形式读取算法,这意味着它们无法跳过每个归零的参数。

由于内存分布在晶圆级芯片上,因此它可以读取每个参数并跳过出现的零。即便如此,极度稀疏的模型通常表现不如密集模型。但在这里,团队找到了一种方法,通过一些额外的训练来恢复丢失的性能。他们的模型保持了性能——即使 70% 的参数被清零。在 Cerebras 芯片上运行时,它只消耗了全尺寸模型 30% 的能量,运行时间只有全尺寸模型的三分之一。

晶圆级制胜?

虽然这一切都令人印象深刻,但 Cerebras 仍然是小众市场。Nvidia 更传统的芯片仍然牢牢控制着市场。至少目前看来,这种情况不太可能改变。各家公司已在围绕 Nvidia 构建的专业知识和基础设施上投入了大量资金。

但晶圆级芯片可能继续在研究领域中证明其优势,但这些应用仍然至关重要。而且这种方法可能会变得更加普遍。制造晶圆级芯片的能力现在才刚刚完善。全球最大的芯片制造商台积电最近表示,它正在建设晶圆级芯片生产能力,这暗示了整个领域的未来。这可能会使芯片更加普遍和强大。

从事分子建模工作的团队则表示,晶圆级芯片的影响可能更为显著。就像之前的 GPU 一样,将晶圆级芯片添加到超级计算组合中可能会在未来产生一些强大的机器。

研究团队在论文中写道:“未来的工作将专注于将这里展示的强大扩展效率扩展到设施级部署,这有可能导致 Top500 超级计算机列表发生比 GPU 革命所带来的更大的范式转变。”

https://singularityhub.com/2024/07/09/this-enormous-computer-chip-beat-the-worlds-top-supercomputer-at-molecular-modeling/

点这里加关注,锁定更多原创内容

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第3822内容,欢迎关注。

『半导体第一垂直媒体』

实时 专业 原创 深度

公众号ID:icbank

喜欢我们的内容就点“在看”分享给小伙伴哦


微信
扫描二维码
关注
证券之星微信
APP下载
下载证券之星
郑重声明:以上内容与证券之星立场无关。证券之星发布此内容的目的在于传播更多信息,证券之星对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至jubao@stockstar.com,我们将安排核实处理。如该文标记为算法生成,算法公示请见 网信算备310104345710301240019号。
网站导航 | 公司简介 | 法律声明 | 诚聘英才 | 征稿启事 | 联系我们 | 广告服务 | 举报专区
欢迎访问证券之星!请点此与我们联系 版权所有: Copyright © 1996-