(原标题:英伟达完成收购贾清扬公司)
如果您希望可以时常见面,欢迎标星收藏哦~
来源:内容来自半导体行业观察综合,谢谢。
据theinformation报道,Nvidia 完成了对 GPU 云初创公司 Lepton 的收购。
资料显示,Lepton AI成立于2023年,由 Meta Platforms Inc. 人工智能实验室前研究员贾扬清和Junjie Bai 联手创立。
两人帮助开发了多种行业标准的 AI 工具,包括 Facebook 母公司流行的模型开发框架 PyTorch。据报道,Lepton AI 拥有约 20 名员工,其客户包括多家风险投资支持的初创公司。
该公司的同名云平台针对 AI 工作负载进行了优化。客户可以使用它来训练 AI 模型和执行推理,即在训练完成后在生产中运行神经网络的任务。
Lepton AI 提供了一个可视化界面,用于在其云中设置训练集群。该公司提供多种 Nvidia 显卡供您选择。对于同时训练多个模型的团队,该平台提供了一种工具,可用于集中管理分配给每个项目的硬件数量。
在训练过程中,AI 模型有时会遇到错误,从而降低其输出质量。Lepton AI 平台提供了检测此类错误的功能。它还能发现更细微的技术问题,例如神经网络在训练期间可能使用的内存超过应有的内存的情况。
模型开发完成后,Laptop AI 客户可以将其部署在公司云中经过推理优化的实例上。该平台承诺提供每秒超过 600 个令牌的处理速度,同时将延迟保持在 10 毫秒以下。当需求增加时,自动扩展功能会自动向客户的推理环境添加更多硬件资源。
Lepton AI 使用 vLLM 等开源工具来加速推理。该技术将类似的 LLM 提示合并为单个请求,从而减少了模型必须执行的处理量。开发人员还使用 vLLM 来减少其模型的内存占用。
目前尚不清楚 Nvidia 是寻求收购 Lepton AI 以获得其机器学习人才,还是计划继续提供这家初创公司的云平台。该平台与几家 Nvidia 主要客户的产品竞争。其中一家客户是人工智能云运营商 CoreWeave Inc.,该公司计划于今天晚些时候进行首次公开募股。
就在英伟达可能收购 Lepton AI 的报道发布几天前,有消息称该公司收购了另一家风险投资支持的人工智能初创公司 Gretel Labs Inc.。据报道,这笔交易的价值超过 3.2 亿美元。Gretel 提供用于创建合成数据的工具,这些数据是自动生成的,可用于训练人工智能模型。
对于英伟达来说,他们也提供云中云服务,这单收购会让他们大有裨益。Nvidia 的 DGX Cloud 于 2023 年推出,是在其他公司的云平台上提供的服务。云提供商租用 Nvidia 的服务器并将其部署为云,Nvidia 可以向寻求大型 GPU 超级计算机的企业营销和销售这些云。
谷歌、微软、甲骨文和 AWS 均采用该产品,其中 AWS 将于2024 年 12 月采用该解决方案。
虽然这看起来很复杂,但真正开发和提供自己的云计算平台将使 Nvidia 成为其一些最大客户的直接竞争对手——在 2024 年 11 月的 2025 年第三季度财报电话会议上,该公司表示,“云服务提供商约占我们数据中心销售额的一半,收入同比增长超过 2 倍。”
该公司还拥有新兴的云和软件业务,该业务直接向企业出租服务器并提供用于开发 AI 模型和应用程序的软件。在同一财报电话会议上,Nvidia 表示其软件、服务和支持收入创造了 15 亿美元的年收入。
该公司去年增加了对云服务的投资。Nvidia 在其 2024 年 5 月的收益报告中表示,它已承诺在未来几年内至少在云计算服务上投入 90 亿美元,高于 1 月份承诺的 45 亿美元。这个数字包括 DGX Cloud。
半导体精品公众号推荐
专注半导体领域更多原创内容
关注全球半导体产业动向与趋势
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第4088期内容,欢迎关注。
『半导体第一垂直媒体』
实时 专业 原创 深度
公众号ID:icbank
喜欢我们的内容就点“在看”分享给小伙伴哦