(原标题:8万8上“满血”DeepSeek,第四范式发布SageOne Lite)
第四范式今日推出大模型推理一体机解决方案SageOne Lite,8.8万元可运行满血版DeepSeek,以极致性价比帮助企业乃至个人实现本地使用DeepSeek。该方案基于 KTransformers ,支持单机运行满血模型服务。此外,一体机解决方案还集成了ModelHub平台实现模型管理及不同模型服务的灵活切换,内置智能算力池化管理平台提升GPU资源使用效率,并搭载了大模型开发平台及开箱即用AI应用套件,帮助企业及开发者体验满血强大智能同时,快速创建生成式AI应用。
SageOne Lite大模型推理一体机解决方案,具备三大核心优势:
1) 低成本,单机体验满血版DeepSeek。
2) 集成ModelHub、大模型工具链,内置SageSuite AI应用套件:包含数百个开放模型服务供给及模型全生命周期管理、可视化workflow流程编排等,并预装AI应用套件,包括AIGC、智能办公、数字员工、智能问答等。
3) 智能算力池化,资源动态调度:通过业界领先的第四范式GPU资源池化(vGPU)技术,可对算力和显存进行智能切分,对计算任务智能调度,灵活在不同尺寸的大模型中进行切换。