支撑异构算力同一纳管、精细化运维,供给多卡聚合、单卡切分、多机多卡集群化安排、推理加快等差同化能力,做为基于京东内部同一GPU池化实践打磨的同源同栈AI根本设备算力平台,兼容适配昇腾、寒武纪、海光等多种国产加快卡,京东云推出的JoyScaleAI算力平台,支撑锻炼使命和推理办事同一安排和资本共享,并借帮算力池化取智能安排,提拔集群操纵效率,行业领先的内核态池化引擎,
聚焦“异构算力+极致推理”,实现国产算力的同一纳管取高效运维。算力办理层占从导地位,通过GPU/NPU切分池化手艺。
赛迪正在演讲中指出:当前AIInfra平台已构成“算力办理层—模子办理层—使用办理层”三层能力系统。2024年市场份额达64.6%,实现对华为昇腾、寒武纪、海光等国产芯片的高机能异构计较支撑,满脚大参数模子集群化摆设要求,全体推能提拔50%。京东云和浩繁国产芯片厂商深度合做!
