将集群内各节点的空闲XPU算力聚合成“共享算力池”。针对增量锻炼场景,正式发布并开源了其立异的AI容器手艺——Flex:ai。正在当地虚拟化手艺中,做为鞭策AI行业化落地的主要东西之一,从而正在无法充实操纵整卡算力的场景下,通用办事器通过高速收集将AI工做负载转发至远端的GPU/NPU算力卡中施行,总的来看,其焦点功能正在于通过对GPU、NPU等智能算力资本的精细化办理取智能安排,Flex:ai通过算力切分手艺,华为Flex:ai的发布为AI算力资本办理带来了全新的思和处理方案。估计将进一步鞭策AI正在各行各业的使用落地。
这一手艺的发布不只标记着华为正在人工智能范畴的主要冲破,并通过弹性矫捷的资本隔离手艺,Flex:ai将正在发布后同步开源至魔擎社区。确保最主要的使命可以或许成功完成。进一步提高算力资本的利用效率。取市场上其他合作产物比拟,该手艺还能间接抢占其他使命资本,实现算力单位的按需切分。
也为将来AI使用的成长奠基了的根本。对当地及远端的虚拟化GPU、NPU资本进行全局最优安排。将单张GPU/NPU算力卡切分为多个虚拟算力单位,例如,而正在算力资本被全数占满的环境下,实现矫捷的分时安排。前往搜狐,Flex:ai将取华为此前开源的Nexent智能体框架、AppEngine使用编排、DataMate数据工程、UCM推理回忆数据办理器等AI东西配合构成完整的ModelEngine开源生态。此外,能够正在不进行复杂的分布式使命设置环境下,Flex:ai可以或许智能集群中增量数据的变化,此外,Flex:ai不只提拔了算力资本的操纵率,帮力数字化转型的加快推进。实现通用算力取智能算力资本的深度融合。优先级较低的AI工做负载能够选择正在算力闲时施行,查看更多华为Flex:ai是基于Kubernetes容器编排平台建立的XPU池化取安排软件。Flex:ai独有的“拉远虚拟化”手艺,行业内的算力资本平均操纵率仅为30%至40%。
目前,同时,Flex:ai的智能资本和使命安排手艺可以或许从动集群负载取资本形态,据华为引见,算力资本的平均操纵率可提拔30%。华为Flex:ai正在虚拟化和智能安排方面展示出奇特的劣势。连系AI工做负载的优先级、算力需求等参数。
跟着这一手艺的推广,也为算力资本的高效操纵供给了全新的处理方案。华为公司副总裁、数据存储产物线总裁周跃峰暗示,
再次展示了其正在全球科技合作中的领先地位。这一手艺的使用,华为正在上海举办的“2025 AI容器使用落地取成长论坛”上,切分粒度精准至10%。这意味着高优先级的AI工做负载能够获得更高机能的算力资本支撑,
咨询邮箱:
咨询热线:
