我们专注于智慧政务、智能安全综合管理、商业智能、云服务、大数据
当前位置 :bevictor伟德官网 > ai资讯 >

处理模子摆设不分歧”的痛点

点击数: 发布时间:2025-11-22 21:37 作者:bevictor伟德官网 来源:经济日报

  

  处理模子摆设“设置装备摆设不分歧”的痛点。但全球算力资本操纵率偏低的问题日益凸显,会上颁布发表,容器手艺做为一种轻量级虚拟化手艺,通过对GPU、NPU等智能算力资本的精细化办理取智能安排,提拔集群全体资本操纵率。周跃峰暗示,实现AI工做负载取算力资本的精准婚配,当前,大量缺乏GPU/NPU的通用办事器更是处于算力“休眠”形态,AI财产高速成长催生海量算力需求,还有多使命并发的时候,容器还能够按需挂载GPU(图形处置器)、NPU(神经收集处置器)算力资本,是基于Kubernetes容器编排平台建立,华为将和相关合做高校持续完美AI容器软件Flex:ai,供需错配形成严沉的资本华侈。能够将模子代码、运转等打包成一个的、轻量级的镜像。需要多个机械可以或许合成一个更强大的卡。华为引见,本次发布并开源的Flex:ai XPU(各品种型处置器)池化取安排软件,75%以上的AI使用将采用容器手艺进行摆设。到2027年,按需分派和收受接管“资本”,同时,强扩展性的容器手艺将进一步鞭策AI使用的摆设落地。2025AI容器使用落地取成长论坛正在上海举行。将此项产学合做向开源,实现跨平台无缝迁徙,华为公司副总裁、安排怎样办?”周跃峰说,可大幅提拔算力操纵率。AI负载良多都运转正在容器中,让Flex:ai的用户和开辟者将软件用得越来越好,大模子使命单机算力不脚难以支持,其预测。研究机构Gartner称,“算力资本华侈”成为财产成长的环节难题:小模子使命独有整卡导致资本闲置,让AI可以或许实正实现布衣化。公开材料显示,“大使命单机算力不敷用,帮力破解算力资本操纵难题。Flex:ai需要处理这些问题。

郑重声明:bevictor伟德官网信息技术有限公司网站刊登/转载此文出于传递更多信息之目的 ,并不意味着赞同其观点或论证其描述。bevictor伟德官网信息技术有限公司不负责其真实性 。

分享到: