PG电子民生证券:算力调整是不是补齐硬件方法短板的“可行解”?

 常见问题     |      2023-07-13 19:04:36    |      小编

  PG电子智通财经APP获悉,民生证券发表推敲陈述称PG电子,进入模子加快出新时期,算力需求指数希望加倍峻峭。算力调节可协帮GPU告竣算力资源优化,必定水平上治理大模子GPU演练资源亏损的掣肘硬件。依据TrendForce预测,23年环球AI任事器出货量约118万台,个中GPU任事器约71万台,环球算力调节运维市集空间希望抵达320亿元。倡导闭心重心会聚分流兴办企业PG电子,同时智算离不开明讯兴办及赞同的升级迭代,倡导闭心通讯邻接厂商及主兴办厂商。

  2023年7月7日,正在2023全国人为智能大会时候,毕马威与联思集团拉拢发表《“普慧”算力开启新推算时期》陈述(以下简称陈述)。陈述提出,他日算力发达趋向将具备两大特性:数字经济的根蒂措施和通用人为智能的重心动力。

  依据陈述预测,2025年我国算力重心家产领域估计不低于4.4万亿元,算力联系家产领域可达24万亿元。依据陈述,深度研习显现后,AI演练算力约莫每6个月翻一番;2012年后环球头部AI模子演练算力需求加快至3~4个月翻一番(即算力年均涨幅约10倍),该行以为进入模子加快出新时期,算力需求指数希望加倍峻峭。依据OpenAI,告竣GPT-3演练须要上万颗英伟达A100GPU,总本钱超1200万美元。依据罗兰贝格测算,现在环球人均算力约正在100-2500GFLOPS的量级PG电子,而当AGI对象根基杀青时,智能场景会告竣统统行业的全笼罩和大局部行业的高排泄,环球人均算力将赶上29TFLOPS。该行以为呈“指数级”增加的算力将带来不止硬件端的升级迭代,同时须要软件侧协同调节优化。

  性子上该行以为算力调节属于智算架构一局部,即将可用的算力资源酿成好用的算力资源。依据北京超等云推算中央硬件,大模子算力客户厉重闭心硬件是否为超算架构的物理集群,且单次大模子演练须要用到上百张乃至几千张卡,通信赞同与节点调节乃至直接影响大模子演练速率。大模子演练的参数多、轮回次数多,单次演练的算力需求大,该行以为算力调节可协帮GPU告竣算力资源优化,必定水平上治理大模子GPU演练资源亏损的掣肘。

  依据中国科学技能音讯推敲所发表的《中国人为智能大模子舆图推敲陈述》显示,中国10亿参数领域以上的大模子已发表79个。依据该行分解,正在硬件待升级下大模子演练势必将拉动算力运维调节的需求硬件。该行梳理了国度超等推算济南中央云平台运维任事采购项目中标处境,假设江山云平台占总包价钱量(1005万元)的40%,个中包括90台GPU任事器,即单GPU任事器对应运维调节任事价钱量约4.5万元。依据TrendForce预测,23年环球AI任事器出货量约118万台,个中GPU任事器约71万台,环球算力调节运维市集空间希望抵达320亿元。PG电子民生证券:算力调整是不是补齐硬件方法短板的“可行解”?