PG电子联袂 NVIDIA 等 40 余家国表里搭档飞桨硬件生态狂飙

 常见问题     |      2023-03-25 16:56:01    |      小编

  PG电子官网深度练习框架与 AI 硬件厂商,相辅相成、合伙生长。百度飞桨与 NVIDIA 等 40 多家硬件伙伴正正在践行这一理念。

  备受闭怀的 NVIDIA GTC 2023 大会仍旧了局,NVIDIA CEO 黄仁勋已经给全豹人带来了震动,搬出了为 ChatGPT 绸缪的芯片,向多人显现了 GPU 一连正在算力上赋能大模子甚至整体深度练习周围的远大潜力。

  大会时代,黄仁勋还与 OpenAI 联结创始人、首席科学家 Ilya Sutskever 举办了一场深度对话,他们同等以为深度练习的健旺才略仍旧改换了宇宙,真正胀励了本领的前进。

  src=实在,近年来,深度练习本领正正在胀励整体 AI 行业进入到一个全新的阶段。AI 周围的本领改进和物业生长离不开深度练习框架安全台,它联动了 AI 物业链上下游浩繁企业和用户,通过一连低落利用门槛将 AI 本领转达给千行百业,胀励 AI 利用大领域落地。

  行动国内 AI 领头雁的百度,其飞桨物业级深度练习开源盛开平台集重点框架、物业级模子库、开垦套件与器械组件于一体,此中百度天生式 AI 产物文心一言恰是出现自物业级常识加健旺模子文心。截止 2022 年 11 月,飞桨仍旧凝固了 535 万开垦者,办事了 20 万家企奇迹单元,创筑了 67 万个 AI 模子。

  src=百度依托飞桨平台,盘绕着本领、生态和物业修建了全方位、多目标的深度练习生长式样。生态维护则是联动各方告终本领统一和落地的环节程序,而行动生态维护主要的一环,硬件生态恰是联结硬件厂商搞好 AI 芯片的适配与优化,最终完成合营共赢。

  行动环球 GPU 巨头的 NVIDIA,成为了百度飞桨自然的合营伙伴。NVIDIA 本身也特殊珍惜中国市集特别中国的生态伙伴,飞桨成为其活着界上援手的三大深度练习框架之一,更有特意的工程团队来赋能飞桨生态。

  过去数年,飞桨与 NVIDIA 正在硬件生态维护上平昔维持着一共深度的合营,做了大方的开垦与优化办事,并通过本领共研斥地了浩繁软硬件协同产物与功效。特别正在 2022 年,两边的合营迈入了新的阶段。

  咱们领会,跟着深度练习的火速生长特别是大领域呆板练习模子的展示,AI 算力需求的增加抵达了新的高度。硬件这无疑给硬件厂商带来远大挑拨,央浼他们坐蓐出特殊健旺的 AI 芯片。同时,AI 芯片与深度练习框架的统一优化,才干带来空前绝后的加快,将机能阐发到极致。

  但是,就拿 PyTorch 等常用开源深度练习框架来说,开垦团队不领受硬件厂商的代码进入主干。这就导致硬件厂商援手新版本框架的本钱奋发,只可有选取地援手核心版本。如此一来,硬件厂商的 AI 芯片与深度练习框架之间存正在适配题目,AI 底子软硬件物业链上下游也就无法告终高效的协同生长。

  飞桨则否则,从 2020 年入手竭力于 AI 芯片的适配,与国表里硬件厂商张开深度合营,合伙开垦特别便捷的重点框架,修建联合的硬件接入计划。通过与广阔硬件厂商修建合营生态,真正阐发出 AI 芯片的算力。以 NVIDIA 为例,它早正在 2020 年 5 月就参加了「飞桨硬件生态圈」预备,后续更与飞桨张开了一系列深度合营。

  简直到硬件适配上,飞桨与 NVIDIA 重要正在四个方面举办合营。正在数据收拾上帮帮飞桨集成 DALI,正在大领域磨练上援手种种数据花样以及 ASP、CUDA 等算子函数 API,正在优化推理上开垦 Paddle-TRT、Deep Learning Examples,正在领域安放上集成了 NCCL、开垦了 Triton PaddlePaddle Backend。多样化适配使得飞桨开垦者的高机能推理磨练成为或许,也为其与飞桨的进一步合营打下了底子。

  2022 年,飞桨开启与硬件生态伙伴一共共创的一年。正在 5 月 20 日的 Wave Summit 2022 深度练习开垦者峰会上,飞桨联袂 NVIDIA 正在内等十余家国表里硬件厂商宣布了「飞桨硬件生态共创预备」,通过共享共创打造焕发的 AI 生态。正在此次峰会上,飞桨宣布了其与 NVIDIA 的共研共创合营计划。

  最先针对开垦者用户的少少痛点需求,比方利用 NVIDIA 最新软件栈开垦、磨练、安放时需求大方手动设备办事,工程挑拨远大。是以飞桨联结 NVIDIA 开垦了 NGC 飞桨容器,针对 NVIDIA GPU 加快举办优化,最大水平开释飞桨框架正在 NVIDIA 最新硬件上的算力。

  NGC 飞桨容器还包罗了用于加快 ETL ( DALI、RAPIDS ) 、磨练(cuDNN、NCCL)以及推理(TensorRT)办事负载的软件,告终了飞桨与 NVIDIA 软件栈的无缝集成与机能优化。

  有了 NGC 飞桨容器,用户正在火速开启 AI 利用的同时,还能正在 AI 磨练和推理做事上享用飞桨 +NVIDIA 带来的飞速体验。别的通过 NVIDIA NGC 完竣的开垦系统、质料处分、测试流程、文档榜样、平安扫描等,两边开垦了基于 NVIDIA GPU 平台最好的飞桨开垦境况。

  src=行动 NVIDIA 优化的工业级模子库,NVIDIA Deep Learning Examples 涵盖了呆板人、数字孪生、金融等分别行业的模子,方向是让利用 NVIDIA GPU 平台的开垦者复现 NLP 和 CV 等周围具有极致机能的经典模子。

  src=为了更好地进步推训机能并简化代码,NVIDIA 深度练习培训中央(DLI)不但绸缪了系列免费课程,还联名飞桨推出 DLI 课程证书,为开垦者的才略和职业生长供给了威望说明。比如飞桨与 NVIDIA 联结打造了《利用 PaddlePaddle 与 TensorRT 告终深度练习优化与安放》课程,闪开垦者感应基于 PaddlePaddle 与 TensorRT 的优化安放最佳体验。

  src=2022 年 11 月 30 日,正在 WAVE SUMMIT+2022 深度练习开垦者峰会上,飞桨又联袂 NVIDIA 等 12 家硬件伙伴宣布了飞桨生态刊行版。对待用户而言,当正在 NVIDIA GPU 平台上跑飞桨时,会供给特意的软件版本,使开垦者享用更好的软硬一体化体验。至此飞桨与 NVIDIA 的硬件生态合营又进了一步。

  正在飞桨效力打造焕发共赢生态、激动软硬件协同生长的经过中,NVIDIA 是主要的列入者和见证者,并成为飞桨合营生态中最为深远和标杆性的案例。PG电子跟着两边合营实质的连续丰厚,知足了 AI 开垦者的多目标需求。同时,飞桨与 NVIDIA 的深度合营也为国内其他硬件厂商供给了一种可参照的合营形式。

  从飞桨与 NVIDIA 的合营中能够看到,硬件生态维护这一环做得好欠好,会深入地影响到深度练习框架本身的通用性、硬件厂商 AI 芯片的出力以及正在 AI 周围的通俗利用。恰是这种两边的痛点需求为飞桨与硬件厂商的生态合营做好了铺垫。

  行动国内市集归纳份额第一的深度练习平台,飞桨平昔今后特殊重视与国表里硬件厂商的合营,通过与他们的精细联络一连拓展硬件生态。截至目前,与飞桨深度统一优化的国表里硬件厂商数目仍旧横跨了 40 家。

  对待飞桨来说,其与硬件生态伙伴的合营是正在搜索中挺进,连续地改进合营形式,体验了2020 年的「共聚」、2021 年的「共研」、2022 年的「共创」三个阶段。每个阶段的侧核心分别,合营伙伴数目逐年增加,合营实质也特别通俗和深远。

  src=最先回到 2020 年,飞桨率先对接了国表里当先的 CPU、GPU、ASIC、办事器等硬件厂商,并于 5 月联结 Intel、NVIDIA、寒武纪、海潮等 13 家国表里顶级硬件厂商宣布了「飞桨硬件生态圈」预备,为厥后的通俗硬件生态合营打好了底子。

  当时,飞桨除了一连加强壮件厂商对飞桨平台进入的决心,还通过金融、能源等行业的最终用户来驱动硬件厂商与飞桨适配,作战起与他们的榜样流程、特意团队等。这些办法开释出了飞桨联袂硬件厂商共筑硬件生态的决意,并启动了与核心厂商的硬件适配和本领优化办事。

  正在接下来的 2021 年,飞桨入手与硬件伙伴的软硬一体联结优化,进入到了「共研」阶段。但是,正在践诺硬件适配与本领优化经过中,两边也遭遇了挑拨。一是硬件厂商软件栈接入体例多样(算子库、图接入、编译器等),适配本领计划繁复。国内厂商的 AI 软件栈维护起步晚,给本质适配带来新的挑拨;二是怎样使得硬件厂商以较低的本钱接入飞桨。

  针对这些挑拨,飞桨纠合对硬件厂商软件栈的明白打算了飞桨硬件对接计划,搜罗自界说算子库接入、自界说通讯库等多项底子软件改造,极大低落了硬件厂商适配本钱。正在该阶段,硬件飞桨援手的国产硬件数目告终了第一。

  进入到 2022 年,飞桨正在 2021 年本领适配效率的底子前进一步拓展与硬件伙伴的合营。飞桨生机更多的硬件开垦者利用飞桨举办 AI 利用改进,硬件厂商也生机引入定造版的飞桨框架、模子库来丰厚本身 AI 软件栈,PG电子是以两边的合营进入到一共的「共创」阶段。

  最先是上文提到的「飞桨硬件生态共创预备」,旨正在与飞桨硬件生态伙伴正在联结研发、资源共享、联结授权、培训赋能等四个维度一共合营,更好地办事开垦者,加快 AI 物业落地,告终生态焕发共赢。

  src=正在联结研发闭头,飞桨与硬件伙伴兴办本领研发虚拟联结团队,合伙打磨底子软件栈,胀动硬件与飞桨的适配与机能优化办事。特别针对国产 AI 硬件与深度练习框架一连适配与升级本钱较高的题目,飞桨推出算子接入、子图接入、编译器接入等多种计划,与厂商共筑一连集成底子方法,接纳厂商适配的代码。正在环球前三大框架中,飞桨是独一对全豹硬件厂商盛开合营、领受全豹硬件厂商提布置码的框架。

  别的,飞桨还联结硬件伙伴合伙推出飞桨生态刊行版(针对特定 AI 硬件,定造优化的飞桨框架和飞桨模子库),大大擢升飞桨模子正在种种 AI 硬件上的磨练推理机能,为开垦者供给更多更好选取。

  正在资源共享闭头,飞桨与硬件生态共创预备伙伴共享推行胀吹资源,搜罗合伙撰写本领稿件,通过博客、论坛等社交媒体资源联动推行。飞桨还对生态伙伴联结授权,将与硬件伙伴联结优化好的计划优先推举给生态伙伴,并基于硬件平台联结开垦飞桨一体机,供给功效一共、便捷高效、安靖牢靠的一站式 AI 办事。

  正在培训赋能闭头,飞桨联结生态伙伴开垦飞桨 + 硬件利用开垦教程,与硬件厂商正在两边的练习与实训社区供给系列课程及联名认证证书,如上文与 NVIDIA 联结开垦的飞桨共筑课程。飞桨还与硬件伙伴正在 AI Studio 中开设厂商专区,为国内深度练习开垦者供给体验更多 AI 硬件的机缘。目前飞桨 AI Studio是国内最大的人为智能练习与实训社区,注册用户横跨了 300 万。

  从共聚、共研到共创,一块走来,飞桨正在硬件生态维护上一连深化与硬件伙伴的合营体例与实质,纠合他们的本质需求,通过本领改进一连低落适配飞桨的本钱,并使用产物共筑、生态运营等途径维持适配后的贸易价格。对待国内硬件厂商而言,仍旧具备相当领域的飞桨生态是其火速拓展硬件市集的契机,是以应敢于拥抱并改进本身与飞桨的生态合营,告终双赢。

  行动整体 AI 物业链的主要一环,飞桨平昔今后的盛开合营立场是其硬件生态一连博得效率的主要条件,接入 AI 芯片时联结硬件伙伴优化 AI 软件器械链打算,满盈知足开垦者正在利用时对算力、模子和算力等各个层面的需求,低落开垦、磨练和安放的担任,带来低门槛、简陋的利用体验。

  飞桨深度练习框架和硬件厂商这两个主体的高效合作还加强了整体 AI 行业的生机,爆发真正的贸易价格,正在连续健康、良性的硬件生态境况中胀励 AI 利用领域化落地。将来飞桨将一连开源盛开,找准与硬件厂商长处契合点,正在更通俗和深远的软硬协同探究中更好地办事开垦者。PG电子联袂 NVIDIA 等 40 余家国表里搭档飞桨硬件生态狂飙