PG电子壮健硬件+平常生态+模子优化英特尔正鼓舞PC天生式AI用例的落地

 常见问题     |      2023-08-25 13:53:58    |      小编

  PG电子以第12代、第13代英特尔 酷睿 照料器和英特尔锐炫 A系列显卡为代表的英特尔多款客户端芯片均能供给强劲本能,以餍足天生式AI(AIGC)看待高算力的需求,正在此根本上,英特尔还通过软件生态的构修和模子优化,进一步推进新兴的天生式AI场景正在个体电脑的落地,平凡笼罩浮薄本、万能本、游戏本等。目前,英特尔正与PC财富稠密协作伙伴群策群力,戮力于让宽大用户正在闲居生涯和职业中,通过AI的辅帮来升高效劳,进而带来给刷新性的PC体验。

  英特尔踊跃拥抱AI社区PG电子PG电子,基于OpenVINO PyTorch后端的计划,通过Pytorch API让社区开源模子或许很好地运转正在英特尔的客户端照料器、集成显卡硬件、独立显卡和专用AI引擎上。以图形视觉范畴为例, Stable Diffusion的实行Automatic1111 WebUI,曾经能通过上述办法,正在英特尔客户端平台的CPU和GPU(席卷集成显卡和独立显卡)上运转FP16精度的模子硬件,用户能够正在文字天生图片、图片天生图片以及限度修复等功用上获取精良的应用体验。

  不但云云,英特尔通过模子优化硬件,低重了模子对硬件资源的需求,进而晋升了模子的推理速率,让社区开源模子或许很好地运转正在个体电脑上。以大道话模子为例,英特尔通过第13代英特尔酷睿照料器XPU的加快、low-bit量化以及其它软件层面的优化,让最高达160亿参数的大道话模子,通过BigDL-LLM框架运转正在16GB及以上内存容量的个体电脑上。这也彰显了英特尔或许合适该下火速成长的大道话模子生态硬件,火速对接新兴模子,并兼容目前HuggingFace上的Transformers模子。曾体味证过的模子席卷但不限于:LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper等。其余,英特尔还供给了易用的API接口(Transformers、LangChain),并援帮Windows、Linux的操作体例。

  英特尔的下一代照料器Meteor Lake具备奇异的分散式模块架构的上风,为PC用户供给了以AI驱动的新功用,席卷像Adobe Premiere Pro中的主动从新构图和场景编纂检测等多媒体功用,并实行更有用的机械练习加快。英特尔与PC财富协作伙伴目前正站正在道程的出发点,向着领域化行使AI加快转型的目标前行硬件。跟着英特此后续几代产物进一步扩展,领域和数方针大幅增进将让数亿人轻松享用AI加快体验,并实行更优的智能互帮、更速的照料速率和更强的功用特点实行空前绝后的体验革新。PG电子壮健硬件+平常生态+模子优化英特尔正鼓舞PC天生式AI用例的落地