PG电子官方网站Meta告示AI硬件厉沉进步:两颗自研芯片亮相 另有一台超算

 常见问题     |      2023-05-20 20:13:36    |      小编

  PG电子5月19日音讯,据表媒Techcrunch报道,正在19日上午的一场线上勾当中,Facebook 母公司Meta首度公然了其自研 AI 芯片的转机,能够声援其比来推出的告白打算和创作东西的天生式 AI工夫。

  Meta根基方法副总裁 Alexis Bjorlin展现:“构修咱们本人的 [硬件] 效力使咱们可能左右仓库的每一层,从数据中央打算到培训框架。必要这种秤谌的笔直整合才智大周围打破人为智能斟酌的范畴。”

  正在过去十年把握的时刻里,Meta 花费了数十亿美元来招募顶级数据科学家并构修新型人为智能,搜罗现正在为涌现引擎、审核过滤器和遍布其使用标准和任职的告白推举器供给声援的人为智能。但该公司向来正在勤恳将其很多野心勃勃的 AI 斟酌更始转化为产物,加倍是正在天生式 AI 方面。

  此前,Meta 要紧运用第三方的 CPU 和专为加快 AI 算法而打算的定造芯片的组合来运转其 AI 任务负载——CPU 正在措置这类职司时的作用往往低于 GPU。为了盘旋景象,Meta 正在2020年开垦了其第一代基于7nm工艺的自研AI芯片 MTIA(MTIA v1)。

  Meta 将该AI芯片称为 Meta Training and Inference Accelerator,简称 MTIA,并将其描绘为加快 AI 操练和推理任务负载的AI芯片“家族”的一局部。MTIA 是一种 ASIC,一种将分别电途组合正在一块基板上的芯片PG电子官方网站,批准对其实行编程以并行推广一项或多项职司。

  “为了正在咱们的主要任务负载中取得更高秤谌的作用和职能,咱们必要一个与模子、软件仓库和体例硬件协同打算的定造处分计划,以使得百般任职为咱们的用户供给更好的体验。”Bjorlin阐明说道。

  据先容,MTIA v1基于 7 纳米工艺,能够从其内部 128 MB 内存扩展到高达 128 GB。Meta展现,MTIA能够特意用于措置与 AI 推举体例联系的任务,帮帮用户寻得最佳贴文实质并更速露出正在用户现时,其准备职能和措置作用都胜过 CPU。别的,正在 Meta 打算的基准测试中,MTIA措置“低庞杂性” ”和“中等庞杂度”的 AI 模子也比 GPU 更高效。

  Meta 展现,MTIA芯片的内存和收集周围仍有少许任务要做,跟着 AI 模子周围的延长,这会显露瓶颈,必要将任务负载分派到多个芯片上。(为此,Meta 比来收购了位于奥斯陆的英国芯片独角兽 Graphcore 的 AI 收集工夫团队。)目前,MTIA 的中心统统放正在 Meta 使用标准系列“推举任务负载”的推理上,而不是操练上。

  Meta 夸大,它将连续修正的MTIA ,正在运转推举任务负载时“大大”升高了公司正在每瓦职能方面的作用——反过来批准 Meta 运转“尤其巩固”和“尖端”人为智能任务负载。

  报道称,Meta原来打算正在2022 年大周围推出其自研的定造AI芯片,但最终却推迟了,转而为其超等准备机 Research SuperCluster (RSC) 订购了价格数十亿美元的 Nvidia GPU,这必要对其多个数据中央实行宏大从新打算。

  固然,目前RSC的算力仍然落伍于微软和谷歌的AI超等准备机。比方,谷歌宣传其静心于人为智能的超等准备机具有 26,000 个 Nvidia H100 GPU。不过,Meta 展现 ,RSC 的上风是批准其斟酌职员运用 Meta 出产体例中的真正示例来操练模子。这与该公司之前的 AI 根基方法分别,之前仅诈欺开源和公然可用的数据集。

  “RSC AI 超等准备机用于正在多个周围胀动 AI 斟酌的界限,搜罗天生式 AI。”Meta 谈话人称:“这真的相干到人为智能斟酌的出产力。咱们欲望为 AI 斟酌职员供给最进步的根基方法,使他们可能开垦模子并为他们供给培训平台以促进 AI 繁荣。”

  Meta称,正在其巅峰时间,RSC 能够抵达近 5 exaflops 的准备才略,这使其成为宇宙上最速的准备才略之一。

  “构修咱们本人的超等准备才略使咱们可能左右仓库的每一层;从数据中央打算到培训框架,”Meta谈话人添加道:“RSC 将帮帮 Meta 的 AI 斟酌职员构修新的更好的 AI 模子,这些模子能够从数万亿个示例中研习;跨数百种分其余讲话任务;沿途无缝剖判文本、图像和视频;开垦新的巩固实际东西;以及更多。”

  异日,Meta或将自研的AI芯片MTIA导入RSC当中,以进一步晋升其AI职能。

  除了 MTIA除表,Meta还正在自研另一款被称为 Meta Scalable Video Processor(MSVP)的 AI芯片,要紧面向连接生长的知足视频点播和直播流媒体的数据措置需求,Meta最终欲望将大局部成熟且巩固的影音实质措置任务交由 MSVP 推广。

  实在,Meta 多年前就着手构想定克任职器端视频措置芯片,并揭晓正在 2019 年推出用于视频转码和推理任务的 ASIC。这是此中少许勤恳的成效,也是对竞赛上风的新胀动。特地是视频直播周围。

  “仅正在 Facebook 上,人们就将 50% 的时刻花正在寓目视频上,”Meta 工夫主管 Harikrishna Reddy 和 Yunqing Chen 正在19日上午发布的一篇博客著作中写道:“为了任职于宇宙各地的百般修立(转移修立、札记本电脑、电视等),上传到 Facebook 或 Instagram 的视频被转码为多个比特流,拥有分其余编码式子、判袂率和质地……MSVP是可编程和可扩展的,而且能够修设为有用地声援 VOD 所需的高质地转码以及及时流媒体所需的低延迟和更速的措置时刻。”

  Meta 展现,它的打算是最终将大局部“巩固和成熟”的视频措置任务负载卸载到 MSVP,并仅对必要特定定造和“显着”更高质地的任务负载运用软件视频编码。Meta 说,运用智能降噪和图像巩固等预措置措施以及伪影去除和超判袂率等后措置措施,咱们将连续运用 MSVP 升高视频质地。

  “正在异日,MSVP 将使咱们可能声援更多 Meta 最主要的用例和需求,搜罗短视频——达一天生式 AI硬件、AR/VR 和其他元宇宙实质的高效交付。”Reddy 和 Chen 说。

  原题目:Meta首款AI推理芯片2025年推出 又有视频措置AI芯片MSVPPG电子官方网站Meta告示AI硬件厉沉进步:两颗自研芯片亮相 另有一台超算