英伟达选择甲骨文 OCI 云技术提供大规模 AI 超级计算服务 NVIDIA DGX Cloud

3 月 28 日音讯,甲骨文颁布发表取英伟达(NVIDIA)进一步扩展协作,正在齐新的Oracle 云根底设备近程硬件效劳 (中文国际注:齐称 Oracle Cloud Infrastructure,简称 OCI) Supercluster 上运转计谋性 NVIDIA AI 使用。英伟达挑选 OCI 做为该企业的超年夜范围云手艺供给商,供给年夜范围的 AI 超等计较效劳 NVIDIA DGX Cloud。别的,英伟达正正在运转其天生式 AI 云效劳NVIDIA AI Foundations,该效劳经过基于 OCI 的 DGX Cloud 供给。

NVIDIA DGX Cloud战正在基于其运转的NVIDIA AI Foundations效劳应用英伟达认证的 OCI Supercluster去确保其契合 DGX Cloud 的下规范。

OCI Supercluster 包括了 OCI Compute Bare Metal、基于 NVIDIA 收集的超低提早 RoCE 散群,和 HPC 存储的选件。英伟达已布置并考证该超等散群,以撑持数千个 OCI Compute Bare Metal 真例下效处置年夜范围并止使用。OCI Supercluster 收集如今可使用 32,768 个 A100 GPU,扩大至 4,096 个 OCI Compute Bare Metal 真例。如今,装备 NVIDIA H100 GPU 的 OCI Compute Bare Metal 真例已限量供给。

别的,英伟达颁布发表,甲骨文公司正正在将 NVIDIA BlueField-3 DPU 增加到其收集仓库中。

NVIDIA AI Foundations 建模效劳涵盖言语、图象、视频战 3D 和死物教。企业可使用 NVIDIA NeMo 言语效劳战 NVIDIA Picasso 图象、视频战 3D 效劳,构建专有的、特定范畴的天生式 AI 使用,从而完成智能谈天战客户撑持、专业内容创立、数字模仿等。关于死物 AI 模子锻炼战揣度,NVIDIA BioNeMo 云效劳供给了用于疾速定造战布置天生式 AI 使用的东西。

正在 OCI 上,运用 NVIDIA AI Foundations 的定造模子战像 GPT-3 一样的模子系列可从 OCI Supercluster 中受害,此中包罗特地构建的 RDMA 收集。该收集可供给远线速的功能战微秒提早,并消弭有闭依靠 RDMA 的任务背载的妨碍。

您可能还会对下面的文章感兴趣: