ND H100 v5虚拟机系列从今天开始通过Azure云正式发布。它使客户能够访问训练和运行生成式 AI 模型所需的强大计算基础设施。
Microsoft公司希望吸引企业将其最先进的人工智能项目引入Azure云平台，它通过提供对Nvidia Corp最新，最强大的图形处理单元的访问来实现这一目标。
该公司今天表示，其ND H100 v5虚拟机系列从今天开始通过Azure云正式发布。它使客户能够访问训练和运行生成式 AI 模型所需的强大计算基础设施。
此外，它还扩大了其Azure OpenAI服务的可用性，通过该服务，客户可以探索ChatGPT创建者OpenAI LP最先进的AI模型。该公司表示，Azure OpenAI现已在全球多个地区推出。
Microsoft的ND H100 v5 VM似乎是迄今为止提供的最强大的计算产品之一。它们现已在 Azure 的美国东部和美国西部地区推出，配备了八款 Nvidia 最新、最强大的 H100 GPU。
英伟达去年推出了H100 GPU，并解释说它们基于其新的Hopper架构。它们能够提供比用于训练原始ChatGPT的Nvidia A100 GPU高出几个数量级的处理能力。.
H100 GPU的优势在于它们提供比上一代GPU“明显更快的AI模型性能”，Nvidia在推出时表示。ND H100 v5 实例还采用英特尔公司最新的第四代英特尔至强可扩展中央处理器，通过 Nvidia 的 Quantum-2 CX7 InfiniBand 技术提供低延迟网络。它们还集成了 PCIe Gen5，为每个 GPU 提供每秒 64 GB 的带宽，以及 DDR5 内存，可实现更快的数据传输速度，以处理最大的 AI 训练数据集。
Microsoft对ND H100 v5实例的性能能力提出了一些重大要求，承诺矩阵乘法运算的加速速度提高六倍，在OpenAI的GPT-BLOOM 175B等大型语言模型上的推理速度提高1.8倍。
该公司表示，企业今天可以注册他们对新虚拟机的兴趣，并承诺将在明年之前向客户提供数十万个H100 GPU。
ND H100 v5 VM 面向生成式 AI 工作负载，因此Microsoft扩展 Azure OpenAI 服务非常有意义，该服务提供对 OpenAI 尖端 AI 模型 GPT-4 和 GPT-35-Turbo 的直接访问。该公司今天表示，Azure OpenAI服务于1月推出，最初仅在Azure的美国东部，法国中部，美国中南部和西欧地区提供，但现在已扩展到加拿大东部，美国东部2，日本东部和英国南部。
Constellation Research Inc.的Holger Mueller表示，今天的公告表明Microsoft对扩大其人工智能产品并使其更强大，更广泛地可用是多么热情。“它希望让更多的客户可以使用OpenAI，并同时提供基于Nvidia的虚拟机，供客户运行他们的自定义AI模型并从中获利，”他说。“推出速度以及可用性和稳定性是客户采用的关键，因为由于数据驻留和安全要求，许多企业都绑定到特定区域。
Microsoft表示，Azure OpenAI服务已经被超过11，000家企业客户使用，并以每天约100名新用户的速度增长。
“作为此次扩张的一部分，我们正在新地区提高我们最先进的生成AI模型GPT-4的可用性，”Microsoft Azure HPC，AI，SAP和机密计算总经理Nidhi Chappel说。“这种增强功能使更多客户能够利用 GPT-4 的功能进行内容生成、文档智能、客户服务等。”
声明： 此文观点不代表本站立场；转载须要保留原文链接；版权疑问请联系我们。
