大家之前可能或多或少听说过GPT-3，OpenAI最新的语言模型，堪称地表最强语言模型，也被认为是革命性的人工智能模型。除此之外还有BERT、SwitchTransformer等重量级产品，而且业内其他企业也在努力推出自家的模型。微软和英伟达今天宣布了由DeepSpeed和Megatron驱动的Megatron-Turing自然语言生成模型（MT-NLG），这是迄今为止训练的最大和最强大的解码语言模型。广东财经了解到，作为TuringNLG17B和Megatron-LM的继任者，这个模型包括5300亿个参数，而且MT-NLG的参数数量是同类现有最大模型GPT-3的3倍，并在一系列广泛的自然语言任务中展示了无与伦比的准确性，例如：完成预测阅读理解常识推理自然语言推理词义消歧105层、基于转换器的MT-NLG在零、单和少样本设置中改进了先前最先进的模型，并为两个模型规模的大规模语言模型设定了新标准和质量。据悉，模型训练是在基于NVIDIADGXSuperPOD的Selene超级计算机上以混合精度完成的，该超级计算机由560个DGXA100服务器提供支持，这些服务器以完整的胖树配置与HDRInfiniBand联网。每个DGXA100有8个NVIDIAA10080GBTensorCoreGPU，通过NVLink和NVSwitch相互完全连接。微软AzureNDv4云超级计算机使用了类似的参考架构。更多内容可查看微软和英伟达官方说明：
风险声明：本文用于提供财经信息与知识参考，不构成投资建议、交易邀请或收益保证。历史稿件中的数据与规则可能已发生变化，请结合发布日期并以权威机构最新资料为准。