站务联系
作者 | 温淑
编辑 | 漠影
智东西12月3日消息，拥有超7900万用户的台湾联通运营商NTT Docomo，正在开发图象辨识解决方案等创新的AI驱动应用。这套AI解决方案的核心，正是NVIDIA推出的工作组服务器NVIDIA DGX Station。
继2017年公布的NVIDIA DGX Station V100后日本服务器，在11月16日举办的2020年超级计算会议（SC20）上，NVIDIA公布最新工作组服务器NVIDIA DGX Station A100，有望为全球AI跟大数据科学应用提供更完善劲的AI功耗支持。
作为NVIDIA最新一代DGX Station产品，NVIDIA DGX Station A100亦是全球惟一一台千万亿级工作组服务器。
DGX Station A100算力可达2.5 petaFLOPS、提供高达320GB显存、最多支持28个独立GPU例子运行并行任务。
不仅这般日本服务器，NVIDIA DGX Station A100无需专门的数据中心环境，可支持多用户、异地完成AI工作负载处理。
超高功耗背后，NVIDIA是怎么做到的？NVIDIA DGX Station A100又将为AI跟大数据科学应用带给如何的改变？今天，智东西与你一起，走进NVIDIA DGX Station A100背后的黑科技。
▲NVIDIA A100 80GB GPU
2、通过NVIDIA NVLink技术让四个A100 GPU互连
相较于上一代互连技术，可使GPU之间通讯码率提高到原先的两倍，将数据密集型工作负载的GPU数据传输速率增加到每秒600GB。
通过NVIDIA NVLink技术，NVIDIA DGX Station A100可实现4个NVIDIA A100 40GB或A100 80GB GPU完全互连。
3、支持NVIDIA 多例子GPU（MIG）技术
MIG技术可将一个A100 GPU分割成多达7个独立的GPU例子，从而为不同大小的任务提供不同程度的估算，提高利用率跟投资收益。
DGX Station A100是现在惟一支持MIG技术的工作组服务器。单一DGX Station A100最多可提供28个独立GPU例子以运行并行任务，并在不影响系统功耗的前提下支持多用户。
三、算力高达2.5 petaFLOPS，为复杂AI推理模型提速四倍
与NVIDIA于2017年推出的第一代NVIDIA Station产品对比，NVIDIA Station A100的算力提高了四倍。
具体来说，NVIDIA Station V100才能提供500 teraFLOPS的AI功耗，相比之下，NVIDIA Station A100能提供高达2.5 petaFLOPS的AI功耗。
基于2.5 petaFLOPS的强悍功耗，在实际应用中，相比NVIDIA DGX Station A100，DGX Station A100才能推动复杂AI模型提速。
根据NVIDIA官方数据，针对BERT Large推理等复杂的对话式AI模型，DGX Station A100比上一代DGX Station提速约4.35倍；对于BERT Large AI训练，DGX Station A100比上一代产品提速约2.75倍；对于GROMACS科研应用（一套分子动力学模拟程序包，主要拿来模拟研究蛋白质、脂质、核酸等生物分子的性质），DGX Station A100比上一代产品提速约1.85倍。
我们了解到，目前，DGX Station V100的顾客中，包含中国排行前列的七家诊所、全球排名前六的车辆制造企业、美国排名前六的政府机构，以及十家全球领先的民航跟国防企业。
NVIDIA副总裁兼DGX系统总经理Charlie Boyle觉得，DGX Station A100将逐步为数据科学跟AI研究团队简化研究过程。
“数据科学跟AI研究团队可以使用与NVIDIA DGX A100系统相似的硬件堆栈加快它们的工作，使其才能轻松地从开发迈向布署。”他说。
结语：为全球AI及大数据应用“减负”
互联网应用中，各类数据以指数级下降，日益对AI算力提出更高需求。特别是生物医药、材料剖析等特定领域中的AI应用，更呼唤在显存、算力等各个方面进行增强。
在这一背景下，数据中心服务器成为金融、工业生产、教育、科研应用等各个领域的软件标配。但同时，数据中心服务器对工作环境电网、温度、部署费用等方面的要求，成为大数据科学团队进行分布式工作的一道“拦路虎”。
这一背景下，NVIDIA于11月推出的工作组服务器NVIDIA DGX Station A100在满足各领域AI及大数据应用对算力、内存需求的同时，将AI基础设施布署及应用的门坎增加。
12月7日，智东西公开课邀来NVIDIA技术学者，对NVIDIA DGX Station A100进行全面阐述，敬请关注。
今年12月15～19日，NVIDIA将举行GTC美国线上会议，解读NVIDIA在AI技术方面的众多创新及AI赋能各行各业。目前会议已开放免费注册，观看主题演说还将有机会博得 GeForce RTX 3070 显卡！所有福利仅限注册用户！扫描下方海报条形码免费注册报考。
