2018年被稱為AI全面迸發的元年，大量AI職業運用逐步落地，帶來了生產功率及生活品質的大幅提高，催生出了愈加多元化的商業價值。而伴隨著AI開展進入深水區，待處理數據量空前龐大，算法復雜度出現指數級增長，能否供給更快更強的核算力，成為AI保持高速開展的關鍵因素。

　　面向用戶日益增長的關于構建更智慧AI運用的核算需求，供給功用愈加強悍、彈性易擴展和高性價比的云上核算才能，成為業界的一起方針。金山云根據對用戶需求的深入把控，于近期正式推出了根據NVIDIA Tesla V100的GPU云效勞器，支撐最高15*8 TFLOPS的單精浮點核算才能和125*8TFLOPS的混合精度(FP16/FP32)矩陣核算才能，使深度學習練習與推理進程功用提高300%，而本錢保持不變。

　　作為國內首家正式公開售賣的根據Tesla V100的GPU云效勞器，運用了創新的Tensor Core引擎，將混合精度浮點的核算才能再提高10倍以上，在整體深度學習的練習與推理運用中比較于上一代PASCAL渠道有了3倍功用提高，可輕松應對深度學習，科學運算、圖形圖像烘托等許多運用場景，有用縮短在線猜測和離線練習時長。

　　現在根據V100的GPU加速核算效勞已全面商用，為包含小米等在內的許多客戶供給著高功用的核算支撐。小米最新發布的年度旗艦手機小米8，其AI加持的全面屏系統MIUI 10、AI相機、AI語音助理“小愛同學”等，背面均有金山云尖端GPU資源供給的核算效勞，極大提高了產品的研制功率和運用體會。

　　在根底結構層面，Tesla V100總共包含了210億顆晶體管，搭載了84個SM(流多處理器)單元，其間有用單元有80個，每個SM單元中有64個單精度的處理單元CUDA Core以及8個混合精度的矩陣運算單元Tensor Core，總計共有5120個CUDA Core和640個Tensor Core，搭載16GB的HBM 2的顯存，帶寬可以高達900GB/s，并且支撐300GB/s雙向帶寬的NVLink2.0的主線協議。

　　全新的Volta架構示意圖

　　在線程分配層面，V100是首款支撐獨立線程調度的GPU，答應GPU執行任何線程，然后程序中的并行線程之間能完結更精密的同步與協作，運用戶能在更復雜多樣的運用程序上高效地作業。首創的Tensor Core打破了單處理器的最快處理速度記載，可以供給比功用單一的ASIC更高的功用，在不同作業負載下依然具備可編程性。

　　Tensor Core打造更專業的深度學習核算單元

　　Tensor Core是Volta架構最重磅的特性，是專門針對深度學習運用而規劃的專用ASIC單元，是一種矩陣乘累加的核算單元。(矩陣乘累加核算在Deep Learning網絡層算法中，比方卷積層、全銜接層等是最重要、最耗時的一部分)。Tensor中心每個時鐘周期可執行64次浮點混合乘加(FMA)運算，然后為練習和推理運用程序供給高達125 TFLOPS的核算功用。

　　更強悍的核算才能意味著開發人員可以運用混合精度(FP16核算運用FP32累加)執行深度學習練習，然后完結比上一代產品快3倍的功用，并可收斂至網絡預期準確度，現在Tensor Core可以支撐的深度學習結構有Caffe、Caffe2、MXNet、PyTorch、Theano、TensorF low等。

　　此外，Tesla V100的NVLink版別支撐NVLink2.0高速互聯總線協議，Tesla P100支撐的NVLink1.0協議，每顆GPU可以銜接4根總線，每根總線的單向傳輸帶寬可以到達20GB/s，四根總線可以完結單向80GB/s、雙向160GB/s的IO帶寬。而Tesla V100支撐最新的NVLink2.0協議，每顆GPU最多可以完結六根總線互聯，每根總線的單向傳輸帶寬可以到達25GB/s，六根總線可以完結單向150GB/s、雙向300GB/s的IO帶寬，比較NVLink1.0，帶寬簡直提高了1倍。

　　高混合精度核算才能讓核算更高效

　　Tesla V100有NVLink和PCIe兩個版別，核算中心都是GV100，均有5120個CUDA Cores以及640個Tensor Cores，NVLink版別主頻略高，雙精度浮點核算才能到達7.5TFLOPS，單精度浮點核算才能到達了15TFLOPS，而混合精度核算才能可以到達125 TFLOPS，PCIe版別有7TFLOPS雙精度浮點核算才能、14TFLOPS單精度浮點核算才能和112個TFLOPS混合精度核算才能。

　　在練習ResNet-50時，單個V100 Tensor Core GPU的處理速度能到達1075張圖像/秒，與上一代Pascal GPU比較，它的功用提高了4倍。據測算，假如有100萬張圖片需求學習，理論上僅需約15分鐘即可練習完結。

　　NVLink和PCIe版別Tesla V100比照

　　金山云作為國內首家正式商用Tesla V100的云效勞廠商，現在在售根據V100的效勞器有GPU云效勞器(P4V系列)和GPU物理效勞器(P4E系列)。杰出的深度學習核算功用，讓用戶可以愈加快速、高效構建AI事務，彈性易擴展和高性價比的特性，可以為用戶節省大量核算本錢，有用下降AI開發的時刻危險，提高企業AI競爭力。