全新 NVIDIA Pascal GPU 加速深度學習推論
NVIDIA（英偉達）21日宣布推出Pascal架構深度學習平臺的最新生力軍NVIDIA Tesla P4及P40 GPU加速器與全新軟件，在效能及速度提供大幅度的提升以加速人工智能服務的推論生產作業(yè)負載。
語音助理、待過濾垃圾郵件及電影與產品推薦引擎等現(xiàn)代人工智能（AI）服務越來越復雜，與一年前的神經網絡相比需要高出10倍的運算。目前以CPU為主的技術無法提供現(xiàn)代人工智能服務所需要的即時回應能力，導致不佳的使用者經驗。
Tesla P4及P40特別針對推論設計，使用經訓練的深度神經網絡辨識語音、影像及文字以回應用戶和設備要求。Pascal架構GPU具備以8位（INT8）運算為主的專門推論指令，提供比CPU快45倍的反應速度，與不到一年前推出的GPU解決方案相比則提升了4倍。
Tesla P4為數(shù)據(jù)中心帶來最高的能源效率，其小尺寸及最小50瓦特的低功率設計可安裝于任何服務器內，讓生產作業(yè)負載推論的能源效率達CPU的40倍。在進行視訊推論作業(yè)負載時，單一服務器瑞安裝單顆TeslaP4即可取代13臺僅采用CPU的服務器；而包含服務器及用電量的總持有成本則能節(jié)省達8倍。
Tesla P40為深度學習作業(yè)負載帶來最大的處理量。一臺搭載8顆Tesla P40加速器的服務器擁有每秒47兆次運算（TOPS）的推論效能及INT8指令，可取代140臺以上的CPU服務器的效能。若以每臺CPU服務器約5,000美元計算，可節(jié)省65萬美元以上的服務器采購成本。
NVIDIA加速運算總經理Ian Buck表示：“有了Tesla P100以及新推出的Tesla P4及P40，NVIDIA為數(shù)據(jù)中心提供唯一的端對端深度學習平臺，為各大產業(yè)釋放龐大的人工智能潛力。將訓練時間從數(shù)天大幅縮短至數(shù)小時，能立即解析資料，并透過人工智能服務即時對消費者做出回應！
實現(xiàn)更快速推論的軟件工具
另外與TeslaP4及P40推出的包含兩項加速人工智能推論的創(chuàng)新軟件：NVIDIATensorRT及NVIDIA DeepStream SDK。
TensorRT為針對優(yōu)化生產部署所設計的深度學習模型函式庫，具有立即回應極度復雜網絡的能力。透過訓練過的32位或16位定義神經網絡以及設定以降低精度的INT8運算為目的進行優(yōu)化，將深度學習應用的處理量及效率極大化。
NVIDIA DeepStream SDK銜接強大的Pascal服務器，與雙CPU只能處理7個串流的運算能力相比，能即時同步解碼并分析高達93個HD視訊串流。這解決人工智能的其中一項重大挑戰(zhàn)：處理大規(guī)模的影音內容分析以應用到如自駕車、互動式機器人、過濾及廣告投放等領域。深度學習整合至視訊應用中讓企業(yè)能提供前所未有、智能且創(chuàng)新的視訊服務。
協(xié)助客戶向前邁進
NVIDIA的客戶提供越來越多需要最高運算效能的創(chuàng)新人工智能服務。其中中國臺灣廠商廣達持續(xù)在服務器業(yè)務與NVIDIA合作，從世上首座人工智能超級電腦系統(tǒng)DGX-1、Facebook Big Sur推論服務器到搭載NVIDIA糖果盒大小Tesla P4輕巧1U服務器，皆透過該公司而得以打造出優(yōu)異的產品陣容。
NVIDIA共同創(chuàng)辦人暨CEO黃仁勛表示：“廣達從早期便與我們一同致力于GPU服務器發(fā)展，不論想建造何種類型數(shù)據(jù)中心，透過我們與廣達及云達的合作都能達成！
云達科技總經理楊晴華表示：“我們的客戶相當倚重云達在超大規(guī)模、高密度融合機架式等級解決方案中的領導地位，這些解決方案通常都需要高效能的作業(yè)負載。以深度學習的應用而言，平行運算回應之間的延遲性表現(xiàn)十分重要，而TeslaP40和P4正是能表現(xiàn)出準確與靈敏效能的新一代GPU解決方案！
編輯：admin 最后修改時間：2018-01-05
