助力深度學(xué)習(xí) NVIDIA發(fā)布兩款GPU加速器

    NVIDIA 今天宣布，旗下基于 Pascal? 架構(gòu)的深度學(xué)習(xí)平臺(tái)再添新成員：新款 NVIDIA? Tesla? P4 和 P40 GPU 加速器及新軟件帶來(lái)大幅飆升的效率和速度，能更快速地處理人工智能服務(wù)的推理工作負(fù)載。

NVIDIA聯(lián)合創(chuàng)始人、總裁兼首席執(zhí)行官黃仁勛先生向大家介紹新款Tesla P4和P40加速器

    語(yǔ)音激活的幫助、垃圾郵件過(guò)濾器以及電影和產(chǎn)品推薦引擎等現(xiàn)代 AI 服務(wù)正迅速變得更復(fù)雜，需要的計(jì)算能力比一年前的神經(jīng)網(wǎng)絡(luò)最高高出 10 倍。目前基于 CPU 的技術(shù)無(wú)法提供現(xiàn)代 AI 服務(wù)所需的實(shí)時(shí)響應(yīng)能力，導(dǎo)致用戶體驗(yàn)較差。 

    Tesla P4 和 P40 專(zhuān)門(mén)設(shè)計(jì)為執(zhí)行推理，也即使用經(jīng)過(guò)訓(xùn)練的深度神經(jīng)網(wǎng)絡(luò)來(lái)識(shí)別語(yǔ)音、圖像或文字，以響應(yīng)用戶和設(shè)備的查詢。這兩款 GPU 基于 Pascal 架構(gòu)，包含基于 8 位 (INT8) 數(shù)據(jù)的專(zhuān)用推理指令，響應(yīng)速度比 CPU 快 45 倍(1)，并且比發(fā)布尚不滿一年的 GPU 解決方案快 4 倍。 

    Tesla P4 為超大規(guī)模數(shù)據(jù)中心提供極高的能效。它外形小巧，能裝入大多數(shù)服務(wù)器中，而且功耗極低（初始功率只有 50 瓦特），能效與處理推理工作負(fù)載的 CPU 相比提高 40 倍。對(duì)于視頻推理工作負(fù)載，一臺(tái)配備單個(gè) Tesla P4 的服務(wù)器可以取代 13 臺(tái) CPU 服務(wù)器(2)，而且總體擁有成本（包括服務(wù)器成本和電力成本）可節(jié)省超過(guò) 800%。 

    Tesla P40 提供非常高的深度學(xué)習(xí)工作負(fù)載處理能力。它包含的 INT8 指令帶來(lái) 47 萬(wàn)億次運(yùn)算/秒 (TOPS) 的推理性能，使得一臺(tái)配備八個(gè) Tesla P40 加速器的服務(wù)器在性能上可以取代超過(guò) 140 臺(tái) CPU 服務(wù)器。(3)按每臺(tái)服務(wù)器的成本大約 5,000 美元計(jì)算，僅服務(wù)器購(gòu)置成本就能節(jié)省超過(guò) 65 萬(wàn)美元。

    NVIDIA 加速計(jì)算事業(yè)部總經(jīng)理 Ian Buck 說(shuō)道：“憑借 Tesla P100 以及今天推出的 Tesla P4 和 P40，NVIDIA 為數(shù)據(jù)中心帶來(lái)了極其罕見(jiàn)的端到端深度學(xué)習(xí)平臺(tái)，讓各行各業(yè)都能淋漓盡致地發(fā)揮 AI 的巨大潛能。它們使訓(xùn)練時(shí)間從幾天縮短到幾小時(shí)，讓用戶能立即洞察玄機(jī)，還能實(shí)時(shí)響應(yīng)消費(fèi)者的詢問(wèn)，向他們提供意見(jiàn)或建議。”

能加快推理速度的軟件工具

    兩款創(chuàng)新的軟件助力 Tesla P4 和 P40，顯著加快 AI 推理速度，它們就是：NVIDIA TensorRT 和 NVIDIA DeepStream SDK。 

    TensorRT 是為優(yōu)化將部署到生產(chǎn)環(huán)境的深度學(xué)習(xí)模型而創(chuàng)建的庫(kù)，能即時(shí)響應(yīng)極其復(fù)雜的網(wǎng)絡(luò)。它通常以 32 位或 16 位數(shù)據(jù)的形式獲取接受訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，并針對(duì)降低了精度的 INT8 操作優(yōu)化這些網(wǎng)絡(luò)，從而最大程度地提高深度學(xué)習(xí)應(yīng)用程序的處理能力和效率。 

    NVIDIA DeepStream SDK 利用 Pascal 服務(wù)器的強(qiáng)大功能同時(shí)對(duì)最多達(dá) 93 路的高清視頻流進(jìn)行實(shí)時(shí)解碼和分析，相比之下，雙 CPU 服務(wù)器只能對(duì) 7 路視頻流這樣做。這解決了 AI 領(lǐng)域的一大挑戰(zhàn)：在自動(dòng)駕駛汽車(chē)、交互式機(jī)器人、過(guò)濾和廣告投放等應(yīng)用場(chǎng)合下，理解大批量的視頻內(nèi)容。通過(guò)將深度學(xué)習(xí)能力集成到視頻應(yīng)用程序中，公司能夠提供以前不可能提供的創(chuàng)新型智能視頻服務(wù)。

讓客戶的服務(wù)水平實(shí)現(xiàn)飛躍

    如今，NVIDIA 客戶提供越來(lái)越新穎的 AI 服務(wù)，這些服務(wù)需要極高的計(jì)算性能。 

    百度高級(jí)研究人員 Greg Diamos 說(shuō)道：“向每個(gè)用戶提供簡(jiǎn)單和快速響應(yīng)的體驗(yàn)對(duì)我們很重要。我們?cè)谏a(chǎn)環(huán)境中部署了 NVIDIA GPU，提供由 AI 驅(qū)動(dòng)的服務(wù)，例如我們的 Deep Speech 2 系統(tǒng)。通過(guò)使用 GPU，響應(yīng)速度達(dá)到了未經(jīng)加速的服務(wù)器不可企及的水平。具備 INT8 功能的 Pascal 將實(shí)現(xiàn)更大的飛躍，我們期待它能給用戶帶來(lái)更好的體驗(yàn)。”

規(guī)格：   

    ■?