NVidia Tesla T4 專業深度學習GPU計算顯卡

英偉達T4介紹

NVIDIA TESLA T4深度學習GPU加速HPC超算顯卡。擁有極高的深度學習推理吞吐量Tesla P40專為提供極高的深度學習推理吞吐量而打造。T4 可以解碼多達 38 個全高清視頻流，從而可以輕松地將可擴展的深度學習集成到視頻管線中，以提供創新的智能視頻服務。

我們正面向未來砥礪前行。在未來，人工智能將會觸及并改善與客戶的每一次互動、每一種產品以及每一項服務。認識到未來需要一個能夠加速現代人工智能各種應用的計算平臺，使企業能夠創造新的客戶體驗，重新構想他們如何滿足和超越客戶需求，并經濟高效地擴展他們基于人工智能的產品和服務。 NVIDIA Tesla T4 GPU 是世界上極其先進的推理加速器。搭載 NVIDIA Turing? Tensor Core 的 Tesla T4 提供革命性的多精度推理性能，以加速現代人工智能的各種應用。Tesla T4 封裝在節能的小型 70 瓦 PCIe 中，可針對橫向擴展服務器進行優化，并且旨在實時提供極其先進的推理。

配備 NVIDIA Tesla T4 的服務器適用于虛擬 GPU 軟件 ，通過 NVIDIA GRID vPC 和 NVIDIA Quadro vDWS 這兩款 vGPU 虛擬化軟件，可加速 VDI 用戶體驗，可提供 高于CPU VDI 環境 33% 的出色性能。

T4加速卡產品特點

1、小巧的 70 瓦外形設計

讓 T4 針對可擴展服務器進行了優化，能效相比 CPU 提高了50 倍之多，大大降低了運營成本。過去兩年， NVIDIA 推理平臺的性能提高了 10 多倍，仍然是極具能效的分布式 AI 訓練和推理解決方案。

2、NVIDIA T4 數據中心 GPU

是完美適用于分布式計算環境的通用加速器。革命性的多精度性能可加速深度學習以及機器學習訓練和推理、視頻轉碼和虛擬桌面。 T4 支持所有 AI 框架和網絡類型，性能強勁，效率卓越，可最大限度提高大規模部署的效用。

3、Turing Tensor 核心技術

具有多精度計算特性，實現了從 FP32 、 FP16 到 INT8 以及 INT4 精度的突破性 Al 性能、與 CPU 相比，它的訓練性能高達 9 . 3 倍，推理性能高達 36 倍。

T4顯卡詳細參數

Nvidia T4
GPU架構	NVIDIA Turing
NVIDIA Turing Tensor 核心數量	320
NVIDIA CUDA ? 核心數量	2560
單精度	8.1 TFLOPS
混合精度 (FP16/FP32)	65 TFLOPS
INT8	130 TOPS
INT4	260 TOPS
GPU 顯存	16 GB GDDR6  300 GB/s
ECC	支持
互聯帶寬	32 GB / s
系統接口	x16 PCIe Gen3
外形尺寸	PCIe 半高卡
散熱解決方案	被動式
計算 API	CUDA    NVIDIA TensorRT ?  ONNX