产品概况
NVIDIA T4 Tensor Core GPU 概览
利用全球性能超强劲的扩展加速器 NVIDIA T4 Tensor Core GPU 打造动力澎湃的服务器。它的 70 瓦半高设计由 NVIDIA Turing™ Tensor 核心提供动力支持,具有革命性的多精度推理性能,可加速各种当今热门的应用程序。这款先进的 GPU 封装在外形小巧的 70 瓦低能耗 PCIe 中,且针对服务器横向扩展进行了优化,专为提供杰出的 AI 性能而打造。
规格参数
NVIDIA T4 | |
GPU架构 | NVIDIA Turing |
NVIDIA Turing Tensor 核心数量 | 320 |
NVIDIA CUDA ® 核心数量 | 2560 |
单精度 | 8.1 TFLOPS |
混合精度 (FP16/FP32) | 65 TFLOPS |
INT8 | 130 TOPS |
INT4 | 260 TOPS |
GPU 显存 | 16 GB GDDR6 300 GB/s |
ECC | 支持 |
互联带宽 | 32 GB / s |
系统接口 | x16 PCIe Gen3 |
外形尺寸 | PCIe 半高卡 |
散热解决方案 | 被动式 |
计算 API | CUDA NVIDIA TensorRT ™ ONNX |
产品特点
小巧的 70 瓦外形设计
让 T4 针对可扩展服务器进行了优化,能效相比 CPU 提高了50 倍之多,大大降低了运营成本。过去两年, NVIDIA 推理平台的性能提高了 10 多倍,仍然是具有超高能效的分布式 AI 训练和推理解决方案。
NVIDIA T4 数据中心 GPU
是完美适用于分布式计算环境的通用加速器。革命性的多精度性能可加速深度学习以及机器学习训练和推理、视频转码和虚拟桌面。 T4 支持所有 AI 框架和网络类型,性能强劲,效率卓越,可最大限度提高大规模部署的效用。
Turing Tensor 核心技术
具有多精度计算特性,实现了从 FP32 、 FP16 到 INT8 以及 INT4 精度的突破性 Al 性能、与 CPU 相比,它的训练性能高达 9.3 倍,推理性能高达 36 倍。
在后台系统设置->内容设置中设置该内容
在后台系统设置->内容设置中设置该内容