A10 是一款旗舰级的 Inferred GPU。 凭借 24 GB GDDR6 的超大高速显存,它在处理大规模模型微调 (Fine-tuning)、超大规模语言模型 (LLM) 以及超高维度数据吞吐时表现卓越。
推荐训练/使用场景
Deep Learning Inference
Graphics
Video Transcoding
Cloud Gaming
核心架构
NVIDIA Ampere
显存容量
24 GB GDDR6
显存带宽
600 GB/s
CUDA 核心数
9216
FP16 半精度算力
31.2 TFLOPS
最大功耗 (TDP)
150W