蓝盟IT小贴士,来喽!
中央处理器擅长指挥复杂的操作,如全局操作,而图形处理器擅长对大数据进行简单的重复操作。中央处理器是从事复杂脑力劳动的教具,而图形处理器是进行大量并行计算的体力劳动者。那么,GPU的重要参数是什么?
CUDA核心;CUDA核心的数量决定了GPU的并行处理能力。在深度学习和机器学习等并行计算服务下,CUDA核心通常意味着更好的性能。
视频存储容量(Video memory capacity):其主要功能是临时存储要由GPU处理的数据和处理后的数据。视频内存的大小决定了GPU可以加载的数据量。(在视频内存已经能够满足客户业务的情况下,提高视频内存不会给业务绩效带来很大的改善。在深度学习和机器学习的训练场景中,视频内存的大小决定了一次可以加载的训练数据量。在大规模训练中,视频记忆更为重要。
视频内存位宽:视频内存在一个时钟周期内可以传输的位数。位数越多,可以瞬间传输的数据量就越大。这是视频存储器的重要参数之一。
视频存储频率(Video memory frequency):在某种程度上,它反映了视频存储器的速度,单位为MHz(兆赫),视频存储频率随视频存储器的类型和性能而变化。视频存储频率和位宽决定了视频存储带宽。
视频存储器带宽:指显示芯片和视频存储器之间的数据传输速率,单位为字节/秒。视频内存带宽是决定显卡性能和速度的最重要因素之一。
其他指标:除了显卡的通用指标之外,英伟达还针对特定场景优化了一些指标,如TsnsoCore、RTCoreRT等功能。例如,时态核心(TensenCore)专门用于在深度学习中加速张量运算。