斯坦福大学近日更新了DAWNBenchmark的4月份的成绩。
DAWNBench是一套用于端到端深度学习训练和推理的基准套件。它提供了一套通用的深学习评价指标,用于量化训练时间、训练成本、推理延迟以及推理成本,并通过不同的优化策略、模型体系结构、软件框架、云和硬件来计算推理成本。
Intel的ResNet模型(Caffe框架),即完全由Xeon处理器构建的亚马逊EC2平台,推理延迟和推理成本上都拿下第一。
具体来说,Intel平台处理10000张图片的延迟是9.96ms,成本0.02美元。成本方面,最接近Intel的是NVIDIA基于MXNet框架的K80显卡+4 CPU平台,0.07美元、延迟29.4ms。
测试中,Intel Xeon在计算方面的主要对手,一是谷歌自研的TPU v2(张量处理器),二是NVIDIA的GPU阵列(包括Tesl V100)。
当然,图形识别(93%以上精度)的总训练时间上,基于谷歌TPU v2、TensorFlow学习框架的ResNet50模型高居第一,仅需30分钟,比第一代提升了477倍。
这套测试我们可以这样理解,不同硬件平台相当于考生,大家同时开始背一套考试题和答案,名叫谷歌的考生最先背会、Intel则是考场上作答速度和准度最高的。
考虑到Intel正在全力研发图形处理器,深度学习方面对NVIDIA和谷歌还有一场恶战。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)