CPU、内存、显卡等硬件因素也影响着你的深度学习模型性能

参考：https://posts.careerengine.us/p/5dcb5f53bb8d8844ea19cd0f

数据流动路径

假设我们现在有一批图片集放在硬盘当中，待读取进内存送入GPU运算，那么一般会经历以下流程：
cpu发出读取指令，从硬盘中找到图片数据，并存到内存中；
cpu从内存中取出一批数据，转化为numpy array，并作数据预处理/增强操作，如翻转、平移、颜色变换等。处理完毕后送回内存。
cpu内存（后面简称内存）和gpu内存（后面简称显存）各开辟一块缓冲区，内存中的一个batch的数据通过PCIe通道传输到显存当中。
GPU核心从显存中获取数据进行并行计算，计算结果返回至显存中。
计算好的结果将从显存经过PCIe通道返回到内存。

这5个步骤涉及到几个影响数据传输速度的环节：

硬盘读取速度；
PCIe传输速度；
内存读写速度；
cpu频率。
我们首先来说说硬盘。

硬件的瓶颈之后就是软件层面的多线程