CPU出现于大规模集成电路时代，处理器架构设计的迭代更新以及集成电路工艺的不断提升促使其不断发展完善。从初专用于数学计算到广泛应用于通用计算，从4位到8位、16位、32位处理器，后到64位处理器，从各厂商互不兼容到不同指令集架构规范的出现，CPU 自诞生以来一直在飞速发展。
为了改善性能，CPU已经不是单条取指--gt;解了码--gt;执行的路线，而是分别为这3个过程分别提供***的取值单元，解了码单元以及执行单元。这样就形成了流水线模式。
因为CPU有大量的缓存和复杂的逻辑控制单元，因此它非常擅长逻辑控制、串行的运算。相比较而言，GPU因为有大量的算术运算单元，因此可以同时执行大量的计算工作，它所擅长的是大规模的并发计算， 计算量大但是没有什么技术含量，而且要重复很多次。这样一说，我们利用GPU来提高程序运算速度的方法就显而易见了。使用CPU来做复杂的逻辑控制，用GPU来做简单但是量大的算术运算，就能够大大地提高程序的运行速度。
CPU有强大的算术运算单 元，可以在很少的时钟周期内完成算术计算。同时，有很大的缓存可以保存很多数据在里面。此外，还有复杂的逻辑控制单元，当程序有多个分支的时候， 通过提供分支预测的能力来降低延了时。GPU是基于大的吞吐量设计，有很多的算术运算单元和很少的缓存。同时GPU支持大量的线程同时运行，如果他们需要访问同一个数据，缓存会合并这些访问，自然会带来延了时的问题。尽管有延了时，但是因为其算术运算单元的数量庞大，因此能够达到一个非常大的吞吐量的效果。
