在计算机技术的发展过程中，主存储器存取速度相较于中央处理器操作速度较慢，影响了中央处理器的高速处理能力，从而降低了整个计算机系统的工作效率。为了缓解中央处理器与主存储器速度不匹配的问题，可以采用多种方法，如使用多个通用寄存器、多存储体交叉存取等。而采用高速缓冲存储器（Cache）则是存储层次优化中的常用策略之一。

高速缓冲存储器的容量通常仅为主存储器的几百分之一，但其存取速度却能与中央处理器相匹配。基于程序局部性原理，即正在使用的主存储器某一单元及其邻近的单元被频繁访问的可能性很大。因此，当中央处理器存取主存储器某一单元时，计算机硬件会自动将该单元及其相邻单元的内容调入高速缓冲存储器。这使得中央处理器可以快速直接地访问高速缓冲存储器，而无需等待主存储器的存取操作。

通过高速缓冲存储器，计算机系统可以显著提高处理速度。如果中央处理器绝大多数的主存储器存取操作能够被高速缓冲存储器的存取操作所替代，那么整个系统的运行效率将得到显著提升。高速缓冲存储器作为介于主存储器和中央处理器之间的快速存储单元，有效缩短了CPU等待时间，从而提高了计算机运算速度。