对存储器的要求是容量大、速度快、成本低。为了解决了这三方面的矛盾，计算机采用多级存储体系结构，即主存、Cache 和虚拟存储器。
Cache 是一种高速缓冲存储器，是为了解决 CPU 和主存之间速度不匹配而采用的一项重要的硬件技术，并且发展为多级 Cache 体系，指令 Cache 与数据 Cache 分设体系，要求 Cache 的命中率接近于 1。
主存与 Cache 的地址映射有全相联、直接、组相联三种方式。其中组相联方式是前二者的折衷，适度兼顾了二者的优点又尽量避免其缺点，从灵活性、命中率、硬件投资来说较为理想，因而得到了普遍采用。
为了扩大存储容量，可以采用虚拟存储器技术。虚拟存储器是建立在主存和辅存物理结构基础之上，由附加硬件装置以及操作系统存储管理软件组成的一种存储体系。
虚拟存储器指的是主存-外存层次，它给用户提供了一个比实际主存空间大得多的虚拟地址空间。因此虚拟存储器只是一个容量非常大的存储器的逻辑模型，不是任何实际的物理存储器。
按照主存-外存层次的信息传送单位不同，虚拟存储器有页式、段式、段页式三类。当多个用户共享主存时，系统应提供存储保护。通常采用的方法是存储区域保护和访问方式保护，并用硬件来实现。有些机器中提供特权指令来实现某种保护。
