第五章存储层次 51存储器的层次结构 5.2高速缓冲存储器基本知识 53降低 Cache不命中率的方法 54减少 Cache不命中开销 55减少 Cache命中时间 56主存 5.7虚拟存储器
第五章 存储层次 5.1 存储器的层次结构 5.2 高速缓冲存储器基本知识 5.3 降低Cache不命中率的方法 5.4 减少Cache不命中开销 5.5 减少Cache命中时间 5.6 主存 5.7 虚拟存储器
51存储器的层次结构 存储系统的基本构成 存储系统由两部分构成: 1.存放程序和数据的存储器 2.控制存储器工作的存储控制部件 其中,控制部件包括硬件设备和软件程序。 速度提高 容量增大价格降低 控存 MI M2 处理机 制|储 (l, SI, Cl (T2,S2,C2 (n, Sn, Cn 器器
5.1 存储器的层次结构 一 .存储系统的基本构成 存储系统由两部分构成: 1. 存放程序和数据的存储器 2. 控制存储器工作的存储控制部件 其中, 控制部件包括硬件设备和软件程序。 处理机 存 储 器 控 制 器 M1 M2 Mn (T1,S1,C1) (T2,S2,C2) (Tn,Sn,Cn) 速度提高 容量增大，价格降低
51存储器的层次结构 存储系统的性能指标 评价存储系统性能的主要指标有三个,即速度T 容量S、和价格C。 1存储容量S 存储系统的容量是处理机能直接寻址的存储器容 量。 存储系统 处理机 (Tl,SI, CI (T2,s2,C2 由两个存储体构成的存储系统
5.1 存储器的层次结构 二. 存储系统的性能指标 评价存储系统性能的主要指标有三个，即速度T、 容量S、和价格C。 1.存储容量S • 存储系统的容量是处理机能直接寻址的存储器容 量。 (T1,S1,C1) M1 M2 处理机 (T2,S2,C2) 存储系统 由两个存储体构成的存储系统
5.1存储器的层次结构 2单位容量的平均价格C 存储系统每位的平均价格为: CIS+C2S2 其中,S为容量,C为单位容量价格。 3.访问周期T 也被称为平均访存时间或等效访问时间等。 命中率H被定义为cPU产生的逻辑地址能在M1中 访问到(命中)的概率
5.1 存储器的层次结构 2.单位容量的平均价格C 存储系统每位的平均价格为： 1 2 1 1 2 2 S S C S C S C + + = 其中，S为容量，C为单位容量价格。 3. 访问周期T 也被称为平均访存时间或等效访问时间等。 命中率H被定义为CPU产生的逻辑地址能在M1中 访问到（命中）的概率
5.1存储器的层次结构 ·精心选择一组有代表性的程序,在执行过程中 分别统计对M1存储器的访间成功次数N1和对 M存储器访问不成功的次数N2,则命中率H为: H ·不命中率F:也称为失效率,是指cPU访存时, 在M中找不到所需信息的概率。 F=1-H
5.1 存储器的层次结构 • 精心选择一组有代表性的程序，在执行过程中 分别统计对M1存储器的访问成功次数N1和对 M1存储器访问不成功的次数N2，则命中率H为： 1 2 1 N N N H + = • 不命中率F：也称为失效率，是指CPU访存时， 在M1中找不到所需信息的概率。 F =1− H
平均访存时间T 一般分两种情况来考虑cPU的一次访存: 1)当命中时,访问时间即为T1(命中时间)。 2)当不命中时,在大多数二级存储系统中,若访 问的字不在M1中,就必须从M2中把包含所要访 问的字的块传送到M1,之后cPU才可在M1中访 问到这个字。假设TM为不命中开销,即从向M2 发出访问请求到把整个数据块调入M1中所需的 时间。则该存储系统的平均访存时间为: T=H+(1-H(T1+T)=71+(1-H)TM 或 T=T+FTM
• 平均访存时间T 一般分两种情况来考虑CPU的一次访存： 1）当命中时，访问时间即为T1（命中时间）。 2）当不命中时，在大多数二级存储系统中，若访 问的字不在M1中，就必须从M2中把包含所要访 问的字的块传送到M1，之后CPU才可在M1中访 问到这个字。假设TM为不命中开销，即从向M2 发出访问请求到把整个数据块调入M1中所需的 时间。则该存储系统的平均访存时间为： M M M T T FT T HT H T T T H T = + = + − + = + − 1 1 1 1 (1 )( ) (1 ) 或
存储器的层次结构 CPU内部 通用寄存器堆025ns 指令与数据缓冲栈第二层 存储容量递增并每位价格递减方向 高速缓冲存储器阐1ns 速 主存储器 (DRAM) 第四100ns 向 联机外部存储器 (硬磁盘机) 第五层8ms 脱机外部存储器 〖磁带、光盘存储器等)第六层
存储器的层次结构 第四层 CPU内部 通用寄存器堆 指令与数据缓冲栈 高速缓冲存储器 第一层 第二层 第三层 主存储器 ( DRAM ) 联机外部存储器 ( 硬磁盘机 ) 脱机外部存储器 (磁带、光盘存储器等) 第五层 第六层 访 问 速 度 递 增 方 向 存 储 容 量 递 增 并 每 位 价 格 递 减 方 向 0.25ns 1ns 100ns 8ms
51存储器的层次结构 层次式存储系统 1980年以来存储器和CPU性能随时间而提高的 情况(以1980年时的性能作为基准) 「存储器 △CPU 性能 3000 2000 1000 100 10 年 局部性原理是解决问题的基本思路
三. 层次式存储系统 1980年以来存储器和CPU性能随时间而提高的 情况（以1980年时的性能作为基准） 5.1 存储器的层次结构 局部性原理是解决问题的基本思路
51存储器的层次结构 ■局部性原理:从大量的统计中得到的一个规律是,程序 中对于存储空间90%的访问局限于存储空间的10%的区 域中,而另外10%的访问则分布在存储空间的其余90% 的区域中。这就是通常说的局部性原理。访存的局部性 规律包括两个方面: >时间局部性:如果一个存储项被访问,则该存储项可能很 快再次被访问. 空间局部性:如果一个存储项被访问,则该项及其相邻项 可能很快被一起访问 解决思路: 时间局部—把经常用的放入M1(快速的) 空间局部—把相邻的放入M1
◼ 局部性原理：从大量的统计中得到的一个规律是，程序 中对于存储空间90%的访问局限于存储空间的10%的区 域中，而另外10%的访问则分布在存储空间的其余90% 的区域中。这就是通常说的局部性原理。访存的局部性 规律包括两个方面： ➢ 时间局部性:如果一个存储项被访问,则该存储项可能很 快再次被访问. ➢ 空间局部性:如果一个存储项被访问,则该项及其相邻项 可能很快被一起访问. ◼ 解决思路： ➢ 时间局部——把经常用的放入M1（快速的） ➢ 空间局部——把相邻的放入M1 5.1 存储器的层次结构
5.1存储器的层次结构 1.“ Cache.主存”层 辅助硬件 次 目的:弥补主存速【m+-[[主存 度的不足 (a)“ Cache主存”层次 2.“主存辅存”层次 辅助软硬件 目的:弥补主存容 量的不足 CPU 主存 辅存 (b)“主存-辅存”层次
1.“Cache—主存”层 次 目的：弥补主存速 度的不足 2.“主存—辅存”层次 目的：弥补主存容 量的不足 5.1 存储器的层次结构