3.5 并行存储器

并行存储器的核心思路:通过多个存储模块并行工作,提高存储器的带宽,解决CPU和主存之间速度不匹配问题。分为双端口存储器和多模块交叉存储器两类。

3.5.1 双端口存储器

双端口存储器同一个存储体拥有两组独立的读写端口,两套地址寄存器、数据寄存器、读写控制电路,可以在同一时刻对同一个存储单元进行独立访问。

• 两个端口:左端口、右端口,可分别连接两个独立的部件。

• 冲突问题:当左右端口同时访问同一个存储单元时,发生访问冲突,需要仲裁逻辑决定优先访问哪一个端口。

• 优点:速度快,适合多处理器共享存储器场景;缺点:硬件成本高。

3.5.2 多模块交叉存储器

多模块交叉存储器由多个独立存储模块组成,采用低位交叉编址。地址的低位用来选择存储模块,高位作为模块内的单元地址。

• 原理:连续地址分布在不同存储模块中,CPU连续访问时,轮流访问不同模块,多个模块可以并行启动读写,流水线式工作。

• 模块数一般取2的幂次。

• 特点:连续批量访问时带宽提升明显;随机离散访问时,并行优势很难发挥。

• 对比:顺序编址(高位选模块)各个模块内部地址连续,不利于并行访问。

3.6 Cache存储器

Cache是高速缓冲存储器,位于CPU和主存之间,速度接近CPU,容量远小于主存。利用程序访问的局部性原理(时间局部性、空间局部性)工作。

• 时间局部性:刚访问过的内容,短时间内很可能再次访问。

• 空间局部性:访问某个单元,它附近的单元大概率也会被访问。

3.6.1 Cache基本原理

Cache中存放主存部分块的副本。CPU读数据时,先访问Cache:

  1. 命中:Cache里存在所需数据,直接从Cache读取,速度快。

  2. 不命中(缺失):Cache没有数据,去主存读取,同时把包含该数据的一整块调入Cache。

Cache系统由Cache、主存、地址映射机构、替换逻辑、写策略逻辑共同组成。块(Cache行)是Cache和主存之间数据交换的最小单位。

3.6.2 主存与Cache的地址映射

地址映射就是把主存块按照规则放到Cache行中,有三种方式:

  1. 直接映射:一个主存块只能固定放到Cache某一行。计算简单、硬件简单;冲突率高,容易频繁失效。

  2. 全相联映射:主存块可以放到Cache任意一行。冲突最低,利用率高;需要比较全部标记,硬件复杂、成本高,速度慢。

  3. 组相联映射:Cache分成多个组,每组包含若干行。主存块先映射到固定组,组内可以自由放任意一行。折中方案,是实际计算机最常用的方式。

3.6.3 Cache的替换策略

Cache满了、又需要调入新块时,要淘汰旧块,常用算法:

  1. LRU(最近最少使用):淘汰最长时间没有被访问过的块,效果最好,硬件有一定开销。

  2. FIFO(先进先出):按调入顺序淘汰最先进来的块,实现简单,会出现Belady异常。

  3. 随机替换:随机挑选一块淘汰,硬件最简单,命中率最差。

3.6.4 Cache的写操作策略

解决Cache和主存数据一致性问题:

  1. 写直达(写通):写Cache同时写主存,主存永远和Cache保持一致;缺点:写操作慢,占用主存带宽。

  2. 写回(写后复制):只写Cache,只有这个块被替换淘汰时,才把修改的数据写回主存。速度快;存在数据不一致风险,需要标记位(脏位)记录块是否修改过。

  3. 写分配、不写分配:不命中时,是否把对应块加载进Cache。

3.6.5 使用多级Cache减少缺失损失

现代CPU采用L1、L2、L3多级Cache:

• L1 Cache:离CPU最近,速度最快,容量最小,一般分指令Cache、数据Cache。

• L2 Cache:容量更大,速度比L1慢。

• L3 Cache:多核共享,容量最大,速度最慢。

多级Cache逐级查找,进一步降低访问延迟,减少主存访问次数。

3.7 虚拟存储器

虚拟存储器由主存+辅存(硬盘)共同组成,依靠操作系统+存储管理部件MMU,向用户提供一个容量极大、逻辑地址空间独立的虚拟地址空间。程序员使用虚拟地址,不用关心数据实际放在主存还是磁盘。

3.7.1 虚拟存储器的基本概念

• 虚拟地址(逻辑地址):程序使用的地址,地址空间很大。

• 物理地址:主存真实地址。

• 地址转换:MMU自动把虚拟地址翻译成物理地址;如果页面不在主存,触发缺页中断,操作系统从磁盘调入页面。

• 作用:扩大编程可用地址空间,实现多道程序内存隔离、保护。

3.7.2 页式虚拟存储器

以页为基本单位,虚拟空间、主存空间划分为大小相同的页。

• 虚拟地址 = 虚拟页号 + 页内偏移

• 物理地址 = 物理页框号 + 页内偏移

• 页表:存放虚拟页号到物理页框号的映射,还有有效位、修改位、访问位等标记。

• 优点:页面大小固定,管理简单;缺点:页内碎片,程序必须整页调入。

3.7.3 段式虚拟存储器和段页式虚拟存储器

  1. 段式虚拟存储器:按照程序逻辑模块分段,段长不固定。逻辑清晰,便于共享、保护;地址转换复杂,容易产生外部碎片。

  2. 段页式虚拟存储器:先分段,段内再分页。兼顾段式的逻辑优势和页式管理简单的优点,现在操作系统广泛使用。

3.7.4 虚存的替换算法

和Cache替换思路类似,但是缺页代价远高于Cache缺失(需要读写磁盘),常用:LRU、Clock算法(时钟算法,LRU的轻量化实现)。

3.7.5 存储管理部件

MMU(存储管理部件)负责:虚拟地址→物理地址转换、页表查找、缺页中断触发、访问权限检查、内存保护。TLB(快表)是页表的高速缓存,存放常用页表项,加快地址转换速度。

3.8 鲲鹏920处理器的内存系统

鲲鹏920是ARM架构多核服务器处理器,采用多层次存储体系。

3.8.1 鲲鹏存储系统的层次结构

遵循存储层次:寄存器 → L1 Cache → L2 Cache → L3 Cache → 主存 → 外存。

• 每个核自带独立L1、L2 Cache;多个核共享L3 Cache。

• 支持多通道DDR内存,提升主存带宽。

3.8.2 鲲鹏920处理器片上系统的主存系统

支持DDR4内存,多通道、支持内存ECC校验,服务器级别的可靠性。内存控制器集成在片内,降低访问延迟。

3.8.3 鲲鹏920处理器片上系统的地址映射与变换

支持ARMv8架构虚拟内存机制,64位虚拟地址,支持段页式存储、TLB加速地址转换;支持内存隔离、权限控制,适配服务器虚拟化场景。

Logo

鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。

更多推荐