揭秘鲲鹏920内存架构:多级缓存与虚拟存储协同提速
3.5 并行存储器
并行存储器的核心思路:通过多个存储模块并行工作,提高存储器的带宽,解决CPU和主存之间速度不匹配问题。分为双端口存储器和多模块交叉存储器两类。
3.5.1 双端口存储器
双端口存储器同一个存储体拥有两组独立的读写端口,两套地址寄存器、数据寄存器、读写控制电路,可以在同一时刻对同一个存储单元进行独立访问。
• 两个端口:左端口、右端口,可分别连接两个独立的部件。
• 冲突问题:当左右端口同时访问同一个存储单元时,发生访问冲突,需要仲裁逻辑决定优先访问哪一个端口。
• 优点:速度快,适合多处理器共享存储器场景;缺点:硬件成本高。
3.5.2 多模块交叉存储器
多模块交叉存储器由多个独立存储模块组成,采用低位交叉编址。地址的低位用来选择存储模块,高位作为模块内的单元地址。
• 原理:连续地址分布在不同存储模块中,CPU连续访问时,轮流访问不同模块,多个模块可以并行启动读写,流水线式工作。
• 模块数一般取2的幂次。
• 特点:连续批量访问时带宽提升明显;随机离散访问时,并行优势很难发挥。
• 对比:顺序编址(高位选模块)各个模块内部地址连续,不利于并行访问。
3.6 Cache存储器
Cache是高速缓冲存储器,位于CPU和主存之间,速度接近CPU,容量远小于主存。利用程序访问的局部性原理(时间局部性、空间局部性)工作。
• 时间局部性:刚访问过的内容,短时间内很可能再次访问。
• 空间局部性:访问某个单元,它附近的单元大概率也会被访问。
3.6.1 Cache基本原理
Cache中存放主存部分块的副本。CPU读数据时,先访问Cache:
-
命中:Cache里存在所需数据,直接从Cache读取,速度快。
-
不命中(缺失):Cache没有数据,去主存读取,同时把包含该数据的一整块调入Cache。
Cache系统由Cache、主存、地址映射机构、替换逻辑、写策略逻辑共同组成。块(Cache行)是Cache和主存之间数据交换的最小单位。
3.6.2 主存与Cache的地址映射
地址映射就是把主存块按照规则放到Cache行中,有三种方式:
-
直接映射:一个主存块只能固定放到Cache某一行。计算简单、硬件简单;冲突率高,容易频繁失效。
-
全相联映射:主存块可以放到Cache任意一行。冲突最低,利用率高;需要比较全部标记,硬件复杂、成本高,速度慢。
-
组相联映射:Cache分成多个组,每组包含若干行。主存块先映射到固定组,组内可以自由放任意一行。折中方案,是实际计算机最常用的方式。
3.6.3 Cache的替换策略
Cache满了、又需要调入新块时,要淘汰旧块,常用算法:
-
LRU(最近最少使用):淘汰最长时间没有被访问过的块,效果最好,硬件有一定开销。
-
FIFO(先进先出):按调入顺序淘汰最先进来的块,实现简单,会出现Belady异常。
-
随机替换:随机挑选一块淘汰,硬件最简单,命中率最差。
3.6.4 Cache的写操作策略
解决Cache和主存数据一致性问题:
-
写直达(写通):写Cache同时写主存,主存永远和Cache保持一致;缺点:写操作慢,占用主存带宽。
-
写回(写后复制):只写Cache,只有这个块被替换淘汰时,才把修改的数据写回主存。速度快;存在数据不一致风险,需要标记位(脏位)记录块是否修改过。
-
写分配、不写分配:不命中时,是否把对应块加载进Cache。
3.6.5 使用多级Cache减少缺失损失
现代CPU采用L1、L2、L3多级Cache:
• L1 Cache:离CPU最近,速度最快,容量最小,一般分指令Cache、数据Cache。
• L2 Cache:容量更大,速度比L1慢。
• L3 Cache:多核共享,容量最大,速度最慢。
多级Cache逐级查找,进一步降低访问延迟,减少主存访问次数。
3.7 虚拟存储器
虚拟存储器由主存+辅存(硬盘)共同组成,依靠操作系统+存储管理部件MMU,向用户提供一个容量极大、逻辑地址空间独立的虚拟地址空间。程序员使用虚拟地址,不用关心数据实际放在主存还是磁盘。
3.7.1 虚拟存储器的基本概念
• 虚拟地址(逻辑地址):程序使用的地址,地址空间很大。
• 物理地址:主存真实地址。
• 地址转换:MMU自动把虚拟地址翻译成物理地址;如果页面不在主存,触发缺页中断,操作系统从磁盘调入页面。
• 作用:扩大编程可用地址空间,实现多道程序内存隔离、保护。
3.7.2 页式虚拟存储器
以页为基本单位,虚拟空间、主存空间划分为大小相同的页。
• 虚拟地址 = 虚拟页号 + 页内偏移
• 物理地址 = 物理页框号 + 页内偏移
• 页表:存放虚拟页号到物理页框号的映射,还有有效位、修改位、访问位等标记。
• 优点:页面大小固定,管理简单;缺点:页内碎片,程序必须整页调入。
3.7.3 段式虚拟存储器和段页式虚拟存储器
-
段式虚拟存储器:按照程序逻辑模块分段,段长不固定。逻辑清晰,便于共享、保护;地址转换复杂,容易产生外部碎片。
-
段页式虚拟存储器:先分段,段内再分页。兼顾段式的逻辑优势和页式管理简单的优点,现在操作系统广泛使用。
3.7.4 虚存的替换算法
和Cache替换思路类似,但是缺页代价远高于Cache缺失(需要读写磁盘),常用:LRU、Clock算法(时钟算法,LRU的轻量化实现)。
3.7.5 存储管理部件
MMU(存储管理部件)负责:虚拟地址→物理地址转换、页表查找、缺页中断触发、访问权限检查、内存保护。TLB(快表)是页表的高速缓存,存放常用页表项,加快地址转换速度。
3.8 鲲鹏920处理器的内存系统
鲲鹏920是ARM架构多核服务器处理器,采用多层次存储体系。
3.8.1 鲲鹏存储系统的层次结构
遵循存储层次:寄存器 → L1 Cache → L2 Cache → L3 Cache → 主存 → 外存。
• 每个核自带独立L1、L2 Cache;多个核共享L3 Cache。
• 支持多通道DDR内存,提升主存带宽。
3.8.2 鲲鹏920处理器片上系统的主存系统
支持DDR4内存,多通道、支持内存ECC校验,服务器级别的可靠性。内存控制器集成在片内,降低访问延迟。
3.8.3 鲲鹏920处理器片上系统的地址映射与变换
支持ARMv8架构虚拟内存机制,64位虚拟地址,支持段页式存储、TLB加速地址转换;支持内存隔离、权限控制,适配服务器虚拟化场景。
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。
更多推荐



所有评论(0)