这本教程怎么读,才不会半路放弃?

第一遍只追故事线:数据放在哪里,指令怎样流动,慢的部件如何被“藏起来”。遇到公式先看它在回答什么问题,不必立刻背。

第二遍跟着例题动笔,第三遍再用章末练习找漏洞。看懂一个机制,比记住十个孤立名词更重要。

① 先问为什么② 画出数据流③ 代入一个小例子④ 最后总结边界

第一部分 · 计算机系统总览

第 1 章 · 计算机系统概述

先别把计算机想成一堆芯片。把它想成一家配合严密的快递站:程序写下订单,CPU 处理订单,存储器保管货物,I/O 负责和外界收发。

从一个按键开始

你按下键盘上的 A,屏幕为什么会出现字母?这个动作会经过设备、操作系统、内存和 CPU。本章先画出整张路线图,后面每一章都能在图上找到位置。

本章学习目标
  1. 区分硬件、系统软件、应用软件与指令集体系结构(ISA)的职责。
  2. 按 PC、取指、译码、执行、访存、写回描述一条指令的可见状态变化。
  3. 使用 CPU 执行时间公式比较方案,并说明主频、CPI、MIPS 的适用边界。
  4. 区分计算机组成、计算机体系结构与操作系统三个研究层次。
先修知识与模型边界本章不要求电路基础。为了避免把简化模型当成所有机器的真实实现,正文会明确区分“经典教学模型”和“现代处理器实现”。

本章目录

本章知识路线
小节完成后你能做什么
1.1画出处理器、主存与 I/O 的基本关系,并说明每个部件的职责
1.2说明 ISA 为什么是软硬件之间的契约
1.3解释程序为什么能像数据一样被存储和取出
1.4按可见状态变化追踪一条指令
1.5描述源程序经过编译、链接、装载到执行的全过程
1.6计算 CPU 时间并判断指标能否公平比较
1.7把一个问题放到正确的课程层次

1.1 计算机系统:从功能部件到抽象层

计算机系统不是一块 CPU,也不是一堆硬件的简单相加。它由处理器、存储系统、输入输出设备、互连以及运行其上的软件共同构成。程序看到的是文件、变量和函数;硬件真正处理的是位模式、地址、指令和控制信号。

经典模型常把硬件分成运算器、控制器、存储器、输入设备和输出设备。现代芯片会把多个核心、Cache、内存控制器和 I/O 控制器集成到一个 SoC 中,但这些基本职责仍然存在。

纵向看是抽象层,横向看是数据和控制的流动。ISA 规定程序可见语义;操作系统负责资源管理;CPU、主存与 I/O 共同完成实际状态变化。

整机中的主要对象
对象主要职责程序可观察的结果
处理器取指、译码并执行指令寄存器和内存状态改变
主存保存正在使用的指令与数据按地址读写字节或字
I/O 控制器与设备在主机和外界之间搬运、转换数据输入到达、输出完成或产生中断
互连传送请求、地址、数据和响应带宽、延迟与争用
系统软件管理资源并提供抽象进程、虚拟内存、文件与系统调用
例 1-1:程序打印一个字符时发生了什么

应用调用输出函数,运行库最终请求操作系统服务;内核通过设备驱动配置 I/O 控制器;控制器把字节送往终端设备,完成后可能产生中断。一次看似简单的输出同时跨过了应用、操作系统、ISA 和硬件四层。

易错点与边界
  • “五大部件”是功能划分,不代表现代芯片上一定存在五块物理上分离的模块。
  • 主存和磁盘都能保存数据,但访问协议、延迟和易失性完全不同。

1.2 硬件、软件与 ISA:谁规定什么

硬件负责实现机器动作,软件通过指令表达这些动作。二者的接口是指令集体系结构(ISA):它规定程序可见的指令、寄存器、数据类型、地址空间、异常以及内存访问语义。

同一 ISA 可以由不同微体系结构实现。例如两颗处理器都执行同一套指令,但流水线深度、Cache 容量和执行单元数量不同。软件通常不需要知道这些内部细节,却会感受到性能差异。

架构状态与实现细节
层次典型内容兼容性含义
ISA/体系结构状态通用寄存器、PC、指令语义、可见异常程序依赖,必须保持语义一致
微体系结构流水线、乱序窗口、分支预测器、Cache 组织可更换,只要最终结果符合 ISA
系统软件 ABI调用约定、对象文件格式、系统调用接口让独立编译的程序和库协作
例 1-2:为什么同一个程序能在不同 CPU 上运行

如果两个处理器都实现相同 ISA,并且操作系统提供相同 ABI,程序的机器指令具有相同含义。新处理器可以在内部使用更深流水线或乱序执行,只要提交给程序的结果、异常和可见顺序符合契约。

易错点与边界
  • “硬件执行、软件指挥”只是入门类比;固件、微码和可编程加速器会跨越传统边界。
  • ISA 相同不等于性能相同,也不保证操作系统和 ABI 一定相同。

1.3 存储程序思想与冯·诺依曼模型

存储程序思想把指令和数据都编码为位串并存入可寻址存储器。处理器使用程序计数器(PC)指出下一条指令的位置,从存储器取出指令后再译码执行。修改存储器中的指令序列,就能改变机器行为,而不必重新接线。

经典冯·诺依曼模型让指令和数据共享存储空间与通路;哈佛模型把二者分开。现代系统常呈现“统一地址空间、分离的一级指令/数据 Cache”,属于折中实现,不能只用一个标签概括。

1
PC 给出地址:确定下一条指令的位置。
2
存储系统返回位串:该位串按指令格式解释。
3
控制逻辑译码:选择操作数来源与执行动作。
4
更新架构状态:写寄存器、内存或改变 PC。
例 1-3:代码与数据为什么不能只靠位模式区分

位串 00000013 在某个 RISC-V 环境中可编码一条空操作形式的指令;同样四个字节也可能只是整数 19。是“从哪里取、由哪条指令如何解释”决定其语义,而不是位串自带类型。

易错点与边界
  • “指令和数据放在同一存储器”不意味着它们必须共用所有 Cache 和物理端口。
  • 可执行权限等保护机制会限制把普通数据直接当作代码执行。

1.4 一条指令如何完成:状态转换而不是口号

教学上常把指令处理描述为取指、译码、执行、访存和写回。这是一条逻辑链,不等同于每台 CPU 都恰好具有五个流水级。简单多周期处理器可能逐步完成,现代乱序处理器则会让许多指令同时处在不同内部阶段。

PC 的顺序更新量取决于编址方式和指令长度。字节编址、固定 32 位指令的机器常使用 PC+4;变长指令机器按当前指令长度更新。笼统写“PC 加 1”只有在按指令字编址的特定模型中成立。

指令处理的逻辑阶段
阶段输入主要结果
取指PC得到指令位串并形成顺序 PC
译码/读操作数指令字段、寄存器确定操作并取得源操作数
执行操作数、立即数得到算术结果、地址或分支条件
访存有效地址、写数据完成 load/store 所需的存储访问
写回/提交执行或访存结果更新程序可见寄存器与状态
例 1-4:执行 load x5, 8(x2)
  1. 取出并译码 load 指令。
  2. 读取 x2,计算有效地址 x2+8。
  3. 存储系统读取对应数据。
  4. 把结果写入 x5;若地址非法或缺页,则先产生异常而不是完成写回。
易错点与边界
  • 五个逻辑阶段不等于五个时钟周期,也不等于固定五级流水线。
  • 异常发生时,必须考虑哪些架构状态已经更新以及如何保证精确异常。

1.5 从高级语言到电路:翻译链与运行时

高级语言表达算法和数据结构,编译器把它翻译成汇编或机器指令;汇编器产生目标文件;链接器解析符号并组合代码与库;装载器建立进程地址空间并准备入口状态。

运行时还需要操作系统提供虚拟内存、文件和设备抽象。动态链接、即时编译和解释执行会改变具体路径,但最终仍需产生处理器能够执行的指令或调用可执行代码。

1
源代码:类型、控制结构和函数。
2
编译/汇编:生成带符号与重定位信息的目标文件。
3
链接:解析符号,形成可执行文件或共享库。
4
装载:创建地址空间、映射代码和数据。
5
执行:CPU 按 ISA 改变架构状态。
例 1-5:函数名为什么不会直接进入 ALU

源代码中的 sum(a,b) 经编译后会变成调用序列:把参数放入约定位置、保存返回地址并改变 PC。ALU 只看到寄存器值和加法操作;函数名主要服务于编译、链接和调试。

易错点与边界
  • 编译器并非简单逐句翻译;优化可能重排、合并或删除运算。
  • 虚拟地址不是编译阶段就能完全确定的物理内存位置。

1.6 性能指标:先定义工作量,再谈快慢

延迟描述完成一次任务所需时间,吞吐率描述单位时间完成多少任务。降低单次响应时间和提高系统吞吐量常相关但不等价,例如批处理能提高吞吐却可能增加单个请求等待。

CPU 执行时间可分解为指令数、平均 CPI 与时钟周期。优化其中一项可能影响另一项,因此只比较主频或只比较 CPI 都不可靠。

CPU 性能基本式

CPU 时间 = 指令数 × CPI × 时钟周期 = 指令数 × CPI / 主频

加速比 = 原执行时间 / 新执行时间

常见指标的使用边界
指标能说明什么不能单独说明什么
主频每秒时钟周期数每条指令做多少工作
CPI给定程序和机器的平均每指令周期数不同 ISA 下指令数是否相同
MIPS每秒执行百万条指令不同指令集或程序的实际工作量
FLOPS特定精度浮点运算吞吐内存、分支和整数工作负载性能
基准测试时间指定工作负载的端到端结果未覆盖场景中的表现
例 1-6:用三因素公式计算

程序执行 2×10⁹ 条指令,平均 CPI=1.5,主频 3 GHz:

T = 2×10⁹ × 1.5 / 3×10⁹ = 1 s。MIPS 为 2000,但这个数字不能脱离程序和 ISA 与另一台机器直接比较。

易错点与边界
  • 主频提高可能需要更深流水线并增加分支失败代价。
  • 峰值 FLOPS 与真实应用性能之间还隔着访存、控制流和并行效率。

1.7 组成、体系结构与操作系统的边界

计算机体系结构关注程序员可见的机器接口与设计取舍,例如 ISA、地址空间和一致性模型;计算机组成关注这些功能如何由数据通路、控制器、存储层次和 I/O 组织实现;操作系统负责管理资源并提供进程、虚拟内存、文件等抽象。

三者不是互不相干的盒子。页表格式受体系结构定义,TLB 是组成实现,缺页处理由操作系统完成;中断入口由 ISA 规定,控制器负责检测,内核负责服务。

同一个虚拟内存问题的三层视角
课程视角典型问题
体系结构虚拟地址宽度、页表项字段、访问权限和异常语义
组成原理TLB 组织、地址翻译路径、Cache 与翻译并行方式
操作系统页表建立、页框分配、换页和缺页处理策略
例 1-7:一次缺页属于哪门课

访问指令由 CPU 执行,MMU 查 TLB/页表,发现页不在内存后按 ISA 产生异常;内核保存现场、调入或建立页面,再恢复程序。完整解释必须跨越体系结构、组成和操作系统。

易错点与边界
  • 课程边界是组织知识的方法,不是硬件运行时的真实隔离。
  • “体系结构”有时也泛指整个计算系统,阅读资料时要根据上下文判断。

分层练习

  1. 概念:为什么 ISA 可以被称为软硬件之间的契约?
  2. 流程:说明执行一条 load 指令时至少会涉及哪些部件。
  3. 计算:某程序有 10⁹ 条指令,CPI=2,主频 2.5 GHz,CPU 时间是多少?
  4. 比较:机器 A 主频 4 GHz、CPI=2;机器 B 主频 3 GHz、CPI=1.2。若指令数相同,谁更快?
  5. 辨析:“五级流水线就是指令周期的五个阶段”是否严谨?
  6. 跨层:把一次系统调用分别从 ISA、组成和 OS 视角各写一句。
查看练习答案
  1. 因为 ISA 规定程序可见的指令、寄存器、地址和异常语义;硬件可改变内部实现,但必须保持这些语义。
  2. PC/取指单元、译码与寄存器堆、地址生成或 ALU、存储层次,以及写回路径;地址异常时还会进入异常处理。
  3. 10⁹×2/(2.5×10⁹)=0.8 s。
  4. 比较 CPI/主频:A 为 0.5 ns/指令,B 为 0.4 ns/指令,因此 B 更快,约为 A 的 1.25 倍。
  5. 不严谨。取指到写回可作为逻辑处理阶段;具体处理器可能是单周期、多周期、五级或更复杂的流水/乱序实现。
  6. ISA 定义受控进入特权态的指令与状态保存语义;组成实现入口检测和状态转换;OS 根据调用号执行服务并返回。

本章复盘

1
程序看见 ISA:指令、寄存器、地址与异常构成机器契约。
2
组成实现 ISA:数据通路、控制器、存储和 I/O 共同完成状态转换。
3
性能看完整工作量:使用指令数、CPI、主频与端到端基准,不迷信单一指标。
4
问题要跨层定位:同一事件常同时涉及体系结构、硬件实现和操作系统。

进一步阅读

  • Patterson & Hennessy, Computer Organization and Design:计算机抽象与技术导论。
  • Bryant & O’Hallaron, Computer Systems: A Programmer’s Perspective:从程序到机器的跨层视角。
  • RISC-V Unprivileged ISA Specification:观察一份真实 ISA 如何定义程序可见状态。

第二部分 · 数据表示与运算基础

第 2 章 · 数据的表示

机器只保存位,意义却由我们赋予。同一串 11111111,可以是 255、−1、一个颜色分量,也可能只是文件中的一小块。

位串不会自报家门

看到 01000001,你凭什么说它是 65,或字母 A?答案不是“机器看得懂”,而是程序选定了一套解释规则。本章就是学习这些规则。

本章学习目标
  1. 完成整数与有限二进制小数的进制转换,并熟练使用二进制—十六进制的四位分组法。
  2. 区分位模式、数据类型和解释规则,正确计算无符号数、原码、反码、补码与移码。
  3. 用缩放因子解释定点数,用符号、阶码和有效数解释浮点数。
  4. 解码 IEEE 754 binary32 的普通数、零、次正规数、无穷和 NaN,并解释舍入误差。
  5. 判断符号扩展、零扩展、溢出、下溢和精度丢失是否发生。
先修知识与约定 只需要会整数除法、负指数和简单代数。本章用下标标明进制,例如 (1011)₂;未标下标的普通数字默认是十进制。除非特别说明,字长固定为题目给出的位数。

本章目录

本章知识路线
小节本节完成后你能做什么
2.1在二、八、十、十六进制之间转换整数和有限小数
2.2区分字符、码点与编码字节,读懂 ASCII、Unicode 和 UTF-8
2.3把同一位模式分别解释为无符号数和补码有符号数
2.4计算原码、反码、补码和移码,比较范围与零的数量
2.5使用 Q 格式表达定点小数,判断范围和分辨率
2.6把二进制数规格化为“有效数 × 2 的幂”
2.7解码和编码 IEEE 754 binary32,识别特殊值
2.8区分范围与精度,解释上溢、下溢、ULP 和舍入

2.1 进制与位权:先把一串数字算明白

进制是一种位置记数法。在基数为 r 的系统中,每一位的权重是 r 的整数次幂。小数点左侧从 r⁰ 开始,向左依次乘 r;右侧从 r⁻¹ 开始,向右依次除以 r。

位权公式 (dₙ…d₁d₀.d₋₁d₋₂…)ᵣ = Σ dᵢ × rⁱ,其中每个数码满足 0 ≤ dᵢ < r。
常用进制转换方法
转换方法检查点
r 进制 → 十进制逐位乘位权后求和小数点右侧使用负指数
十进制整数 → r 进制反复除以 r,余数从后往前读商为 0 时停止
十进制小数 → r 进制反复乘以 r,整数部分从前往后读有些小数会无限循环,只能截断或舍入
二进制 ↔ 十六进制从小数点向两侧每四位一组不足四位时在最外侧补 0
例 2-1:把 (45.625)₁₀ 转成二进制和十六进制
  1. 整数部分:45 = 32 + 8 + 4 + 1 = (101101)₂。
  2. 小数部分:0.625 = 1/2 + 1/8 = (0.101)₂。
  3. 合并得 (45.625)₁₀ = (101101.101)₂。
  4. 四位分组:0010 1101.1010,所以是 (2D.A)₁₆。
易错点十进制小数不一定能有限地写成二进制。整数部分“除基取余”要倒序读,小数部分“乘基取整”要正序读。

2.2 字符编码:字符、码点和字节不是一回事

字符编码解决的是“文字怎样变成字节序列”。理解时必须分清三层:字符是抽象符号,码点是字符在字符集中的编号,编码规定码点怎样写成一个或多个字节。

ASCII、Unicode 与 UTF-8 的关系
名称它规定什么关键事实
ASCII早期字符集及其 7 位编码基本范围 0~127;字母 A 的编号是 65,即十六进制 41
Unicode为字符分配码点例如“中”的码点是 U+4E2D;码点本身还不是 UTF-8 字节
UTF-8把 Unicode 码点编码成 1~4 个字节ASCII 范围保持单字节兼容;中文常见汉字通常占 3 字节
例 2-2:同一个字符在机器里怎样落地

字符“中”的 Unicode 码点是 U+4E2D,使用 UTF-8 编码后得到三个字节 E4 B8 AD。如果程序把这三个字节错误地按另一种编码解释,就可能出现乱码;位本身没有坏,错的是解释规则。

工程提示“字符串长度”可能指字符数、码点数、编码单元数或字节数。讨论文件大小、网络传输和数组下标时,必须说明使用哪一种长度。

2.3 无符号数与补码有符号数:同一位模式,两种数值

一句话先懂:位串像一排没有标签的抽屉;无符号数和补码只是两套不同的标签。运算前先问“按哪套规则解释”,答案就不会乱。

寄存器和内存只保存位模式,不自带“正负”标签。执行哪一条指令、使用哪一种数据类型,决定这些位被当成无符号数还是补码有符号数。

n 位整数的两种常用解释
解释方式位权范围
无符号数每一位权重均为正:2⁰…2ⁿ⁻¹0 ~ 2ⁿ-1
补码有符号数最高位权重为 -2ⁿ⁻¹,其余位为正权-2ⁿ⁻¹ ~ 2ⁿ⁻¹-1
例 2-3:解释位模式 1111 1010
  • 当作 8 位无符号数:128+64+32+16+8+2 = 250。
  • 当作 8 位补码:-128+64+32+16+8+2 = -6。

因此“这串位是多少”不是一个完整问题,必须补上字长和解释方式。

位宽扩展

无符号数变宽时在左侧补 0,称为零扩展;补码有符号数变宽时复制最高位,称为符号扩展。两者的目标都是在位宽变化后保持真值不变。

例1111 1010 作为 8 位补码是 −6,扩展到 16 位应写成 1111 1111 1111 1010;若按无符号数 250 扩展,则应写成 0000 0000 1111 1010。

2.4 原码、反码、补码与移码

四种编码不要混成一张背诵表。原码、反码和补码主要讨论有符号整数;移码(偏置编码)常用于保存浮点数的阶码。下面统一以 8 位字长为例。

四种编码的规则与边界
编码负数的形成方法8 位范围或特点
原码最高位表示符号,其余位表示绝对值−127~+127;有 +0 和 −0
反码正数不变;负数由对应正数逐位取反−127~+127;有 +0 和 −0
补码正数不变;负数由对应正数取反加 1−128~+127;只有一个 0;加减法容易统一
移码保存值 E = e + Bias把有正有负的指数平移到无符号范围;偏置值由格式规定
例 2-4:写出 −6 的三种 8 位编码
  1. +6 = 0000 0110。
  2. 原码:符号位置 1,得到 1000 0110。
  3. 反码:逐位取反,得到 1111 1001。
  4. 补码:反码加 1,得到 1111 1010。
两个边界必须记住
  • n 位补码最小值 100…0 没有对应的 n 位正数;对它“取负”仍得到原位模式,并发生有符号溢出。
  • IEEE 754 的整个浮点位串不是补码。它的符号位、偏置阶码和小数字段各有自己的解释规则。

2.5 定点数:小数点由约定固定

定点数的存储位中没有真正的小数点。系统约定其中 n 位是小数位,相当于把一个整数乘以缩放因子 2⁻ⁿ。硬件可以继续使用整数运算器,软件负责保持缩放约定一致。

本节记号采用 Qm.n 表示总共 m+n 位,其中 m 位整数域包含符号位,n 位是小数位。不同资料的 Q 记号可能不同,做题前应先确认定义。
补码 Qm.n 的范围与分辨率 分辨率为 2⁻ⁿ;范围为 -2ᵐ⁻¹ ~ 2ᵐ⁻¹-2⁻ⁿ。编码整数为 I 时,真值是 I × 2⁻ⁿ。
例 2-5:8 位 Q2.6 表示 1.25 和 −1.25

缩放因子是 64。1.25×64=80,所以编码为 0101 0000;−1.25×64=−80,8 位补码为 1011 0000。Q2.6 的分辨率是 1/64,范围是 −2 ~ 1.984375。

易错点两个 Q 格式数相加前必须具有相同的小数位数;相乘后小数位数会相加,通常需要重新缩放和舍入。

2.6 浮点数:用有效数和指数换取更大范围

定点数的小数点位置固定,范围和精度之间只能硬分配。浮点数把数写成“符号 × 有效数 × 基数的指数”,让小数点位置随指数移动。它扩大了数量级范围,但同样位数下只保留有限个有效位。

二进制规格化形式非零有限二进制数可以写成 (−1)ˢ × 1.f × 2ᵉ。把最高位非零数字固定为 1,可以避免同一个值出现多种表示。
例 2-6:规格化 13.25

13.25 = (1101.01)₂ = (1.10101)₂ × 2³。因此符号为正,真实指数是 3,有效数的小数部分从 10101 开始。

浮点表示中的三类信息
字段职责影响
符号决定正负通常只需 1 位
指数决定小数点移动多少位主要决定可表示的数量级范围
有效数保存有效数字主要决定精度

2.7 IEEE 754:从位字段解码浮点数

先抓住科学计数法:1.25×10³ 把有效数字和数量级分开;浮点数做的是同一件事,只是底数换成 2,并把符号、指数和小数分别装进位字段。

IEEE 754 规定了常用二进制浮点格式、特殊值和舍入行为。以 binary32(通常对应单精度)为例,它包含 1 位符号 S、8 位阶码 E 和 23 位小数字段 F,阶码偏置 Bias=127。

IEEE 754 常用二进制格式
格式符号位阶码位小数位Bias
binary321823127
binary64111521023
根据阶码和小数字段分类
阶码 E小数字段 F类别与数值
全 0全 0+0 或 −0
全 0非 0次正规数:(−1)ˢ × (0.F)₂ × 2¹⁻ᴮⁱᵃˢ
既非全 0 也非全 1任意规格化数:(−1)ˢ × (1.F)₂ × 2ᴱ⁻ᴮⁱᵃˢ
全 1全 0+∞ 或 −∞
全 1非 0NaN,表示未定义或不可用的数值结果
例 2-7:把 13.25 编码为 binary32
  1. 13.25 = (1.10101)₂ × 2³,所以 S=0。
  2. 存储阶码 E=3+127=130=(1000 0010)₂。
  3. 规格化数最高位的 1 不存储,F=10101000000000000000000。
  4. 位串为 0 10000010 10101000000000000000000,十六进制是 0x41540000。

为什么 0.1 会“不精确”

(0.1)₁₀ 的二进制展开是循环小数 0.0001100110011…。有限的小数字段只能保存一个邻近值,因此误差发生在舍入到有限浮点集合时;保存下来的那个 binary32 或 binary64 位模式本身对应一个精确的二进制有理数。

舍入方式 IEEE 754 定义向最近值舍入(同距时取偶)、向 0、向 +∞、向 −∞等方向。常见默认方式是“向最近值,同距时取偶”。实际运算还会保留保护位、舍入位和粘滞位,最后一次性决定结果。

2.8 范围、精度、上溢与下溢

范围回答“数量级最多能到哪里”,主要受阶码位数影响;精度回答“相邻可表示数隔多远”,主要受有效数位数影响。范围大不等于每个整数或小数都能精确表示。

浮点数的四类边界现象
现象含义常见结果
舍入精确结果位于两个可表示数之间选择其中一个邻近值
上溢数量级超过最大有限值依舍入方式得到无穷或最大有限值
下溢结果极接近 0,进入最小正规数以下先进入次正规区,继续变小后舍入为 0
吸收大数与极小数相加,极小增量低于当前间距舍入后结果看起来没有变化
舍入方向与异常状态

IEEE 754 不只规定格式,还规定舍入方向和异常状态。默认常用“舍入到最近、同距取偶”,它在大量运算中不偏向某一方向;向零、向正无穷和向负无穷则适合区间边界或特定数值算法。

四种常见舍入方向
模式选择规则直观理解
最近、同距取偶选最近值;正好居中时选最低保留位为 0 的一侧默认模式,降低长期统计偏差
向零丢弃超出精度的尾部绝对值不增大
向 +∞选择不小于精确结果的最小可表示值上界舍入
向 −∞选择不大于精确结果的最大可表示值下界舍入
补例 2-8:正好落在两个 binary32 数中间

1+2⁻²⁴ 正好位于 1 与下一个 binary32 数 1+2⁻²³ 之间。按“最近、同距取偶”,选择最低保留位为 0 的 1;向 +∞ 则选择 1+2⁻²³。

舍入产生的 inexact 状态通常只是置标志;invalid、divide-by-zero、overflow、underflow、inexact 是否触发陷入取决于运行环境。

binary32 附近的间距 在 1 附近,相邻 binary32 数的间距是 2⁻²³。binary32 能精确表示绝对值不超过 2²⁴ 的所有整数;从 2²⁴ 开始,相邻数间距变为 2,所以 16777216 + 1 舍入后仍可能是 16777216。
不要混淆整数补码溢出、浮点上溢和浮点精度丢失是三件事。判断前先写出数据格式、运算的精确数学结果以及目标格式允许的范围。

章末综合例题

例 2-8:一串 32 位到底是什么

给定位串 1100 0001 0101 0100 0000 0000 0000 0000:

  1. 按十六进制看是 0xC1540000。
  2. 按 32 位无符号整数看是一个大正数。
  3. 按 32 位补码整数看是负数。
  4. 按 binary32 看:S=1,E=130,真实指数为 3,F 对应 1.10101,所以数值是 −13.25。

这道题再次说明:位模式只有在给出解释规则后才有确定意义。

408 高频判断点

高频判断及结论
说法结论理由
补码最高位只表示正负,不参与数值计算错最高位权重为 −2ⁿ⁻¹
有符号数扩展位宽时总是在左侧补 1错应复制原符号位;正数补 0,负数补 1
浮点数阶码越多,主要提升的是表示范围对有效数位数才主要决定相对精度
IEEE 754 的 +0 与 −0 位模式不同对符号位不同;数值比较通常认为二者相等
NaN 与自身比较相等错普通有序比较中 NaN 与任何值(包括自身)都不相等

分层练习

  1. 基础:把 (173)₁₀ 写成二进制和十六进制。
  2. 基础:分别按 8 位无符号数和补码解释 1001 0110。
  3. 编码:写出 −22 的 8 位原码、反码和补码。
  4. 定点:按本章 Q2.6 约定解释 0110 1000 与 1110 0000。
  5. 浮点:判断 0x7F800000、0x7FC00000、0x80000000 分别属于哪一类 binary32。
  6. 综合:解释为什么 binary32 计算 16777216 + 1 可能仍得到 16777216。
查看练习答案
  1. (1010 1101)₂ = (AD)₁₆。
  2. 无符号数为 150;补码为 −128+16+4+2=−106。
  3. 原码 1001 0110;反码 1110 1001;补码 1110 1010。
  4. 0110 1000 对应 104/64=1.625;1110 0000 是补码整数 −32,对应 −32/64=−0.5。
  5. 依次是 +∞、NaN、−0。
  6. 2²⁴ 附近 binary32 的间距已经是 2,精确结果落在两个可表示数之间,按“同距取偶”舍回 16777216。

本章复盘

1
先问格式:字长、进制、无符号/补码、Q 格式还是 IEEE 754?
2
再写位权:不要凭最高位猜正负,按当前格式展开。
3
检查边界:范围够不够、是否需要扩展、结果能否精确表示?
4
最后验证:反向编码或换一种算法复算,确认位模式与真值一致。

进一步阅读

  • IEEE 754-2019:浮点算术标准。
  • The Unicode Standard:字符、码点与编码模型。
  • Patterson & Hennessy, Computer Organization and Design:数据表示与硬件实现。
  • Bryant & O’Hallaron, Computer Systems: A Programmer’s Perspective:从程序行为理解位级表示。

第 3 章 · 数据的运算

现实中的整数可以无限大,机器里的寄存器却只有有限位。计算机运算真正有趣的地方,正是如何在这个小盒子里算对,并在装不下时及时报警。

为什么 127 + 1 会变成 −128?

在 8 位补码里,这不是加法器“算错了”,而是结果绕出了可表示范围。顺着这个反常现象,我们会把溢出、移位、乘除和校验串成一条线。

本章学习目标
  1. 用模 2ⁿ 运算完成补码加减,并分别判断无符号进位与有符号溢出。
  2. 解释逻辑移位、算术移位、移位加法乘法和恢复/不恢复余数除法。
  3. 按对阶、运算、规格化、舍入描述浮点运算,并使用 GRS 位解释舍入。
  4. 说明奇偶校验、海明码与 CRC 能检测或纠正哪些错误。
先修知识与模型边界需要第 2 章的补码、定点与 IEEE 754 基础。算法均以固定字长教学模型说明;真实处理器可能采用并行乘法树、SRT 除法或融合乘加等更复杂实现。

本章目录

本章知识路线
小节完成后你能做什么
3.1把减法改写为补码加法并解释最高进位
3.2区分 CF 类进位和 OF 类有符号溢出
3.3选择正确移位并判断舍弃位的影响
3.4用部分积解释乘法并说出 Booth 判定位的作用
3.5说明恢复余数和不恢复余数算法的差别
3.6按完整流水解释一次浮点加法
3.7推导浮点乘除的符号、指数和有效数
3.8根据错误模型选择校验方案

3.1 补码加减法:在模 2ⁿ 环中统一运算

n 位加法器只保留结果的低 n 位,本质上执行模 2ⁿ 加法。补码编码恰好使正数和负数在这个模环中使用同一套加法电路。

计算 A−B 时应写成 [A]补 + [−B]补 (mod 2ⁿ)。最高位之外的进位从结果位串中舍弃,但还要根据数据类型单独判断无符号借位/进位或有符号溢出。

n 位补码加减

[A+B]补 = ([A]补 + [B]补) mod 2ⁿ

[A−B]补 = ([A]补 + [−B]补) mod 2ⁿ

例 3-1:8 位补码计算 37−52

37=0010 0101,52=0011 0100,所以 −52=1100 1100。

0010 0101 + 1100 1100 = 1111 0001,按 8 位补码解释为 −15。两操作数异号相加,不会发生有符号溢出。

易错点与边界
  • 不能把“最高进位舍弃”误解成所有进位信息都无意义;无符号运算常用进位/借位判断越界。
  • 求 −B 时必须在固定 n 位内取反加 1。

3.2 溢出与标志:同一结果要按类型判断

判断口诀不是目的:先算数学真值,再看它能否装进当前位宽。装不下就是溢出;CF 和 OF 只是分别服务于无符号与有符号解释的硬件提示灯。

无符号溢出关注结果是否超出 0~2ⁿ−1,通常与最高位进位或借位有关;有符号溢出关注结果是否超出补码范围。二者可以对同一位运算给出不同结论。

两个同号补码数相加,若结果符号与操作数不同,则发生有符号溢出。硬件也可用“进入符号位的进位 XOR 离开符号位的进位”检测。具体标志位名称和减法借位约定依 ISA 而异。

加法后的两类判断
解释方式溢出条件典型硬件信息
无符号产生第 n+1 位进位carry/CF 类状态
补码有符号同号相加得到异号结果overflow/OF 类状态
零结果低 n 位全 0zero/ZF 类状态
负结果结果最高位为 1negative/sign 类状态,不能单独证明溢出
例 3-2:8 位计算 100+60

0110 0100 + 0011 1100 = 1010 0000。按无符号数是 160,未越界;按补码是两个正数相加得到负号位,发生有符号溢出,位串不能代表数学结果 160。

易错点与边界
  • 最高位为 1 不等于“运算发生溢出”,它可能只是合法负数。
  • CF 与 OF 服务不同解释,不能互相替代。

3.3 移位与循环移位:移动位也会改变数值语义

逻辑移位从空位补 0,常用于无符号位字段;算术右移复制符号位,近似完成补码除以 2;循环移位把移出的位送回另一端,适合位混合和某些加密/校验操作。

左移一位在不溢出的前提下相当于乘 2,但无符号数和补码数的越界条件不同。右移会舍弃低位,因此必须说明取整规则。

8 位移位的补位规则
操作左侧补入右侧补入常见用途
逻辑右移0—无符号除 2、提取位字段
算术右移原符号位—补码带符号缩小
逻辑/算术左移—0乘 2、地址缩放;需检查溢出
循环移位另一端移出的位另一端移出的位位混合、轮转
例 3-3:为什么算术右移不总等于语言中的除法

8 位补码 −7=1111 1001,算术右移一位得到 1111 1100=−4,相当于向负无穷取整。许多语言的整数 −7/2 规定向 0 截断为 −3,因此不能机械替换。

易错点与边界
  • C/C++ 中对负有符号数右移和溢出相关规则要按语言标准与实现判断,不能只套硬件直觉。
  • 左移后再右移不一定恢复原值,被移出的高位已经丢失。

3.4 定点乘法:部分积、移位加法与 Booth 编码

无符号乘法可把乘数的每个 1 看成一个需要累加的移位被乘数。n 位乘 n 位的完整积最多需要 2n 位,若只保留低 n 位就必须另行判断高位是否含有效信息。

Booth 算法把补码乘数相邻位的变化编码为加、减或不操作,能自然处理符号,并把连续多个 1 转换成较少的加减。例如位串 0011110 可理解为一个较高位的 1 减去一个较低位的 1。

Booth 基本判定位(Q₀,Q₋₁)
位对操作随后动作
00部分积不变算术右移
01部分积加被乘数算术右移
10部分积减被乘数算术右移
11部分积不变算术右移
例 3-4:用部分积计算 13×11

11=(1011)₂,所以 13×11 = 13×(1+2+8)=13+26+104=143。硬件逐位检查乘数、累加相应的移位部分积;并行乘法器会用压缩树更快地合并这些部分积。

易错点与边界
  • 只给 n 位结果时,不能把被截掉的高 n 位当作不存在。
  • Booth 每轮的算术右移必须连同部分积、乘数和附加位按算法整体进行。

3.5 定点除法:试商、余数与恢复

二进制长除法每轮把部分余数左移并尝试减除数:若结果非负,商位记 1;若结果为负,商位记 0。恢复余数法会立刻把负结果加回除数;不恢复余数法把“恢复”合并到下一轮的加减选择中。

有符号除法通常先处理符号,再对绝对值执行核心算法,最后修正商和余数。ISA 还必须规定余数符号、除零以及最小负数除以 −1 的行为。

1
初始化:部分余数为 0,装入被除数和除数。
2
移位并试减:形成新的部分余数。
3
决定商位:非负记 1,负数记 0。
4
恢复或改变下轮操作:按算法保持余数合法。
5
结束:得到商和满足约束的余数。
例 3-5:13÷3

13=(1101)₂,3=(0011)₂。二进制长除逐位试商得到 商=(0100)₂=4,余数=(0001)₂=1,验证 13=3×4+1。

易错点与边界
  • 除数为 0 不是普通数值结果,必须按 ISA 产生异常或规定结果。
  • n 位补码的最小值除以 −1 数学结果超出正数范围,是特殊溢出边界。

3.6 浮点加减:对阶、有效数运算、规格化与舍入

浮点加减前必须让两个数的指数相同。通常把较小指数的有效数右移,移出的位不能简单丢弃,而要汇总为保护位(G)、舍入位(R)和粘滞位(S),供最终舍入使用。

有效数相加减后可能出现进位或前导零,需要右移或左移规格化并相应调整指数。最后按指定舍入模式得到目标格式,并检查上溢、下溢和无效运算。

1
分类特殊值:先处理 NaN、无穷和零。
2
比较指数并对阶:右移较小有效数,保留 GRS 信息。
3
有效数加减:根据符号选择加法或减法。
4
规格化:调整有效数与指数。
5
舍入并检查异常:只在目标精度处决定最终位串。
例 3-6:二进制计算 1.5+0.25

1.5=(1.1)₂×2⁰,0.25=(1.0)₂×2⁻²=(0.01)₂×2⁰。对阶后有效数相加得到 1.11×2⁰=(1.75)₁₀;本例位数有限,无需额外舍入。

易错点与边界
  • 对阶通常右移较小数,因此较小加数可能被完全吸收。
  • 中间步骤过早舍入会造成双重舍入;应保留额外位到最后。

3.7 浮点乘除与舍入:指数和有效数分别处理

浮点乘法的结果符号是两符号位异或,真实指数相加,有效数相乘;除法则指数相减、有效数相除。随后都要规格化、舍入并重新编码偏置阶码。

特殊值不能只套普通公式:例如有限非零数除以零通常得到带符号无穷并触发除零标志,0/0 和 ∞−∞ 属于无效运算并产生 NaN。具体异常是否陷入由环境控制。

普通有限数的核心关系

(−1)ˢ¹ M₁2ᵉ¹ × (−1)ˢ² M₂2ᵉ² = (−1)ˢ¹⊕ˢ² (M₁M₂)2ᵉ¹⁺ᵉ²

例 3-7:1.5×(−2.5)

1.5=1.1₂×2⁰,−2.5=−1.01₂×2¹。有效数积 1.1×1.01=1.111₂,指数为 1,结果 −1.111₂×2¹=−3.75。

易错点与边界
  • 存储阶码带偏置,不能直接把两个存储阶码相加;要减去相应偏置。
  • 融合乘加 FMA 只在最终结果处舍入一次,可能与分开的乘法再加法结果不同。

3.8 差错检测与纠正:奇偶、海明码和 CRC

奇偶校验增加一个校验位,使 1 的总数为偶数或奇数。它能检测任意奇数个位翻转,却不能定位错误,也会漏掉偶数个位翻转。

海明码把校验位放在 1、2、4、8 等位置,用综合症定位单比特错误。若有 m 个数据位、r 个校验位,单错纠正至少满足 2ʳ ≥ m+r+1。再加一个总奇偶位可形成 SECDED(单错纠正、双错检测)。

CRC 把位串看成 GF(2) 上的多项式,用生成多项式做模 2 除法并附加余数。CRC 对突发错误很有效,但它是检错码,不提供密码学完整性。

三类校验的能力边界
方法冗余与能力典型用途
奇偶校验1 位;检测奇数个位错误简单链路、作为更强编码的一部分
海明/SECDED多位;定位单错并检测双错内存 ECC
CRC余数位数由生成多项式次数决定;擅长突发错误网络帧、存储块、总线传输
例 3-8:4 个数据位需要多少个海明校验位

令 m=4。取 r=2 时 2²=4<7,不够;取 r=3 时 2³=8≥4+3+1=8,因此至少需要 3 个校验位,形成经典的 (7,4) 海明结构。

易错点与边界
  • CRC 的异或除法没有普通算术的进位和借位。
  • “能检测双错”不等于“能纠正双错”;SECDED 对双错通常只能报告。

分层练习

  1. 补码:用 8 位补码计算 25−40,并判断有符号溢出。
  2. 标志:8 位位运算 0xF0+0x30 的无符号和有符号判断分别是什么?
  3. 移位:8 位补码 −12 算术右移两位得到多少?
  4. 乘除:为什么 n×n 位无符号乘法的完整积需要 2n 位?
  5. 浮点:列出浮点加法中对阶后仍需保存 GRS 位的原因。
  6. 校验:若有 11 个数据位,单错纠正海明码至少需要多少校验位?
查看练习答案
  1. 25=00011001,−40=11011000,和为 11110001=−15;异号相加,无有符号溢出。
  2. 低 8 位为 0x20 且有最高进位,无符号溢出;补码操作数 −16 与 48 异号相加,不发生有符号溢出。
  3. −12=11110100,算术右移两位为 11111101=−3。
  4. 最大积为 (2ⁿ−1)²<2²ⁿ 且可能大于等于 2²ⁿ⁻¹,因此最坏情况需要 2n 位。
  5. 右移会丢出多位,GRS 汇总这些信息,让最终舍入能判断小于、等于或大于半个 ULP,避免把被移出信息当成全 0。
  6. r=4 时 2⁴=16≥11+4+1=16,所以至少 4 位。

本章复盘

1
整数运算在固定字长内取模,结果位串与溢出状态必须分开解释。
2
移位、乘除是数据通路过程,每一步都要保护符号、位宽和舍弃位。
3
浮点运算的关键是 GRS 与最终舍入,不是简单把十进制小数代入。
4
校验能力取决于错误模型,检测、定位和纠正是不同承诺。

进一步阅读

  • IEEE 754-2019:浮点运算、舍入模式与异常。
  • Patterson & Hennessy:算术单元和乘除法硬件。
  • IEC/网络与存储协议中的 CRC 规范:理解生成多项式必须结合具体协议。

第三部分 · 运算器、指令系统与 CPU

第 4 章 · 运算器与数据通路基础

CPU 并不懂数学。它只会让电信号穿过门电路、加法器和选择器;但只要连接得巧,这些简单部件就能完成看似复杂的运算。

从 1 位加法到 64 位处理器

如果你能造出一个会算 1+1 的全加器,就已经握住了运算器的种子。本章会一步步把它扩展成真正的数据通路。

本章学习目标
  1. 从半加器、全加器推导 n 位加法器,并比较串行进位与超前进位。
  2. 说明 ALU、移位器、寄存器堆和多路选择器如何协作。
  3. 正确解释常见状态标志,并知道不同 ISA 可能没有同样的标志寄存器。
  4. 从延迟、吞吐和面积比较迭代式、流水化乘除单元与 FPU。
先修知识与模型边界需要布尔代数的与、或、异或和第 3 章的补码运算。本章使用组合逻辑模型;锁存、时钟和有限状态机将在控制器章节进一步展开。

本章目录

本章知识路线
小节完成后你能做什么
4.1识别 ALU 的输入、控制、输出和状态信息
4.2写出一位全加器的和与进位方程
4.3推导进位传播关系并比较两类加法器
4.4说明逻辑单元和多级选择网络如何实现位运算与移位
4.5按数据类型解释标志,并识别 ISA 差异
4.6追踪操作数从寄存器到 ALU 再写回的路径
4.7比较迭代式和并行/流水式乘除单元
4.8说明 FPU 为什么比整数 ALU 多出分类、规格化和舍入逻辑

4.1 ALU:操作码控制的组合运算核心

算术逻辑单元(ALU)接收两个或多个操作数以及操作选择信号,产生结果和可选状态信息。加、减、与、或、异或、比较等操作常复用同一条硬件路径。

ALU 本身通常不保存长期状态;输入来自寄存器或旁路网络,输出写回寄存器、地址寄存器或流水寄存器。是否设置标志寄存器由 ISA 和实现共同决定。

ALU 接口中的四类信号
类别示例作用
数据输入A、B、进位输入提供操作数与链式进位
控制输入ALUop、是否取反 B选择加减、逻辑或比较
数据输出Result送往写回、地址或后续运算
状态输出Zero、Carry、Overflow、Negative供分支、异常或状态寄存器使用
例 4-1:减法怎样复用加法器

利用 A−B = A + (~B) + 1,控制信号让 B 的每一位经过异或门取反,并把最低位进位输入置 1。同一个 n 位加法器即可完成加法和补码减法。

易错点与边界
  • ALU 功能集合不等于 ISA 指令集合,一条指令可能需要多个部件或多个周期。
  • 比较操作常复用减法路径,但有符号和无符号比较需要不同状态组合。

4.2 半加器与全加器:一位加法怎样形成

把竖式加法缩小到一列:本位的两个数字加上低位送来的进位,产生本位和与向高位的进位——全加器就是这个动作的电路版本。

半加器只处理两个输入位 A、B:和为异或,进位为与。全加器还接收低位进位 Cin,可由两个半加器和一个或门组成。

把 n 个全加器按位连接,就得到 n 位加法器。最低位的 Cin 可作为加一或补码减法的控制输入。

全加器逻辑方程

Sum = A ⊕ B ⊕ Cin

Cout = AB + Cin(A ⊕ B)

一位全加器真值表
ABCinSumCout
00000
00110
01010
01101
10010
10101
11001
11111
例 4-2:最低两位 11+01

最低位:1+1+0 得和 0、进位 1;次低位:1+0+1 得和 0、进位 1。完整结果为 100。

易错点与边界
  • 半加器没有进位输入,不能单独级联成一般多位加法器。
  • 逻辑“+”在布尔方程中表示或,不是普通整数加法。

4.3 进位链:串行进位为何慢,超前进位为何快

串行进位加法器(ripple-carry)让每一位等待前一位的进位,结构简单、面积小,但最坏延迟随位数线性增长。

超前进位把每位抽象成生成信号 G 和传播信号 P,并行展开若干级进位表达式。实际大位宽加法器常分组计算,在扇入、布线、面积与速度之间折中。

生成与传播

Gᵢ=AᵢBᵢ,Pᵢ=Aᵢ⊕Bᵢ,Cᵢ₊₁=Gᵢ+PᵢCᵢ

例如 C₂=G₁+P₁G₀+P₁P₀C₀,可不等待 C₁ 实际到达再逐级计算。

两种进位组织
方案优点代价
串行进位规则、面积小、易扩展长进位链限制时钟频率
分组超前进位关键路径更短额外生成/传播逻辑和布线
前缀加法器对大位宽具有对数级逻辑深度布线复杂、面积与功耗较高
例 4-3:四位组为何能并行

先同时计算四个位的 Pᵢ,Gᵢ,再用展开式直接得到 C₁…C₄。虽然门本身仍有延迟,但不再必须等待进位逐位穿过四个全加器。

易错点与边界
  • “并行加法器”并不表示结果瞬间得到,关键路径仍由逻辑层级和布线决定。
  • 理论门级减少不保证芯片更快,布局布线和功耗同样重要。

4.4 逻辑运算与桶形移位器

按位与、或、异或对每一位独立计算,适合掩码、置位、清零和差异检测。ALU 可同时生成多个候选结果,再由多路选择器按控制信号选出一个。

若每次只能移一位,移动 k 位需要 k 个周期;桶形移位器用按 1、2、4、8…位组织的多级选择网络,在一个组合路径内完成任意移位量。

常见位操作模式
目标表达式说明
保留掩码为 1 的位x AND mask其余位清零
设置某些位x OR mask掩码为 1 的位置 1
翻转某些位x XOR mask掩码为 1 的位取反
提取连续字段逻辑右移后 AND先对齐到低位,再屏蔽
例 4-4:提取 32 位字的第 15~8 位

先逻辑右移 8 位,再与 0xFF:(x >> 8) AND 0xFF。右移负责对齐,掩码保证高位不会混入结果。

易错点与边界
  • 算术右移和逻辑右移的左侧补位不同。
  • 桶形移位器减少周期数,却会增加组合路径面积和延迟。

4.5 状态标志:CF、ZF、SF、OF 不是通用真理

一些 ISA(如 x86)把算术结果的进位、零、符号和有符号溢出保存到状态寄存器;另一些 ISA(如基础 RISC-V 整数指令)通常不维护同样的隐式算术标志,而用显式比较和分支指令。

因此标志应先按数学含义理解,再映射到具体 ISA:carry 服务无符号进位/借位语义,overflow 服务补码范围,zero 检测结果全 0,sign/negative 反映最高位。

常见标志的含义
教学名称典型含义常见误解
CF/Carry无符号最高进位;减法借位约定依 ISA不能判断补码溢出
ZF/Zero结果位串全 0不说明操作数本身都是 0
SF/Negative结果最高位最高位为 1 不等于发生溢出
OF/Overflow补码数学结果超出范围与最高进位不是同一条件
例 4-5:0x7F+0x01

8 位结果 0x80。无最高进位,所以 CF 类信息为 0;两个补码正数得到负号位,OF 为 1;结果非零,ZF 为 0;最高位为 1,SF 为 1。

易错点与边界
  • 不要把 x86 标志名称直接套到所有处理器。
  • 条件分支常组合多个标志,例如有符号小于与无符号小于使用不同条件。

4.6 运算器内部数据通路:寄存器、选择器与写回

数据通路由存储数据的寄存器、变换数据的组合逻辑以及决定路径的多路选择器组成。寄存器堆通常提供多个读端口和一个或多个写端口,使一条指令能同时读取两个源操作数并写入一个目标。

控制信号决定读哪个寄存器、ALU 第二输入来自寄存器还是立即数、选择哪种运算,以及结果写回何处。时钟边沿只允许满足建立/保持时间的结果进入状态元件。

1
读寄存器:指令字段选择源寄存器。
2
选择操作数:多路选择器在寄存器、立即数、PC 等来源间选择。
3
执行:ALU/移位器产生结果或地址。
4
选择写回值:执行结果、内存数据或 PC 相关值。
5
时钟边沿写入:目标寄存器在写使能有效时更新。
例 4-6:立即数加法的数据路径

指令选择源寄存器 rs1;立即数字段经符号扩展送到 ALU 的 B 端;ALU 执行加法;写回选择器选中 ALU 结果,并在时钟边沿写入 rd。

易错点与边界
  • “总线”在数据通路图中可能只是共享连线抽象,不等同于板级系统总线。
  • 组合路径过长会限制时钟周期,不能无限堆叠功能。

4.7 乘除运算单元:延迟、吞吐与面积的取舍

迭代式乘法器复用一个加法器和移位寄存器,面积小但一项运算需多个周期。并行乘法器一次产生部分积并用压缩树合并,延迟短但面积与功耗高;加入流水寄存器后可提高吞吐。

整数除法较难完全并行,常见实现包括恢复/不恢复余数、SRT 和倒数近似。处理器可能让除法具有较长且数据相关的延迟。

运算单元实现取舍
实现启动间隔/吞吐单次延迟面积功耗
迭代式通常多个周期才能接收下一项较长低
组合并行式可每周期启动但路径很长一个长组合周期高
流水并行式可接近每周期启动跨多个流水级更高,控制更复杂
例 4-7:延迟 4 周期不等于每 4 周期一个结果

若乘法器有 4 级流水线,单个乘法从进入到结果仍需 4 周期,但流水填满后可能每周期完成一个结果;延迟是 4,启动间隔可以是 1。

易错点与边界
  • 延迟和吞吐是不同指标。
  • 只看“乘法多少周期”还不够,需知道是否流水化、能否并发以及操作数类型。

4.8 浮点运算单元:格式、舍入与融合乘加

FPU 不仅做有效数运算,还要处理阶码比较、对阶、前导零检测、规格化、GRS 舍入以及 NaN、无穷、零和次正规数。实现必须遵守目标浮点格式与舍入模式。

融合乘加(FMA)计算 a×b+c,在乘积与加数合并后只舍入一次。它既能提升矩阵计算吞吐,也能减少分开乘、加的中间舍入误差。

1
分类输入:识别普通数和特殊值。
2
解包:恢复真实指数和隐藏有效位。
3
执行核心运算:对阶、乘法或加法。
4
规格化与舍入:生成目标精度结果。
5
重新打包:写回字段并设置异常状态。
例 4-8:FMA 与两条指令可能不同

若精确乘积包含目标格式保存不下的低位,普通乘法会先舍入,再与 c 相加;FMA 保留扩展精度乘积并在最终和上舍入一次,所以最后一位可能不同。

易错点与边界
  • FPU 输出的异常标志不一定导致控制流陷入,默认环境常只记录状态并返回特殊值。
  • “使用更多位”不能消除所有舍入,只能把误差推迟或减小。

分层练习

  1. 逻辑:写出半加器和全加器的 Sum 表达式。
  2. 进位:给出 Gᵢ、Pᵢ 和下一位进位的关系。
  3. 位操作:怎样把 32 位整数的第 7 位设置为 1,而不改变其他位?
  4. 标志:8 位 0xFF+0x01 的 CF、ZF、OF 如何判断?
  5. 数据通路:立即数加法为什么需要扩展单元和多路选择器?
  6. 性能:一个 5 级流水乘法器延迟 5 周期、启动间隔 1,连续 10 个独立乘法理想需多少周期完成?
查看练习答案
  1. 半加器 Sum=A⊕B;全加器 Sum=A⊕B⊕Cin。
  2. Gᵢ=AᵢBᵢ,Pᵢ=Aᵢ⊕Bᵢ,Cᵢ₊₁=Gᵢ+PᵢCᵢ。
  3. 执行 x OR (1<<7)。
  4. 结果低 8 位为 0,有最高进位:CF=1、ZF=1;补码 −1 与 1 异号相加,OF=0。
  5. 立即数字段短于数据通路位宽,需要按语义符号/零扩展;ALU 的第二输入需在寄存器值与扩展立即数之间选择。
  6. 第一个结果第 5 周期完成,之后每周期一个,共约 5+10−1=14 周期(按该计数约定)。

本章复盘

1
ALU 是组合逻辑:控制选择候选运算,寄存器在边沿保存状态。
2
进位决定加法关键路径:简单串行与快速前缀结构交换面积和速度。
3
状态位依 ISA 而定:先理解数学条件,再记具体名称。
4
复杂运算看延迟与吞吐:流水化能提高吞吐,但不会自动缩短单项延迟。

进一步阅读

  • Harris & Harris, Digital Design and Computer Architecture:组合逻辑、加法器与数据通路。
  • Patterson & Hennessy:处理器数据通路与算术单元。
  • IEEE 754-2019:FPU 的格式、舍入和异常语义。

第 5 章 · 指令系统

高级语言里一句简单的赋值,到了处理器眼里会变成取数、计算、存回等一串小动作。指令集就是软件与芯片共同遵守的“暗号本”。

为什么同一个程序不能随便换 CPU 运行?

x86、ARM、RISC-V 使用的暗号并不相同。弄清一条指令说了什么、操作数在哪里、怎样编码,就能看见程序与硬件接缝处的样子。

本章学习目标
  1. 区分 ISA、机器指令、汇编语法和微体系结构。
  2. 从指令格式识别操作码、寄存器、立即数和功能扩展字段。
  3. 计算常见寻址方式的有效地址,并判断访问的数据宽度与对齐。
  4. 解释过程调用中的参数、返回地址、栈帧及调用者/被调用者保存约定。
先修知识与模型边界需要寄存器、补码和主存按地址访问的概念。示例采用接近 RISC-V 的教学语法;不同 ISA 的寄存器名、指令格式和 ABI 会不同,不能把示例语法当作通用标准。

本章目录

本章知识路线
小节完成后你能做什么
5.1说明一条指令的语义由哪些部分组成
5.2解释字段位数如何限制寄存器数、立即数范围和操作种类
5.3比较定长与变长指令对译码和代码密度的影响
5.4写出常见寻址方式的有效地址公式
5.5按状态变化给指令分类并识别隐含副作用
5.6画出函数调用前后的参数、返回地址和栈帧
5.7从编码、访存和实现角度比较两种传统风格
5.8追踪寄存器、内存与分支完成一个数组求和

5.1 指令与 ISA:程序可见的机器语言

机器指令是一段按 ISA 格式编码的位串。ISA 不只列出助记符,还规定每条指令读取和写入哪些架构状态、怎样计算地址、发生异常时如何表现。

汇编语言是机器指令的人类可读表示,可能包含伪指令和汇编器语法糖。一条伪指令不一定对应一条机器指令;同一机器指令也可能有不同汇编写法。

指令语义的组成
部分问题示例
操作做什么加法、加载、比较、跳转
源操作数从哪里读寄存器、立即数、内存
目标状态写到哪里寄存器、内存、PC、状态寄存器
异常条件何时不能正常完成非法编码、未对齐、缺页、权限错误
例 5-1:add x3,x1,x2 的完整含义

读取寄存器 x1、x2,按寄存器位宽做整数加法,将低位结果写入 x3,并按该 ISA 规定处理溢出。基础 RISC-V 的普通 add 对结果按位宽取模,不维护 x86 式通用算术标志。

易错点与边界
  • 助记符相同不保证不同 ISA 的异常、标志和位宽语义相同。
  • 反汇编看到的“指令”可能包含汇编器对伪指令的重新表达。

5.2 指令格式:在有限位数中分配信息

像填写一张固定大小的快递单:操作码写“做什么”,寄存器字段写“找谁”,立即数字段直接带一个小数值。给某一栏更多位,其他栏就要让空间。

指令格式通常包含操作码、源/目标寄存器编号、立即数或功能扩展字段。固定总长度下,一个字段增加位数会挤压其他字段,因此编码设计必须在寄存器数量、立即数范围和指令种类间取舍。

三地址指令显式给出两个源和一个目标;二地址指令常让一个操作数兼作目标;一地址或零地址形式依赖累加器或栈顶。地址数是编码中显式操作数的数量,不等于该指令只访问这么多个内部对象。

字段容量

k 位寄存器编号最多区分 2ᵏ 个编码;n 位补码立即数范围为 −2ⁿ⁻¹~2ⁿ⁻¹−1。

显式地址数与典型形式
形式示意特点
三地址R3←R1 op R2源值保留,编码字段多
二地址R1←R1 op R2一个源被覆盖
一地址ACC←ACC op M隐含累加器
零地址push/pop; op操作数隐含在栈顶
例 5-2:寄存器字段需要多少位

若 ISA 有 32 个通用寄存器,每个寄存器编号至少需要 log₂32=5 位。三寄存器格式仅编号字段就需要 15 位。

易错点与边界
  • “地址码”不一定是完整内存地址,更多时候只是寄存器编号或立即数字段。
  • 保留编码和扩展操作码必须结合完整格式判断,不能只用一个简单公式覆盖所有 ISA。

5.3 指令长度与编码密度:定长、变长和压缩编码

定长指令边界容易定位,取指和并行译码规则整齐,但小操作也占完整字长;变长指令能为常用简单操作使用短编码,提高代码密度,却增加边界识别和译码复杂度。

现代设计常采用混合方案,例如基础定长指令配合 16 位压缩扩展。PC 的顺序更新必须按实际指令长度,而不是固定“加 1”。

指令长度方案的取舍
方案优势代价
固定长度对齐规则简单、易并行取指译码代码密度可能较低
可变长度常用指令可短编码边界识别、译码和前端供给更复杂
固定基础+压缩扩展兼顾规则与密度需要处理两种或更多长度
例 5-3:代码密度为何会影响性能

同样功能若从 16 字节压缩到 10 字节,一个 Cache 块可容纳更多指令,可能减少取指缺失和内存带宽;但译码器必须正确识别混合长度边界。

易错点与边界
  • 指令更短不一定执行更快,执行延迟和编码长度是不同维度。
  • 固定长度也可能要求按自然边界对齐,浪费的填充需计入代码大小。

5.4 寻址方式:操作数值与有效地址要分开

寻址方式规定指令字段怎样得到操作数或有效地址(EA)。立即寻址把常数放在指令中;寄存器寻址直接读取寄存器;内存寻址则可能用绝对地址、寄存器间接、基址加偏移、变址或 PC 相对方式。

算出 EA 只是第一步,还要根据访问宽度、对齐、地址翻译和权限实际访问存储系统。栈寻址通常隐含使用栈指针,但栈增长方向与 push/pop 细节由 ISA/ABI 规定。

常见寻址方式
方式操作数/EA适用场景
立即操作数 = 指令中的常数小常量、位掩码
寄存器操作数 = R[r]高速临时值
直接/绝对EA = 指令地址字段固定位置,受字段位数限制
寄存器间接EA = R[r]指针
基址+偏移EA = R[base] + signext(offset)结构字段、栈帧、数组元素
变址EA = base + R[index]×scale + disp数组与表
PC 相对目标 = 当前/顺序 PC + signext(offset)分支与位置无关代码
例 5-4:基址加偏移

寄存器保存 0x1000,指令的 12 位补码偏移是 −16,则 EA=0x1000−0x10=0x0FF0。随后还需检查访问宽度与地址对齐。

易错点与边界
  • 立即数是值,不是“存放该值的地址”。
  • PC 相对基准可能是当前指令地址或顺序 PC,必须按具体 ISA 定义。

5.5 数据传送、运算与控制转移

数据传送指令在寄存器、内存和 I/O 可见位置之间移动位模式;算术逻辑指令产生新值;控制转移指令改变 PC;系统类指令管理特权状态、原子性或内存顺序。

load/store 架构通常只有显式加载和存储访问数据内存,算术指令主要操作寄存器;内存操作数架构可能允许算术指令直接访问内存。两种风格最终都要处理地址、Cache 和异常。

指令类别与主要状态
类别主要读取主要写入
算术逻辑寄存器/立即数目标寄存器或标志
加载地址寄存器、内存目标寄存器
存储地址寄存器、源寄存器内存
条件分支寄存器/标志、PCPC
调用/返回PC、栈或链接寄存器返回地址、PC、可选栈
原子/同步内存与顺序状态内存、寄存器、顺序约束
例 5-5:分支不是“只改 PC”那么简单

条件分支先读取比较所需状态,计算目标地址并决定下一 PC。流水处理器还可能需要撤销错误路径指令并更新预测器;这些是实现行为,ISA 只承诺最终可见控制流。

易错点与边界
  • move 助记符可能是加零、或运算等伪指令。
  • store 通常不会把内存写入结果再写回源寄存器,但原子指令可能同时读改写并返回旧值。

5.6 栈、过程调用与 ABI

过程调用需要约定参数位置、返回值位置、返回地址保存方式、哪些寄存器由调用者保存、哪些由被调用者保存,以及栈的对齐。ABI 把这些规则固定下来,使不同编译器产生的目标文件可以互相调用。

叶子函数可能不建立完整栈帧;优化器也可能内联函数、消除帧指针或把局部变量保留在寄存器。教材栈帧图是通用模型,不代表每次调用都会逐项出现。

1
调用者准备参数:优先放参数寄存器,溢出部分按 ABI 放栈。
2
保存返回位置:call 指令写链接寄存器或压栈。
3
被调用者建立栈帧:调整栈指针,保存需保护的寄存器。
4
执行函数体:访问参数、局部变量和被调用函数。
5
恢复并返回:写返回值,恢复状态和 PC。
例 5-6:为什么寄存器要分 caller-saved 与 callee-saved

短生命周期临时值由调用者在需要时保存,可避免每个函数无条件保存;跨调用仍需长期保留的寄存器由被调用者保护。两类约定共同降低平均保存开销。

易错点与边界
  • 栈向高地址还是低地址增长不是普遍定律。
  • 返回地址可能在栈中,也可能在专用/通用链接寄存器中。

5.7 RISC 与 CISC:设计取舍而不是二元标签

传统 RISC 强调规则格式、较多寄存器、load/store 和便于流水化的简单操作;传统 CISC 强调丰富寻址、变长编码和较强单条指令语义。

现代边界已经模糊:复杂 ISA 的处理器可把指令译成内部微操作,RISC ISA 也会加入向量、压缩和专用扩展。评价设计应看软件生态、代码密度、前端带宽、实现复杂度和实际工作负载,而不是数助记符。

传统特征与现代现实
维度传统 RISC 倾向传统 CISC 倾向
编码较规则、常见固定基础长度变长、编码密度高
内存操作load/store 分离更多指令可带内存操作数
译码边界与字段较规则常需复杂边界识别和微操作展开
现代实现可乱序、超标量、微码辅助同样可乱序、超标量并译成内部微操作
例 5-7:为什么不能用“指令少”判断 CISC 更快

一条复杂指令可能展开成多个内部操作并有较长延迟;多条简单指令也可能并行、流水执行。最终应比较完整程序的执行时间、能耗和代码大小。

易错点与边界
  • RISC 不等于每条指令一个周期。
  • CISC 不等于所有指令都由微码实现。

5.8 汇编阅读:把循环还原成状态变化

阅读汇编时先写出寄存器角色,再按基本块追踪状态,不要逐字翻译助记符。下面采用接近 RISC-V 的教学语法:x5 是数组指针,x6 是剩余元素数,x10 保存和。

循环每次加载一个 32 位元素、累加、指针加 4、计数减 1并跳回。真实代码还要考虑数组长度、对齐、溢出语义和编译器优化。

例 5-8:数组求和循环
addi x10, x0, 0      # sum = 0
loop:
beq x6, x0, done # count == 0 时结束
lw x7, 0(x5) # 读取 *ptr
add x10, x10, x7 # sum += value
addi x5, x5, 4 # ptr++
addi x6, x6, -1 # count--
jal x0, loop
done:

每轮的架构状态变化是:读一次内存,更新 x10、x5、x6,并根据分支/跳转更新 PC。

易错点与边界
  • 汇编注释描述意图,不替代 ISA 语义。
  • 反汇编地址、机器字节序和指令字段位序是不同问题。

分层练习

  1. 字段:64 个通用寄存器的编号字段至少需要几位?
  2. 立即数:12 位补码立即数的范围是多少?
  3. 寻址:base=0x2000,index=3,scale=4,disp=8,有效地址是多少?
  4. 控制流:调用指令至少必须保存什么信息?
  5. ABI:为什么栈通常要求 16 字节等固定对齐?
  6. 汇编:例 5-8 若 x6 初值为 0,会访问数组吗?
查看练习答案
  1. log₂64=6 位。
  2. −2048~2047。
  3. 0x2000+3×4+8=0x2014。
  4. 必须能恢复调用点之后的执行位置,即返回地址;保存位置由 ISA/ABI 决定。
  5. 便于保存宽数据、满足向量/访存指令对齐并使独立编译模块遵循统一布局;具体数值由 ABI 规定。
  6. 不会。循环开头的 beq 先检查计数并直接跳到 done。

本章复盘

1
ISA 定义语义,汇编只是机器编码的可读表示。
2
格式受位数预算约束,寄存器、立即数和操作码相互竞争。
3
寻址先算 EA 再访问,别忘记宽度、对齐、翻译和权限。
4
过程调用依赖 ABI,栈帧只是约定在运行时的具体体现。

进一步阅读

  • RISC-V Unprivileged ISA Specification:规则指令格式与 load/store 示例。
  • Intel® 64 and IA-32 Architectures Software Developer’s Manual:变长指令与复杂寻址示例。
  • 目标平台 ABI 文档:调用约定、栈对齐与寄存器保存规则。

第 6 章 · 中央处理器与指令执行

把 CPU 想成一座每拍都在改道的车站:数据从寄存器出发,经过 ALU 或存储器,再抵达新的位置;控制信号负责扳动道岔。

一条加法指令到底忙了什么?

它要读两个寄存器、让 ALU 相加、选择目标并写回。看似一瞬间的动作,其实是一条清晰的数据旅行路线。

本章学习目标
  1. 区分架构寄存器、专用寄存器与实现内部的流水/重排序状态。
  2. 区分指令周期、机器周期、时钟周期和流水级,避免把不同模型混用。
  3. 沿数据通路追踪算术、加载、存储和分支指令。
  4. 使用执行时间公式分析指令数、CPI、主频和存储停顿的共同影响。
先修知识与模型边界需要第 4 章的 ALU/数据通路和第 5 章的指令语义。本章建立 CPU 总体模型;第 10 章再深入控制器与微程序,第 11 章讨论流水化和乱序。

本章目录

本章知识路线
小节完成后你能做什么
6.1画出 CPU 的寄存器、执行单元和控制路径
6.2说明 PC、通用寄存器、状态寄存器和内部寄存器的职责
6.3在不同处理器模型中正确使用周期术语
6.4沿关键部件追踪 load、store、算术和分支
6.5说明控制信号如何由指令和状态产生
6.6把取指和执行写成无冲突的微操作序列
6.7把执行时间变化归因到指令数、CPI、主频与存储停顿

6.1 CPU 的组成:状态、变换与控制

CPU 保存程序可见状态并按 ISA 执行状态转换。寄存器堆、PC 和控制状态属于状态元件;ALU、移位器、地址生成单元和选择网络变换数据;控制器根据指令和当前状态发出选择、读写与时序信号。

现代 CPU 还包含取指前端、分支预测、多个执行单元、Cache/TLB 接口以及提交逻辑。这些微体系结构结构提高并行度,但对软件承诺的仍是 ISA 定义的架构状态。

CPU 中的三类结构
类别示例是否直接程序可见
架构状态通用寄存器、PC、特权/状态寄存器是或受权限控制
数据通路ALU、寄存器堆端口、旁路、选择器通常否
控制与调度译码、状态机、微码、发射/提交通常否
例 6-1:一条加法需要哪些最小部件

至少要读取两个源寄存器,用 ALU 相加,选择目标寄存器并在允许的时钟边沿写回;控制器同时产生读地址、ALU 功能、写地址和写使能。

易错点与边界
  • “CPU=运算器+控制器”是功能概括,现代实现还需要大量缓存、预测和调度结构。
  • 内部物理寄存器数量可能多于 ISA 暴露的架构寄存器。

6.2 寄存器系统:架构可见与实现内部要分开

通用寄存器保存整数、地址或位模式;PC 标识取指位置;状态/控制寄存器保存特权级、异常和中断相关信息。某些 ISA 还定义浮点、向量或专用链接寄存器。

简单非流水教学机可用 IR 保存当前指令、MAR/MDR 表示存储接口。流水或乱序处理器同时处理多条指令,会使用流水寄存器、队列、物理寄存器和重排序缓冲区,不能说“IR 保存当前正在执行的唯一指令”。

常见寄存器角色
寄存器/结构保存内容注意事项
通用寄存器整数、地址、临时值具体用途受 ABI 约定
PC当前/下一取指位置顺序增量取决于指令长度
状态控制寄存器条件、特权、异常入口等字段和可见性依 ISA
IR(简单模型)当前译码指令不适合概括多发射乱序实现
流水/物理寄存器阶段间或重命名后的内部值微体系结构状态
例 6-2:为什么 PC 不一定加 1

字节编址且固定 32 位指令的机器通常形成 PC+4;若还支持 16 位压缩指令,则顺序 PC 可能是 PC+2 或 PC+4。分支、异常和返回还会选择其他来源。

易错点与边界
  • 寄存器“专用”可能是 ISA 规定,也可能只是 ABI 使用惯例。
  • 内部寄存器不能由普通程序直接寻址,不属于同一兼容性层。

6.3 指令周期、机器周期与时钟周期

指令周期指处理器完成一条指令从取指到其架构效果完成的全过程。时钟周期是同步电路的基本时间单位。经典多周期机把取指、间址、执行、中断等功能阶段称为机器周期,每个机器周期又可包含若干节拍。

流水处理器中多条指令重叠,IF/ID/EX/MEM/WB 是经典五级流水的阶段名,不应直接拿来定义所有处理器的“指令周期”。一条指令的延迟和处理器的平均 CPI 也不是同一个量。

容易混淆的时间概念
概念定义典型单位/关系
时钟周期相邻有效时钟边沿间隔秒、ns;频率的倒数
机器周期(经典模型)完成一次相对完整的基本功能可含多个节拍
指令周期完成一条指令的逻辑全过程可含多个机器/时钟周期
流水级流水实现中由寄存器隔开的组合阶段多个指令可同时处于不同级
CPI大量指令平均消耗的时钟周期数可小于单条指令延迟级数
例 6-3:五级流水为什么 CPI 可接近 1

单条指令从 IF 到 WB 可能跨 5 个周期,但填满流水线后每周期可完成一条指令。理想长期吞吐对应 CPI≈1,而单条延迟仍约 5 个阶段。

易错点与边界
  • “每条指令五周期”只适合特定非重叠模型。
  • 平均 CPI 必须包含停顿、分支失败和 Cache 未命中等影响。

6.4 数据通路:单周期、多周期与流水实现

三种实现像三种厨房:单周期要求一道菜一次做完;多周期把步骤拆开并复用厨具;流水线则让多道菜同时处于不同工序。菜单(ISA)不变,后厨组织不同。

单周期设计让每条指令在一个长时钟周期内完成,控制直观但时钟周期被最慢指令决定;多周期设计让指令分阶段复用 ALU 和存储接口,时钟更短但控制状态更多;流水设计在阶段之间加入寄存器并重叠多条指令。

三种设计可实现同一 ISA。选择哪一种不会改变 load 的架构语义,却会改变硬件资源、关键路径、CPI 和异常处理方式。

控制单元依据操作码选择多路器、ALU 功能、存储器读写和寄存器写使能;分支还会把比较结果与目标地址反馈给下一 PC 选择器。

三类实现方式
实现资源使用时钟与 CPI控制难点
单周期常需避免结构复用冲突长周期,理想 CPI=1组合路径很长
多周期部件可跨阶段复用短周期,不同指令 CPI 不同有限状态控制
流水阶段资源并行使用短周期,理想吞吐 CPI≈1冒险、转发、冲刷和精确异常
1
取指:PC 访问指令存储并形成顺序 PC。
2
译码/读寄存器:得到 base 和立即数。
3
地址生成:ALU 计算 base+offset。
4
访问数据存储:执行 load 或 store。
5
写回:load 数据写入目标寄存器。
例 6-4:load 与 add 的路径为何不同

add 在 ALU 产生最终写回值;load 的 ALU 结果只是有效地址,还必须访问数据存储并让写回选择器选中内存数据。因此单周期 load 常成为更长的关键路径。

易错点与边界
  • 单周期不是“一条指令只做一个动作”,而是许多组合动作都塞进一个周期。
  • 多周期复用同一存储器时必须保存阶段间中间结果。

6.5 控制器概览:硬布线与微程序两条实现路线

控制器读取指令字段、当前阶段和条件状态,生成寄存器写使能、多路选择、存储读写和 ALU 功能等信号。简单单周期控制可由组合译码产生,多周期控制通常需要状态机。

硬布线控制把状态转移和输出直接实现为逻辑,通常快但修改困难;微程序控制把控制字存入控制存储器,由微地址序列器逐条取出。二者可以混合,复杂指令或特殊流程由微码辅助。第 10 章将展开编码和时序。

控制器实现取舍
方式优势代价
组合/硬布线关键路径短、适合规则数据通路逻辑修改和验证成本高
微程序复杂流程表达清晰、可通过微码更新控制存储与微指令序列带来延迟
混合常用路径快,复杂路径灵活两套机制协同更复杂
例 6-5:一条 add 的控制信号

译码后选择两个寄存器作为 ALU 输入,ALUop 置为加法,禁止数据存储写,写回来源选 ALU,目标寄存器写使能为 1。任何一个信号错误都可能写错位置或破坏内存。

易错点与边界
  • 微程序是控制器内部实现,不等同于程序员编写的机器指令。
  • “RISC 必硬布线、CISC 必微码”是过度简化。

6.6 微操作与控制信号:用寄存器传送描述每一步

微操作是一个时钟节拍内对寄存器或组合部件执行的基本动作,常用寄存器传送语言(RTL)描述,例如 MAR←PC、IR←MDR。可并行的微操作必须没有资源和时序冲突。

控制信号让源寄存器驱动通路、选择 ALU 功能、装入目标寄存器或发起存储请求。同步存储器和 Cache 可能需要等待响应,因此真实控制还要处理 ready/valid 或停顿。

简单多周期取指示例
节拍微操作目的
T0MAR←PC,发起读给出指令地址
T1MDR←Memory[MAR]接收指令字(假设此时返回)
T2IR←MDR,PC←PC+len保存指令并形成顺序 PC
例 6-6:为什么两个源不能同时驱动单总线

若 R1 和 R2 同时把不同位值驱动到同一物理单总线,会产生冲突。单总线数据通路需分节拍传输或通过选择器保证每次只有一个源;多总线结构可用更多硬件换并行度。

易错点与边界
  • 表中的存储器一拍返回是假设,Cache 未命中时不能照搬固定时序。
  • 同一节拍能否并行取决于端口数量、组合依赖和建立时间。

6.7 CPU 性能:基础公式与停顿来源

CPU 执行时间由动态指令数、平均 CPI 和时钟周期共同决定。编译优化可能减少指令数却增加某些指令复杂度;更深流水可提高主频却增加分支失败代价;更大 Cache 可降低 CPI 却增加命中延迟。

平均 CPI 可拆成理想基础 CPI 与各种停顿:数据相关、结构冲突、分支失败、Cache/TLB 未命中等。端到端性能还包括 I/O、操作系统调度和并行同步。

执行时间与平均 CPI

T = IC × CPI / f

CPI = 基础 CPI + 每条指令平均停顿周期

例 6-7:主频更高却更慢

A:3 GHz、CPI=2;B:2.5 GHz、CPI=1.2,指令数相同。每条指令时间 A 为 2/3GHz≈0.667ns,B 为 1.2/2.5GHz=0.48ns,所以 B 约快 1.39 倍。

易错点与边界
  • CPI 必须针对具体程序和输入,不能当作 CPU 的固定常数。
  • 墙钟时间与纯 CPU 时间不同,多任务和 I/O 会显著影响前者。

分层练习

  1. 结构:架构寄存器与物理寄存器有什么区别?
  2. 术语:为什么五级流水的单条延迟约五周期,平均 CPI 却可接近 1?
  3. 数据通路:store 指令是否需要寄存器写回?
  4. 微操作:在单总线模型中为何常需临时寄存器保存 ALU 一个输入?
  5. 计算:IC=5×10⁸、CPI=1.6、主频 2 GHz,CPU 时间是多少?
  6. 优化:优化后指令数降 10%,CPI 从 1.2 升到 1.3,主频不变,是否更快?
查看练习答案
  1. 架构寄存器由 ISA 命名并对程序可见;物理寄存器是重命名等内部实现资源,数量和映射可变化。
  2. 多条指令在不同流水级重叠,填满后可每周期完成一条;延迟与稳态吞吐不同。
  3. 普通 store 把寄存器数据写入内存,通常不写通用目标寄存器;但仍需地址生成和存储写控制。
  4. 总线一次只能提供一个源;先把一个操作数锁存,再让第二个操作数上总线,ALU 才能同时获得两者。
  5. 5×10⁸×1.6/(2×10⁹)=0.4 s。
  6. 新旧时间比 0.9×1.3/1.2=0.975,新方案约快 2.56%。

本章复盘

1
CPU 维护架构状态,内部可有远多于 ISA 暴露的资源。
2
周期术语依模型,指令周期、时钟周期和流水级不能互换。
3
数据通路决定数据去哪,控制信号决定何时选、何时写。
4
性能由三因素共同决定,停顿来源最终体现到平均 CPI。

进一步阅读

  • Patterson & Hennessy:单周期、多周期和流水数据通路。
  • Harris & Harris:RTL、控制器和时序设计。
  • 目标 ISA 的特权规范:架构状态、异常入口与控制寄存器。

第四部分 · 存储系统

第 7 章 · 主存储器

内存像一条很长的储物柜走廊:每个位置有编号,CPU 凭地址取放数据。但柜门怎样排列、一次能搬多少,会直接影响容量和速度。

“16 GB 内存”究竟有多少个格子?

答案取决于按什么单位编址,也涉及芯片位宽、字节序和通道组织。本章把容量公式还原成可以画出来的硬件结构。

本章学习目标
  1. 比较 SRAM、DRAM、ROM 与 Flash 的单元结构、易失性和使用场景。
  2. 根据容量与编址单位计算地址位数,并判断对齐和字节序。
  3. 完成位扩展、字扩展和字位同时扩展的芯片数量与片选设计。
  4. 区分访问时间、存储周期、传输率和理论带宽。
先修知识与模型边界需要地址、二进制容量和基本时钟概念。本章把存储器视为受控制器管理的器件;现代 DRAM 的通道、bank、行缓冲和突发传输会让“给地址立即返回一个字”的模型进一步复杂化。

本章目录

本章知识路线
小节完成后你能做什么
7.1说明寄存器、Cache、DRAM 与持久存储为何分层
7.2解释两种存储器的速度、密度和刷新差异
7.3区分固件存储、块擦除和可写非易失介质
7.4根据容量求地址位并区分地址空间和数据通路宽度
7.5画出一个多字节整数在连续地址中的布局
7.6计算芯片数量并设计地址线与片选分工
7.7从总线宽度和传输率计算理论带宽并解释有效带宽差距

7.1 存储层次:容量、速度与成本的折中

没有一种存储器能同时做到极低延迟、极高容量、非易失和低成本。系统因此把少量快速存储放在靠近处理器的位置,把大量较慢存储放在下层,并依靠程序局部性让常用数据停留在上层。

主存通常由 DRAM 构成,处在 Cache 与持久存储之间。它向处理器提供较大的随机访问地址空间,也承担操作系统页框、进程代码和数据的主要驻留位置。

典型存储层次(数量级随平台变化)
层次管理单位特点
寄存器字/向量最靠近执行单元,容量极小
CacheCache 行硬件自动利用局部性
DRAM 主存字节、突发块、页框容量大,需刷新,延迟显著
SSD/HDD块/页/扇区持久化,访问慢得多
例 7-1:为什么增加主存不等于提高每次访存速度

容量增大能减少因内存不足导致的换页,但一次 DRAM 访问的器件时序不会因此自动缩短。性能要分别看容量是否够用、Cache 命中率和主存本身的延迟/带宽。

易错点与边界
  • 层次图中的“越上越快”是总体趋势,不代表任何上层操作都比任何下层操作固定快。
  • 磁盘/SSD 空间不是主存的同义词,虚拟内存只是可把部分页后备到持久存储。

7.2 SRAM 与 DRAM:静态单元和动态电荷

SRAM 单元用交叉耦合逻辑状态保存位,只要供电稳定就无需周期刷新,读取通常不破坏内容;单元晶体管多、密度较低,常用于片上 Cache 和小容量缓冲。

DRAM 用电容电荷表示位,电荷会泄漏,需要刷新;读取通常具有破坏性,感应后要恢复。DRAM 密度高、每位成本低,适合主存。现代 DRAM 按通道、rank、bank、行和列组织,行缓冲命中会显著影响延迟。

SRAM 与 DRAM
维度SRAMDRAM
存储状态双稳态电路电容电荷
刷新不需要周期刷新需要
密度/成本密度低、每位成本高密度高、每位成本低
典型位置寄存器文件、Cache、片上缓冲主存、显存等大容量阵列
访问特性接口相对直接激活行、列访问、预充电和刷新
例 7-2:连续访问同一 DRAM 行为何更快

第一次访问需要激活目标行并把整行送入行缓冲;后续访问同一已打开行的其他列可省去再次激活。若切换到另一行,通常还要预充电和重新激活。

易错点与边界
  • “SRAM 不刷新”不等于断电后保留数据,它仍是易失性存储。
  • DRAM 频率、数据率和实际延迟不能只用一个数字代表。

7.3 ROM、Flash 与其他非易失存储

ROM 家族强调断电保持内容。掩膜 ROM 在制造时写定;PROM 一次编程;EPROM/EEPROM 可擦除重写。Flash 属于 EEPROM 的高密度实现,通常以页编程、以更大的块擦除。

NOR Flash 适合随机读取和就地执行固件;NAND Flash 密度高,广泛用于 SSD 和存储卡,但需要控制器处理坏块、纠错、映射和磨损均衡。

非易失存储的操作粒度
类型读取/写入特点典型用途
ROM/掩膜 ROM内容固定或制造时确定固定固件、查找表
EEPROM可按较小粒度改写,速度较慢配置数据
NOR Flash随机读取好、写擦较慢启动固件、嵌入式代码
NAND Flash页读写、块擦除、需 ECC/FTLSSD、移动存储
例 7-3:为什么 Flash 不能像 DRAM 一样原地覆盖一个字节

Flash 单元编程和擦除方向受器件物理限制,通常先把数据写到新页,再在后台回收整个擦除块。控制器用地址映射隐藏这一过程。

易错点与边界
  • ROM 不等于绝对不可修改,需根据具体 ROM 类型判断。
  • 非易失不代表无限写入寿命或写入速度与读取相同。

7.4 编址方式:地址位数、字节编址与对齐

地址先回答“给谁编号”:若每个地址对应 1 字节,n 位地址就能选中 2ⁿ 个字节。对齐则让多字节数据从便于硬件一次搬运的位置开始。

字节编址系统中,每个地址标识一个字节;字编址系统中,每个地址标识一个机器字。容量题必须先确认编址单位,再计算可寻址单元数量。

若有 N 个可寻址单元,至少需要 ⌈log₂N⌉ 位地址。数据总线宽度决定一次可传多少位,不直接等于地址位数。多字节对象按对齐规则放置可简化硬件并提高访问效率。

容量与地址

容量 = 可寻址单元数 × 每单元位数

若恰有 2ᵏ 个可寻址单元,需要 k 位片内地址。

例 7-4:1 MiB 字节编址主存需要多少地址位

1 MiB=2²⁰ Byte,共有 2²⁰ 个字节地址,因此需要 20 位地址。若数据总线为 32 位,只说明一次可传 4 字节,不把地址位数改成 18。

易错点与边界
  • KB 与 KiB 需区分;组成原理容量题常按 1 KiB=2¹⁰ B。
  • “32 位机器”可能指寄存器/ISA 位宽,不自动等于物理地址宽度或数据总线宽度。

7.5 大端与小端:多字节对象的字节顺序

字节序只讨论多字节对象的各个字节如何映射到递增地址。大端把最高有效字节放在最低地址,小端把最低有效字节放在最低地址。

字节序不改变一个字节内部位的权重,也不等于网络按位传输顺序。处理文件格式、网络协议、外设寄存器和跨平台序列化时必须使用规定字节序。

整数 0x12345678 从地址 0x1000 开始存放
地址大端字节小端字节
0x10001278
0x10013456
0x10025634
0x10037812
例 7-5:读取最低地址的一个字节

若 32 位整数 0x12345678 在小端机器从 0x1000 存放,则读取 0x1000 的单字节得到 0x78;读取整个 32 位对象仍得到 0x12345678。

易错点与边界
  • 不要把十六进制文本“12 34 56 78”的字符顺序与内存字节序混为一谈。
  • 同一系统可在外设或协议边界使用与 CPU 本地不同的规定顺序。

7.6 存储芯片扩展:位扩展、字扩展与片选

位扩展把多个芯片的数据位并联以增加每个字的宽度,所有芯片共享地址和读写控制;字扩展把芯片分成多组以增加字数,高位地址经过译码选择其中一组。字位同时扩展先确定每组多少片并联,再确定需要多少组。

芯片标注 M×N 表示 M 个字、每字 N 位。片内地址线数由 M 决定,系统高位地址用于片选;数据线并联数量由目标字长决定。

芯片数量

每组片数 = 目标字长 / 芯片字长

组数 = 目标字数 / 芯片字数

总片数 = 每组片数 × 组数

例 7-6:用 8K×8 芯片组成 32K×16

位宽从 8 扩到 16,每组需要 2 片;字数从 8K 扩到 32K,需要 4 组;总计 2×4=8 片。片内使用 13 位地址,额外 2 位高地址经 2→4 译码选择一组。

易错点与边界
  • 位扩展的芯片不能使用不同地址,否则拼不成同一个字。
  • 若目标容量不能整除芯片规格,还要考虑未用地址与译码。

7.7 主存时序与带宽:延迟、周期和传输率

访问时间是从发出有效请求到数据可用的延迟;存储周期还包括器件恢复到可接受下一独立操作的时间。突发传输先支付启动延迟,再连续传多个数据拍。

DDR 标称常使用 MT/s(每秒百万次传输),不是简单的核心时钟 MHz。理论带宽等于每次传输字节数乘传输率;实际有效带宽还要扣除刷新、命令、读写切换、行冲突和控制器调度。

理论峰值带宽

带宽 = 总线宽度(bit)/8 × 传输率(transfer/s) × 通道数

主存性能术语
术语回答的问题
首字延迟一次请求多久看到第一个数据
突发长度一次命令连续传多少数据
传输率数据总线每秒完成多少传输
理论带宽理想连续传输的上限
有效带宽真实负载扣除协议和冲突后的结果
例 7-7:64 位 DDR-3200 单通道理论带宽

64 位即 8 字节,数据率 3200 MT/s,所以理论峰值 8×3.2×10⁹=25.6 GB/s。这不是单次访问延迟,也不保证程序持续达到该值。

易错点与边界
  • 带宽高不等于随机访问延迟低。
  • 把 3200 MT/s 直接写成 3200 MHz 会混淆数据传输率与内部/外部时钟。

分层练习

  1. 比较:为什么 Cache 常用 SRAM、主存常用 DRAM?
  2. 地址:256 Ki×16 的芯片需要多少根片内地址线和数据线?
  3. 字节序:小端存放 0xA1B2C3D4,最低地址字节是什么?
  4. 扩展:用 16K×4 芯片组成 64K×16,需要多少片?
  5. 带宽:128 位总线、1600 MT/s 的单通道理论带宽是多少?
  6. 辨析:“一次可传 64 位,所以容量只需按 64 位字编址”是否成立?
查看练习答案
  1. SRAM 延迟低且无需刷新但密度低、成本高;DRAM 密度高、每位成本低但需刷新且时序复杂,适合大容量。
  2. 256 Ki=2¹⁸ 个字,需要 18 根地址线;每字 16 位,需要 16 根数据线。
  3. 0xD4。
  4. 位扩展每组 4 片,字扩展 4 组,总计 16 片。
  5. 128/8×1.6×10⁹=25.6 GB/s。
  6. 不成立。传输宽度与编址粒度是独立设计;常见系统仍按字节编址。

本章复盘

1
器件不同,目标不同:SRAM 追求低延迟,DRAM 追求密度,Flash 追求非易失。
2
容量题先定编址单位,再算地址线、数据线和片选。
3
字节序只排列字节,不改变对象的数学值。
4
主存性能分延迟与带宽,实际结果受行局部性和控制器调度影响。

进一步阅读

  • JEDEC DDR SDRAM 相关规范与器件数据手册:理解 MT/s、bank 和时序参数。
  • Patterson & Hennessy:存储层次与 DRAM 组织。
  • 目标处理器/ABI 文档:字节序、对齐与内存访问规则。

第 8 章 · Cache 高速缓冲存储器

处理器很快,主存却跟不上。Cache 的办法很朴素:把你刚用过、很可能马上再用的数据提前放到手边。

为什么循环第二遍常常更快?

第一遍可能要去主存搬数据,后面几遍却能在 Cache 中找到。接下来我们会把这种“熟路效应”精确到 tag、index 和 offset。

本章学习目标
  1. 用时间局部性和空间局部性解释 Cache 的有效性与失效场景。
  2. 根据容量、块大小和相联度划分 offset、index 与 tag。
  3. 计算单级和多级 AMAT,并明确 miss penalty 是否包含下一级访问。
  4. 比较替换算法、写直达/写回及写分配/非写分配。
先修知识与模型边界需要第 7 章的字节编址、主存延迟和带宽。本章先讨论单核数据/指令 Cache;多核一致性在第 17 章展开。

本章目录

本章知识路线
小节完成后你能做什么
8.1判断访问序列利用了哪种局部性
8.2说明一次命中比较需要哪些元数据
8.3计算直接映射、全相联和组相联的地址字段
8.4在明确代价定义后计算 AMAT
8.5说明 LRU、FIFO、随机和近似算法的适用范围
8.6组合命中写策略与写未命中策略
8.7计算两级 AMAT 并解释多级组织

8.1 局部性:Cache 命中的统计基础

时间局部性指刚访问的对象在近期可能再次访问,例如循环计数和热点函数;空间局部性指访问某地址后可能访问附近地址,例如顺序遍历数组和连续取指。Cache 以块为单位搬运,正是利用空间局部性。

局部性是程序与数据布局共同产生的统计规律,不是保证。随机指针追逐、远大于 Cache 的工作集、冲突严重的步长访问会降低命中率。

访问模式与局部性
模式主要局部性可能问题
循环反复读少量变量时间工作集过大时被替换
顺序扫描数组空间只用一次时仍会消耗带宽
按链表随机跳转较弱预取困难、每次可能新块
固定大步长跨行取决于布局组冲突和 TLB 压力
例 8-1:行优先遍历二维数组

C 风格行优先数组中,内层循环按列索引连续变化会顺序访问相邻元素,一次装入的 Cache 行可服务多次读取;交换循环次序后若步长很大,可能每次只用一行中的少量字节。

易错点与边界
  • 空间局部性不是“相邻地址一定命中”,还取决于块边界和容量。
  • 命中率高仍可能因未命中代价极大而性能不佳。

8.2 Cache 行:数据、标记、有效位与脏位

主存按块复制到 Cache 行。每行保存数据块和标记 tag;有效位说明该行是否包含可用副本;写回 Cache 还需脏位说明该副本是否比下一级更新。

地址低位选择块内字节,中间位选择组,高位 tag 与组内各路 tag 比较。命中还必须满足有效位为 1。ECC/奇偶、替换状态和一致性状态会增加更多元数据。

1
用 index 选择组。
2
并行比较各路 tag,同时检查有效位。
3
命中后选择对应路。
4
用 offset 选择块内字节/字。
5
未命中则向下一级请求并选择替换行。
例 8-2:tag 相等却为什么不能命中

复位后的 Cache 行数据和 tag 位可能是任意值。即使恰好与请求 tag 相等,只要有效位为 0,该行就不代表有效副本,必须按未命中处理。

易错点与边界
  • Cache 行是硬件槽位,主存块是地址空间中的数据块;二者不要混称。
  • offset 位不参与 tag 比较,因为一整块共享同一 tag。

8.3 映射方式与地址划分

把 Cache 想成寄存柜:offset 找柜内哪一格,index 找哪一组柜子,tag 核对柜子里是不是你要的那批数据。三段各有一项工作。

直接映射每个主存块只有一个候选行;全相联可放任意行;E 路组相联先由 index 选组,再在 E 路中任选。相联度越高通常越能减少冲突,但 tag 比较、命中选择和替换状态更复杂。

若 Cache 数据容量为 C、块大小 B、相联度 E,则组数 S=C/(B×E)。在 2 的幂次配置下,offset 位数是 log₂B,index 位数是 log₂S,其余为 tag。

组相联地址字段

组数 S=C/(B×E)

offset=log₂B,index=log₂S,tag=地址位数−offset−index

示例对应 64 B 行、64 组的 Cache。index 只负责选组,命中仍须比较该组各路的 tag 与有效位。

映射方式比较
方式候选位置替换选择
直接映射唯一行无路可选,直接覆盖候选行
E 路组相联一个组内 E 路在 E 路中选择
全相联所有行在所有行中选择
例 8-3:32 位地址、16 KiB、64 B 块、4 路

S=16384/(64×4)=64 组;offset=6 位,index=6 位,tag=32−6−6=20 位。

易错点与边界
  • 容量 C 通常指数据容量,不含 tag/有效位等元数据,题目若另有定义需遵从。
  • 全相联没有 index 字段,但仍有块内 offset。

8.4 命中率与平均访问时间 AMAT

AMAT 就是加权平均:每次都要付命中检查时间;只有未命中那一小部分,还要再付下一级代价。先写时间线,再写公式。

命中率是访问在该级找到数据的比例,未命中率为其补数。单级 Cache 常用 AMAT = HitTime + MissRate×MissPenalty。关键是题目中的 MissPenalty 是否指命中检查之后的额外代价。

平均值不能描述所有尾部延迟;一次未命中可能阻塞相关指令,乱序处理器也可能用其他工作隐藏部分延迟。AMAT 是基础模型,不自动等于程序停顿时间。

单级 AMAT

AMAT = 命中时间 + 未命中率 × 额外未命中代价

例 8-4:命中 1 ns,未命中率 5%,额外代价 60 ns

AMAT=1+0.05×60=4 ns。若题目把 60 ns 定义为“从访问开始到下一级完成”的总时间,则不能再次无条件加 1 ns,必须按时间线重写。

易错点与边界
  • 命中率 95% 不代表平均时间接近命中时间,需乘上 miss penalty。
  • 把百分数 5% 代入时应写 0.05。

8.5 替换算法:在一个组内选择牺牲者

发生未命中且目标组没有无效行时,需要选择一条旧行替换。LRU 尝试淘汰最久未使用的行,符合时间局部性直觉;FIFO 按装入时间;随机选择硬件简单,并在高相联度下有时表现良好。

精确 LRU 状态随相联度快速增长,现代高相联 Cache 常用树形伪 LRU、RRIP 等近似策略。直接映射没有替换选择问题。

替换策略
策略依据实现代价/特点
LRU最近使用顺序低相联可实现,路数高时代价大
FIFO进入组的先后不反映装入后的反复使用
随机伪随机选择状态少,结果有随机性
伪 LRU/RRIP近似近期或重用预测在硬件成本与命中率间折中
例 8-5:2 路组相联的 LRU

某组依次访问 A、B、A 后再装入 C。最近使用的是 A,B 最久未用,所以 LRU 替换 B。若 B 为脏行,写回策略还需先把 B 写到下一级。

易错点与边界
  • 替换算法只在同一候选组/集合内选择,不会任意淘汰整个 Cache 的一行。
  • 命中时是否更新替换状态由算法规定。

8.6 写策略:写直达、写回、写分配与非写分配

写命中时,写直达同时更新 Cache 和下一级存储,通常配写缓冲;写回只更新 Cache 并置脏位,替换脏行时才写下一级。这里应说“下一级”,因为多级 Cache 中不一定直接写 DRAM。

写未命中时,写分配先把块取入 Cache 再写;非写分配让写请求绕过该级。常见组合是写回+写分配、写直达+非写分配,但具体系统可有不同设计。

写策略的两个独立问题
问题选择主要代价
写命中如何传播写直达 / 写回下级流量 vs 脏位和替换写回
写未命中是否取块写分配 / 非写分配利用后续局部性 vs 避免读入不用的数据
写缓冲满怎么办停顿或合并写吞吐与一致性排序
例 8-6:写回+写分配的写未命中

先选择目标组的牺牲行;若牺牲行为脏,写到下一级;再取入目标块,修改其中字节并置脏。CPU 看见写完成的时间还取决于缓冲与一致性协议。

易错点与边界
  • 写回不是“永远不写下一级”,而是延迟到替换、显式清理或一致性需要时。
  • 部分写还要处理字节使能和合并。

8.7 多级 Cache:局部命中率、全局命中率与嵌入关系

L1 追求极低延迟,容量较小;L2/L3 容量更大,用于降低到主存的未命中比例。某级局部未命中率以“到达该级的访问”为分母,全局未命中率以“所有原始访问”为分母。

包含式要求上层块也存在于下层,便于某些探测但牺牲有效容量;排他式尽量让不同级保存不同块;非包含非排他不强制二者。现代系统的具体策略需看实现文档。

两级递归 AMAT

AMAT = T₁ + MR₁ × (T₂ + MR₂(local) × MemoryPenalty)

从未命中类型反推优化方向
Cache 未命中的来源与典型对策
类型为什么发生可能的改进
强制(冷)未命中数据块第一次被访问预取、增大块;但可能多搬无用数据
容量未命中活跃工作集超过可用容量增大 Cache、分块算法、缩小工作集
冲突未命中多个常用块竞争同一组提高相联度、改变布局/步长、victim cache
一致性未命中其他核心写入使本地副本失效减少共享写与伪共享、合理分片

预取只有在“及时且准确”时才有益:太早会占容量,太晚隐藏不了延迟,取错还会浪费带宽并挤出有用行。因此命中率下降不能只靠“把 Cache 做大”解释,应先判断未命中来源。

例 8-7:两级 AMAT

L1 命中时间 1 ns、未命中率 5%;到达 L2 后访问需 8 ns,L2 局部未命中率 20%;再到主存额外 80 ns。AMAT=1+0.05×(8+0.2×80)=2.2 ns。

易错点与边界
  • 不能把 L2 局部命中率直接当全局命中率。
  • 包含式、排他式描述块在各级的关系,不等于写策略。

分层练习

  1. 局部性:连续读取 4 字节整数数组主要利用哪种局部性?
  2. 划分:36 位地址、32 KiB、64 B 块、8 路,求 offset/index/tag。
  3. AMAT:命中 2 ns、未命中率 3%、额外代价 100 ns,AMAT?
  4. 替换:直接映射 Cache 需要 LRU 位吗?
  5. 写策略:写回 Cache 为什么需要脏位?
  6. 多级:L1 全局未命中率 10%,L2 局部未命中率 5%,到主存的全局比例是多少?
查看练习答案
  1. 空间局部性;若循环重复扫描同一小数组,也同时有时间局部性。
  2. 组数 32768/(64×8)=64,offset=6,index=6,tag=36−12=24 位。
  3. 2+0.03×100=5 ns。
  4. 不需要;每个块只有唯一候选行,没有路选择。
  5. 用来区分该副本是否被修改;替换干净行无需回写,脏行必须先更新下一级。
  6. 0.10×0.05=0.005,即 0.5%。

本章复盘

1
局部性提供命中概率,块大小、容量和相联度决定冲突与传输代价。
2
地址拆成 tag/index/offset,每一位都有具体查找职责。
3
AMAT 先画时间线,明确额外代价与局部未命中率。
4
写策略回答两个问题:命中如何传播、未命中是否分配。

进一步阅读

  • Patterson & Hennessy:Cache 映射、AMAT 与多级存储。
  • Intel/AMD/Arm 性能优化手册:真实 Cache 层次、预取和一致性提示。
  • Hill 的 3C 模型相关资料:强制、容量与冲突未命中。

第 9 章 · 虚拟存储器与地址翻译

每个程序都像住在自己的城市里,放心使用从 0 开始的地址;硬件和操作系统则在背后把这些“街道”映射到真实内存。

两个程序为何能使用同一个地址?

因为相同的虚拟地址可以被翻译到不同物理页。这个小魔术同时带来隔离、共享,也带来 TLB、页表和缺页异常。

本章学习目标
  1. 把虚拟地址拆成虚拟页号和页内偏移,并由页表项形成物理地址。
  2. 区分 TLB 未命中、页表未命中式遍历和缺页异常。
  3. 描述一次缺页从异常入口、分配/调页到重新执行指令的流程。
  4. 解释多级页表、保护位、ASID、大页和抖动的取舍。
先修知识与模型边界需要第 7、8 章的字节编址和 Cache。示例使用分页模型;具体页表级数、页大小、PTE 字段和 Cache/TLB 先后关系由 ISA 与微体系结构决定。

本章目录

本章知识路线
小节完成后你能做什么
9.1说明地址空间隔离、重定位和共享的价值
9.2计算页内偏移、VPN 与页表大小
9.3计算 TLB reach 并区分 TLB miss 与 page fault
9.4区分按需零页、写时复制、调页与非法访问
9.5比较分段的可见边界与分页的固定粒度
9.6根据 PTE 权限判断访问能否完成
9.7解释访问位、脏位、工作集和大页取舍

9.1 虚拟地址与物理地址:为什么要翻译

程序生成虚拟地址,内存管理单元(MMU)依据当前地址空间的页表把它翻译成物理地址,并同时检查读、写、执行和特权权限。指令取指与数据 load/store 通常都需要地址翻译。

映射让每个进程拥有独立、连续的虚拟视图,而物理页框可离散放置;不同虚拟页还可映射同一物理页以共享库或共享内存。虚拟地址位数和物理地址位数不必相同。

地址翻译解决的问题
需求映射提供的能力
隔离进程相同虚拟地址可映射不同页框
重定位程序无需知道实际物理位置
共享多个映射指向同一物理页框
保护PTE 权限参与每次访问检查
按需分配虚拟区域可先保留,访问时再分配物理页
例 9-1:两个进程都能使用虚拟地址 0x400000

进程 A 的页表可把它映射到页框 P1,进程 B 映射到 P9。上下文切换时硬件使用新的页表根或地址空间标识,因此相同虚拟地址访问不同物理内容。

易错点与边界
  • 虚拟内存不只是“用磁盘扩充内存”,隔离、共享和保护同样核心。
  • 物理地址通常不会直接暴露给普通用户程序。

9.2 分页与多级页表:VPN 查映射,offset 原样保留

翻译只换“页号”,不动“页内位置”:就像把“旧小区 3 号楼 502”搬到“新小区 8 号楼 502”,楼号变了,房间内的位置没变。

页大小为 2ᵖ 字节时,虚拟地址低 p 位是页内偏移,其余是虚拟页号 VPN。页表项给出物理页框号 PPN 和有效、权限、访问、脏等状态;物理地址由 PPN 与原 offset 拼接。

单级页表为每个可能 VPN 保留 PTE,稀疏地址空间会浪费大量内存。多级页表把 VPN 分段,只为实际使用的区域分配下级页表;代价是 TLB 未命中时可能多次访存。

地址拆分

VA = VPN || page_offset

PA = PPN || page_offset = PPN×page_size + page_offset

例 9-2:48 位虚拟地址、4 KiB 页

4 KiB=2¹² B,offset 为 12 位,VPN 为 36 位。若物理页框号为 PPN,则物理地址不是“PPN 加 offset”,而是拼接或计算 PPN×4096+offset。

易错点与边界
  • 页大小决定 offset 位数,不决定物理地址总宽度。
  • 多级页表减少的是页表内存占用,不一定减少一次 TLB miss 的遍历延迟。

9.3 TLB:缓存的是地址翻译

TLB 是页表项的高速缓存,常按 VPN 和地址空间标识查找,命中后直接得到 PPN 与权限。TLB reach 表示无需替换即可覆盖的虚拟内存范围,近似为条目数乘页大小(还要考虑多页大小和相联组织)。

TLB miss 只说明翻译不在 TLB,硬件或软件可遍历页表;若有效 PTE 存在,填入 TLB 后继续。Page fault 则说明页表状态需要操作系统介入,例如页不驻留、尚未分配或权限不允许。

TLB miss 与 page fault
事件页表中有效映射处理者典型代价
TLB miss可能有硬件页表遍历器或内核若 PTE 在 Cache 中可较快
缺页:页未驻留/未分配无驻留映射操作系统分配、清零、复制或 I/O
保护故障存在但权限不符操作系统信号、终止或特殊处理
例 9-3:64 项 TLB、4 KiB 页的 reach

不考虑重复与大页时,覆盖范围为 64×4 KiB=256 KiB。若程序工作集跨越数千个随机页,TLB 可能频繁替换,即使数据 Cache 容量仍足够。

易错点与边界
  • TLB 缓存页表翻译,不缓存普通程序数据。
  • 进程切换不一定必须清空整个 TLB,ASID/PCID 可区分地址空间。

9.4 缺页异常:不仅是“去磁盘找数据”

访问触发页故障后,硬件保存足够的异常原因和故障地址,进入内核。内核检查虚拟区域是否合法:可能分配一个清零页、执行写时复制、把后备存储中的页读入,或因非法地址/权限终止进程。

若需要替换物理页框,脏页可能先写回;更新 PTE 后还需使相关 TLB 项失效。最后恢复上下文并重新执行故障指令,使程序仿佛该访问只是变慢。

1
硬件检测:PTE 不驻留或权限不满足。
2
精确进入内核:记录故障地址、访问类型和 PC。
3
内核验证区域:决定分配、复制、调入或报错。
4
准备页框:必要时替换并回写脏页。
5
更新 PTE/TLB:建立可用映射。
6
重新执行:让原指令再次发起访问。
例 9-4:写时复制故障

fork 后父子进程可共享只读映射。某一方首次写入时发生保护型页故障,内核复制物理页并把写者 PTE 指向新页,再恢复写指令;不需要从磁盘读取原页。

易错点与边界
  • 缺页可能完全不涉及磁盘。
  • 非法地址造成的 fault 不能通过“调入页面”修复。

9.5 分段与段页式:逻辑区域和固定页框

分段把地址表示为段号与段内偏移,每段具有基址、界限和权限,适合表达代码、数据、栈等逻辑区域;外部碎片与段长变化使纯分段管理复杂。

段页式先由段选择页表或地址空间区域,再按页完成物理映射。现代通用系统多以分页为主,分段支持程度依 ISA;例如 64 位环境中的传统分段可能被弱化,但保护区间和虚拟内存区域概念仍存在。

分段与分页
维度分段分页
单位大小可变,反映逻辑对象固定页大小
地址组成段号+段内偏移VPN+页内偏移
碎片可能外部碎片页内内部碎片
程序可见性某些 ISA 可见通常由硬件/OS 管理,程序看到连续 VA
例 9-5:段界限检查

段基址 0x8000、界限 0x1000,段内偏移 0x0FF0 合法并形成线性地址 0x8FF0;偏移 0x1200 超出界限,应产生保护异常,而不是访问基址加偏移。

易错点与边界
  • 不要把“进程的代码段/数据段”这一软件区域名称与硬件分段机制完全等同。
  • 分页消除外部碎片但仍有页内浪费和页表开销。

9.6 存储保护:R/W/X、特权与精确异常

页表项通常包含可读、可写、可执行和用户/特权访问等权限。MMU 把访问类型、当前特权级与 PTE 比较,违规时产生同步异常。NX/XN 等不可执行位可阻止把数据页直接作为指令取出。

权限不仅存在于页表,还可能受更高层级页表项、内存保护键、虚拟化第二阶段翻译和设备 IOMMU 共同约束。修改权限后需正确维护 TLB 一致性。

访问与典型权限
访问所需条件失败表现
取指映射有效且允许执行指令访问故障
load映射有效且允许读读访问故障
store映射有效且允许写写保护/COW/非法访问故障
用户态访问内核页用户权限允许特权保护故障
例 9-6:为什么 W^X 有意义

安全策略可要求页面“可写或可执行,但不同时具备两者”。生成代码时先用可写映射填充,再切换为只读可执行,降低任意数据被当作代码执行的风险。

易错点与边界
  • 权限异常与页不驻留都可能表现为 page fault 类入口,但原因和处理不同。
  • 只设置页表权限不替代程序语言和边界检查。

9.7 操作系统、页替换与抖动

操作系统建立页表、分配页框并依据访问/脏信息决定回收。理想 LRU 需要完整历史,实际常用 Clock/二次机会、工作集近似等策略。脏页回收前需写后备存储,干净文件页可直接丢弃后再读。

当活跃工作集远大于可用物理页框,系统会频繁缺页和 I/O,形成抖动。大页能增加 TLB reach、减少页表层级,却增加内部碎片、分配难度和一次缺页/迁移的数据量。

页管理状态
状态用途
Accessed/Referenced近似判断近期是否使用
Dirty判断回收前是否需要写回
Present/Valid区分驻留映射与需异常处理
Copy-on-write共享只读,首次写时复制
Huge page用更大页减少 TLB/页表压力
例 9-7:随机访问超大数组为何慢

若每次访问落到新页且工作集超过 TLB reach,先产生大量 TLB miss;若又超过物理内存,进一步触发缺页与换入换出。Cache、TLB 和页替换可能同时成为瓶颈。

易错点与边界
  • 页替换算法讨论的是物理页框管理,不等同于 Cache 行替换。
  • 更多虚拟地址空间不等于更多物理内存。

分层练习

  1. 划分:32 位虚拟地址、4 KiB 页,VPN 和 offset 各几位?
  2. 页表:若单级页表有 2²⁰ 项、每项 4 B,总大小多少?
  3. TLB:128 项 TLB、16 KiB 页,忽略多页大小时 reach 是多少?
  4. 辨析:TLB miss 是否必然访问磁盘?
  5. 保护:对只读可执行页执行 store 会发生什么?
  6. 地址:页大小 4 KiB,PPN=0x12345,offset=0x678,物理地址?
查看练习答案
  1. offset=12 位,VPN=20 位。
  2. 2²⁰×4 B=4 MiB。
  3. 128×16 KiB=2 MiB。
  4. 不。若页表存在有效驻留映射,只需页表遍历并填充 TLB;磁盘只在某些非驻留页故障中参与。
  5. 权限检查失败并产生同步写访问故障;OS 可能处理 COW,或报告非法访问。
  6. 0x12345×0x1000+0x678=0x12345678。

本章复盘

1
地址翻译保持 offset,VPN 通过页表/TLB 变成 PPN。
2
TLB miss 不等于缺页,先看页表是否有有效驻留映射。
3
缺页原因多样:调盘、零填充、COW、权限和非法地址必须区分。
4
硬件与 OS 共同完成虚存:MMU 快速检查,内核管理映射和页框。

进一步阅读

  • 目标 ISA 特权规范:页表格式、TLB 行为与异常原因。
  • 操作系统教材中的虚拟内存章节:按需分页、COW、替换与抖动。
  • 处理器优化手册:大页、TLB reach 和地址翻译性能。

第五部分 · 控制单元与指令执行

第 10 章 · 控制单元与微程序控制

数据通路像舞台上的演员和道具,控制单元则像舞台监督:这一拍谁上场、哪扇门打开、下一幕去哪里,都由它安排。

控制信号早一拍或晚一拍会怎样?

即使逻辑表写对了,时序错位也会让数据写进错误位置。本章用硬布线与微程序两条路线解释“指挥”是怎样实现的。

本章学习目标
  1. 由指令、状态和条件信号推导寄存器、ALU、存储器的控制输出。
  2. 把指令执行写成有依赖关系的微操作与状态转换。
  3. 比较硬布线有限状态机和微程序控制器的结构与代价。
  4. 计算微指令字段宽度,并解释水平型、垂直型和下地址形成。
先修知识与模型边界需要第 4、6 章的数据通路和时钟基础。本章以同步多周期控制为主;流水线控制、冒险和乱序提交在第 11 章讨论。

本章目录

本章知识路线
小节完成后你能做什么
10.1列出控制器需要观察和驱动的信号
10.2判断微操作之间的先后与资源冲突
10.3用状态机处理固定延迟和可变延迟部件
10.4从状态转移表形成控制逻辑
10.5画出 CAR、控制存储器、MIR 与微地址序列器
10.6计算控制字段位宽并比较并行度
10.7解释顺序、条件转移、分派和微子程序
10.8识别毛刺、亚稳态、重复提交和无效组合

10.1 控制器接口:输入状态,输出动作

控制器的输入包括指令操作码/功能字段、当前控制状态、ALU 条件、异常/中断请求和外部 ready 信号;输出包括寄存器写使能、多路选择、ALU 功能、存储读写和下一状态。

控制逻辑必须保证互斥资源不被冲突驱动、写使能只在数据稳定时有效,并在等待存储器或外设时保持/停顿适当状态。

控制器输入与输出
方向信号示例决定什么
输入opcode、funct当前是哪类指令
输入Zero、Carry、比较结果条件分支与后续状态
输入ready、异常、中断是否等待或转入处理流程
输出RegWrite、MemWrite哪些状态元件更新
输出ALUSrc、PCSrc、ResultSrc数据路径选择
输出ALUControl、NextState执行功能和控制时序
例 10-1:store 的关键控制

读取 base 和待写数据,选择符号扩展偏移作为 ALU 第二输入,ALU 做地址加法,存储写使能有效,通用寄存器写使能关闭。若存储接口未 ready,控制器不能提前结束。

易错点与边界
  • 控制信号名称是数据通路设计的一部分,并非 ISA 固定名称。
  • 组合控制输出也必须满足毛刺与时序约束,不能只看布尔功能。

10.2 微操作与数据依赖:哪些动作能同拍发生

能否同拍,看资源也看先后:两件事若争用同一个部件,或后一件必须等前一件结果,就不能强行并行;否则可以在同一时钟周期发生。

微操作描述寄存器传送和组合变换,例如 Y←R1、Z←Y+R2。若后一操作读取前一操作的新值,而寄存器都在同一边沿更新,就必须经过组合旁路或分成不同节拍。

可并行微操作需要源值在周期开始时可用、目标不冲突、所需端口足够且组合路径满足时钟。RTL 中用逗号写在一拍不自动证明硬件可并行。

微操作并行性检查
检查项问题
数据依赖是否读取同拍才产生的新值
目标冲突是否有两个结果写同一寄存器
结构端口寄存器堆/存储器端口是否足够
总线驱动共享通路是否只有一个源
关键路径组合逻辑是否能在周期内稳定
例 10-2:MAR←PC, PC←PC+4 能否同拍

若 PC 可同时送 MAR 和加法器,且 MAR、PC 在周期末分别写入,则二者读取的都是周期开始时的旧 PC,可同拍完成。若只有单总线且加法器占用同一通路,需按具体端口判断。

易错点与边界
  • 寄存器的同步写通常在边沿生效,同拍其他逻辑默认读旧值。
  • “无数据依赖”不代表无结构冲突。

10.3 时序系统:时钟、状态与握手

同步控制在时钟边沿更新状态,周期内组合逻辑计算输出和下一状态。时钟周期必须覆盖最坏组合延迟、时钟偏差以及寄存器建立时间。

存储器、总线和外设可能具有可变延迟,控制器应等待 ready/valid 或完成信号,而不是假设固定一拍返回。等待期间要保持请求和必要状态,避免重复写入。

1
IDLE:准备并锁存请求参数。
2
REQUEST:发出有效请求。
3
WAIT:保持状态直到 ready/response。
4
COMPLETE:锁存结果并产生一次完成脉冲。
例 10-3:Cache miss 时多周期机如何等待

取指状态发出地址后若存储器未 ready,PC 和 IR 写使能保持关闭并停在等待状态;响应到达的那一拍才装入 IR、更新 PC 并转到译码。

易错点与边界
  • 把异步到达的外部信号直接送入同步状态机可能产生亚稳态,需要同步或握手。
  • 完成信号若持续多拍,写使能必须保证只提交一次。

10.4 硬布线控制器:组合译码加有限状态机

硬布线多周期控制器把“当前状态、指令类别、条件输入”映射为“控制输出、下一状态”。设计流程通常先画状态图/表,再编码状态并综合组合逻辑。

规则数据通路可获得短而直接的控制路径,但指令和异常增多后,状态与转移迅速膨胀。修改 ISA 或修复逻辑通常需要重新设计和验证硬件。

简化多周期状态示例
状态主要动作下一状态
FETCH取指并形成顺序 PCDECODE 或等待
DECODE读寄存器、生成立即数按 opcode 分派
EXEC_ALU执行算术WRITEBACK
EXEC_ADDR计算访存地址MEMORY
MEMORY等待 load/storeWRITEBACK 或 FETCH
WRITEBACK写目标寄存器FETCH
例 10-4:分支状态的条件转移

状态机在 BRANCH 状态让比较器产生条件;若成立,PCSrc 选择分支目标并使能 PC 写,否则保留顺序 PC;两条路径都返回 FETCH。

易错点与边界
  • 状态编码(二进制、独热等)影响面积和速度,但不改变抽象状态语义。
  • 组合输出随输入变化时要避免在错误时刻触发状态写。

10.5 微程序控制器:用控制存储器保存控制字

微程序控制器把一拍所需控制信号编码为微指令,存入控制存储器。控制地址寄存器(CAR)选择微指令,微指令寄存器(MIR)保存当前控制字,微地址序列器决定下一地址。

一条机器指令通常对应一个微程序入口和若干微指令。微码属于处理器内部实现;更新微码可以修复部分控制问题,但不能任意改变软件依赖的 ISA 语义。

1
映射入口:opcode 选择微程序起始地址。
2
读控制存储器:CAR 指定当前微指令。
3
发出控制字段:MIR 驱动数据通路。
4
形成下地址:顺序、条件分支、调用或返回。
5
结束/分派:回到取指微程序或另一入口。
例 10-5:load 的微程序轮廓

取指微程序完成 IR 和 PC 更新;load 入口依次完成读寄存器/扩展立即数、地址加法、存储读等待和寄存器写回,最后跳回公共取指入口。

易错点与边界
  • 控制存储器通常保存微指令,不是普通程序可访问的主存。
  • 一条机器指令不一定固定对应同样数量微指令,条件与等待可改变路径。

10.6 微指令格式:水平型、垂直型与字段编码

水平型微指令为许多控制信号提供独立位,控制字宽、译码少,可同时激活多个不冲突动作;垂直型把互斥控制信号编码成字段,控制字窄但需译码,并行能力受字段划分限制。

实际设计常采用混合编码:把不能同时发生的操作放在同一编码字段,把关键独立控制保留为直接位。还需给下地址、分支条件和微程序控制分配字段。

互斥字段位宽

若一个字段需选择 N 种互斥操作,并额外需要“不操作”,位数至少为 ⌈log₂(N+1)⌉。

微指令编码取舍
方案控制字译码/并行
水平型宽译码少,并行控制直接
垂直型窄需译码,字段内操作互斥
混合型折中按资源冲突分组编码
例 10-6:8 种 ALU 操作加“不操作”

共 9 种选择,需要 ⌈log₂9⌉=4 位。若“不操作”可由另一个总使能表示,编码方案可能不同,必须按题目定义。

易错点与边界
  • 不能仅按控制信号总数判断水平/垂直格式,关键是是否编码和能否并行。
  • 字段中未使用编码应定义安全行为或作为保留。

10.7 微程序入口与下地址形成

下一微地址可以是 CAR+1、微指令给出的显式地址、由 opcode 映射得到的入口,或由条件选择的两个候选。复杂控制还可能支持微子程序调用/返回。

入口映射不一定把 opcode 直接当完整地址,可通过映射 ROM、拼接固定前缀或分发表压缩空间。下地址逻辑会影响控制周期关键路径。

下地址来源
来源用途
CAR+1顺序执行微指令
微指令地址字段无条件跳转/公共流程
条件选择根据 Zero、ready、异常等分支
opcode 映射进入机器指令对应微程序
微返回栈/寄存器复用公共微子程序
例 10-7:等待存储响应

微指令测试 ready:为 0 时下地址仍指向 WAIT,自循环并保持请求;为 1 时跳到接收数据的微地址。这样延迟可变而不会固定浪费最大等待拍数。

易错点与边界
  • 条件分支字段和下地址字段占用控制字位宽。
  • 自循环等待时必须避免重复产生一次性副作用。

10.8 控制信号同步与安全默认值

控制输出若直接由多级组合逻辑生成,输入变化可能产生短暂毛刺。对寄存器写使能、存储写和时钟门控等关键控制,应采用同步设计、稳定译码和经过验证的时序。

跨时钟域信号需同步器、握手或异步 FIFO。复位和非法状态应进入安全路径:关闭写使能、报告故障或回到已知状态,而不是让未定义编码驱动数据通路。

控制可靠性问题
问题风险常用措施
组合毛刺误写寄存器/存储同步使能、无毛刺逻辑、时序约束
亚稳态状态不确定双触发器同步、握手、异步 FIFO
非法状态错误控制组合安全默认输出、状态恢复/错误报告
重复完成同一事务提交多次单周期完成脉冲、请求/响应编号
例 10-8:异步中断请求如何进入状态机

若请求来自异步时钟域,先经同步器降低亚稳态传播概率,再由同步后的电平/边沿置位待处理中断状态;直接把异步线接到状态转移逻辑可能破坏时序。

易错点与边界
  • 仿真中没有出现毛刺不代表门级和布线后一定安全。
  • 复位值、保留编码与异常路径同样属于控制器功能。

分层练习

  1. 控制:普通 store 应如何设置 RegWrite 与 MemWrite?
  2. 微操作:R1←R2 与 R2←R1 能否同拍交换?
  3. 状态机:可变延迟存储器为什么需要 WAIT 状态?
  4. 编码:字段需表示 12 种互斥操作和 1 种空操作,至少几位?
  5. 微地址:微程序条件分支至少需要哪三类信息?
  6. 可靠性:为什么跨时钟域单比特控制常使用双触发器同步?
查看练习答案
  1. 通常 RegWrite=0、MemWrite=1;同时地址生成和写数据源选择必须正确。
  2. 若两个寄存器在同一边沿各自读取旧值且有独立通路/端口,可以;单总线结构通常需要临时寄存器和多拍。
  3. 请求发出后返回时间不固定,控制器需保持必要状态并等待 ready,避免提前使用无效数据。
  4. 共 13 种,需 ⌈log₂13⌉=4 位。
  5. 被测试的条件选择、成立/不成立时的下地址来源,以及相应地址或形成规则。
  6. 降低第一级亚稳态传播到后续同步逻辑的概率;它不适合直接保证多位数据一致性。

本章复盘

1
控制器把状态映射为动作,输出必须同时满足功能和时序。
2
微操作先查依赖和资源,能写在一行不代表能同拍实现。
3
硬布线与微程序各有取舍,现代实现常混合使用。
4
异常、等待和非法状态是主路径的一部分,不能只设计理想时序。

进一步阅读

  • Harris & Harris:有限状态机、RTL 与控制器设计。
  • Patterson & Hennessy:多周期控制和微程序思想。
  • CDC 与同步数字设计资料:亚稳态、握手和安全控制。

第 11 章 · 指令流水线

洗衣、烘干、折叠不必等一批衣服全部结束才开始下一批。处理器也让多条指令分别占据不同阶段,用重叠换取吞吐率。

为什么“同时做更多”反而要停顿?

后一条指令可能急着使用前一条尚未算出的结果,分支也可能让已经取来的指令全部作废。冒险正是流水线速度的代价。

本章学习目标
  1. 计算理想流水线执行时间、吞吐率、加速比与效率,并写出成立条件。
  2. 在经典五级流水中标出每条指令的 IF/ID/EX/MEM/WB 时空位置。
  3. 识别结构冒险、RAW/WAR/WAW 数据冒险和控制冒险。
  4. 解释转发、停顿、预测、寄存器重命名、调度和 ROB 的职责。
先修知识与模型边界需要第 5、6 章的指令语义和数据通路。本章先用单发射、顺序五级流水建立模型,再扩展到超标量乱序;公式必须结合阶段均衡、无停顿等假设。

本章目录

本章知识路线
小节完成后你能做什么
11.1解释流水线为何提高吞吐但增加寄存器开销
11.2把算术与访存指令放入时空表
11.3在有限任务数和停顿条件下计算性能
11.4识别端口不足并选择复制、分时或停顿
11.5从读写集合判断数据相关,并说明顺序五级中为何主要是 RAW
11.6计算分支解析时机和错误预测惩罚
11.7为 ALU 相关和 load-use 相关选择旁路或停顿
11.8解释重命名、调度、执行和按序提交

11.1 流水化:延迟与吞吐要分别计算

把组合工作切成 k 个阶段并在阶段间加入流水寄存器后,多项任务可同时占据不同阶段。第一项仍要经过所有阶段,流水填满后才可能按启动间隔连续完成。

时钟周期受最慢阶段组合延迟加流水寄存器开销限制。阶段不均衡、寄存器建立/时钟开销和冒险停顿都会让实际加速低于理想值。

理想 k 段流水

若每段一周期、单发射、无停顿,n 项任务需 k+n−1 个周期。

Tclk ≥ max(各段组合延迟)+流水寄存器开销

例 11-1:5 段流水执行 100 条指令

理想需要 5+100−1=104 周期;非流水逐条完成若每条 5 个相同阶段,则需 500 个阶段周期。理想加速比 500/104≈4.81,尚未达到 5。

易错点与边界
  • 流水级数增加会增加寄存器、时钟和分支恢复开销。
  • 吞吐提高不保证单条指令从开始到完成更快。

11.2 经典五级流水:IF、ID、EX、MEM、WB

先记动作,不背缩写:取来指令、读懂并取操作数、执行或算地址、访问数据存储器、把结果写回。五个英文缩写只是这五步的标签。

经典教学模型把取指、译码/读寄存器、执行/地址生成、数据存储访问和寄存器写回分为五级。算术指令在 MEM 级可能只是传递结果,store 在 WB 级通常不写通用寄存器。

每级之间的流水寄存器保存该指令后续所需的数据和控制位。五级名称是模型,不代表现代 CPU 只有五个内部阶段。

两条无相关算术指令的理想时空表
指令周期1周期2周期3周期4周期5周期6
I1IFIDEXMEMWB—
I2—IFIDEXMEMWB
例 11-2:load 的五级职责

IF 取指,ID 读 base 并扩展偏移,EX 计算有效地址,MEM 读取数据 Cache,WB 把数据写入目标寄存器。任一级遇到未命中或相关都可能停顿。

易错点与边界
  • MEM 级不意味着每条指令都访问数据内存。
  • 流水寄存器必须把目标寄存器号和写使能一起向后传。

11.3 流水线性能:加速比、吞吐率与效率

吞吐率是单位时间完成的任务数;加速比比较非流水与流水总时间;效率常定义为实际加速比除以流水级数,反映各级利用程度。有限 n 时填充和排空开销不能忽略。

若总停顿 S 个周期,单发射流水执行 n 条指令的周期数可写成 k+n−1+S。平均 CPI 在长程序中近似 1+S/n,但要统一起止计数约定。

理想与含停顿模型

Speedup = Tnonpipe / Tpipe

Efficiency = Speedup/k

Cycles = k+n−1+stall_cycles

例 11-3:100 条指令额外停顿 20 周期

五级流水总周期 5+100−1+20=124。相对每条 5 周期的非流水 500 周期,加速比约 4.03,效率约 4.03/5=80.6%。

易错点与边界
  • 不同设计的时钟周期可能不同,不能只比较周期数。
  • 效率定义需按教材/题目约定,部分资料采用阶段忙碌比例。

11.4 结构冒险:同一拍争用同一资源

结构冒险发生在同一周期多条指令需要同一不可并行资源,例如统一单端口存储器同时被 IF 取指和 MEM 级 load 使用,或写回端口不足。

解决方式包括复制/分离资源、增加端口、安排不同阶段使用,或插入停顿。增加硬件会提高面积、功耗和关键路径复杂度,因此不是所有冲突都值得完全消除。

结构冲突及缓解
冲突缓解
取指与数据访存争单端口存储器分离 I/D Cache、双端口或停顿
多条指令同拍写寄存器增加写端口、错开发射/写回
乘法器不可流水且被占用等待、复制单元或改为流水实现
发射带宽不足限制每拍发射数
例 11-4:统一单端口存储器

当 I1 的 load 处于 MEM 级时,I4 同周期想在 IF 级取指。单端口只能服务一个请求,必须让 IF 停顿或采用独立指令/数据通路。

易错点与边界
  • 转发解决数据值可用性,不能增加被争用的硬件端口。
  • 资源存在不等于无冲突,还要看端口数和启动间隔。

11.5 数据冒险:RAW、WAR 与 WAW

RAW(读后写)是真数据依赖:后指令读取前指令尚未产生的值。WAR(写后读)和 WAW(写后写)是名字相关,通常在乱序执行或不同延迟写回时出现,可用寄存器重命名消除。

经典单发射顺序五级在 ID 顺序读、WB 顺序写,通常主要处理 RAW;不能据此说所有流水线只有 RAW。内存地址别名还会产生 load/store 相关。

三类寄存器数据冒险
类型指令关系本质
RAWI1 写 R,I2 后读 R真实数据依赖,不能消除,只能等待或转发
WARI1 读 R,I2 后写 R名字相关,可重命名
WAWI1 写 R,I2 后写 R名字相关,需保持最终写顺序或重命名
例 11-5:RAW 依赖

add x5,x1,x2 后紧跟 sub x6,x5,x3。sub 的 EX 需要新 x5;若等到 add 的 WB 才读会停顿,若 EX/MEM 结果可旁路到下一条 EX,则可转发。

易错点与边界
  • 数据相关是程序语义关系,冒险是具体流水时序下会否拿到错误值。
  • 两个指令都读同一寄存器不是冒险。

11.6 控制冒险:下一 PC 尚未确定

条件分支的方向和目标未确定时,取指前端不知道下一 PC。等待解析会留下空泡;预测方向和目标可继续取指,但预测错误时必须撤销错误路径上的未提交指令。

惩罚取决于分支在哪一级解析、前端到解析点的距离、发射宽度和恢复机制。提前比较、分支目标缓冲器(BTB)、返回地址栈和方向预测器分别解决不同部分。

控制预测结构
结构预测内容
方向预测器条件分支取/不取
BTB已预测跳转的目标地址
返回地址栈函数返回目标
间接分支预测寄存器/内存给出的动态目标
例 11-6:分支在 EX 级才确定

分支进入 EX 时,后面可能已有位于 ID 和 IF 的两条年轻指令。若预测错误,经典五级模型通常需冲刷这些错误路径指令,形成约两周期前端损失;具体计数依设计。

易错点与边界
  • BTB 主要给目标,方向预测器主要给取/不取,二者不要混为一个概念。
  • 预测执行不能让错误路径的架构状态提前提交。

11.7 转发、停顿与分支预测协同

转发把尚未写回寄存器堆的结果直接送到后续执行级输入,缩短 RAW 等待。冒险检测单元比较流水寄存器中的源/目标寄存器和写使能,选择旁路或冻结 PC/IF-ID 并插入空操作。

经典五级流水中,ALU 结果通常在 EX 末可转发给下一条 EX;load 数据要到 MEM 末才得到,紧随其后的消费者往往仍需停顿一周期,再从 MEM/WB 转发。

1
比较源与在途目标。
2
若结果已产生:选择 EX/MEM 或 MEM/WB 旁路。
3
若结果尚未产生:冻结前级并向执行级插入气泡。
4
结果可用后:解除停顿并转发。
例 11-7:load-use 冒险

lw x5,0(x1) 后紧跟 add x6,x5,x2。add 原计划在 load 的 MEM 同周期进入 EX,但数据到 MEM 末才就绪,典型五级流水需停一拍,然后转发。

带转发的 load-use 周期表(ST 表示停顿,· 表示尚未进入或已经离开)
指令12345678
lw x5,0(x1)IFIDEXMEMWB···
add x6,x5,x2·IFIDSTEXMEMWB·
后一条独立指令··IFSTIDEXMEMWB

第 4 周期冻结 PC 和 IF/ID,同时向 EX 插入气泡;load 数据在第 4 周期末得到,第 5 周期可转发给 add 的 EX 输入。若存储器未命中,停顿会超过一拍。

易错点与边界
  • 有转发不代表所有 RAW 都零停顿。
  • 插入气泡应关闭副作用控制,不能让空操作误写寄存器或内存。

11.8 超标量与乱序执行:寻找指令级并行

超标量处理器每周期可取、译码、发射和完成多条指令;乱序调度让就绪的年轻指令绕过等待数据的旧指令执行。寄存器重命名消除 WAR/WAW,保留站或调度队列追踪操作数就绪。

重排序缓冲区(ROB)按程序顺序提交结果,使异常看起来发生在精确的指令边界。load/store 队列还要处理内存相关和次序。性能受真实依赖、分支预测、窗口大小、执行端口和存储延迟共同限制。

1
取指/译码:形成内部微操作。
2
重命名:为目标分配物理寄存器,消除名字相关。
3
调度/发射:操作数就绪且端口可用时执行。
4
完成/写回:结果广播给依赖者。
5
按序提交:更新架构映射并处理精确异常。
例 11-8:为什么后面的独立加法能先执行

旧 load 等待 Cache miss 时,后面的加法若不依赖该 load,重命名后可使用空闲 ALU 执行;但其架构结果仍在 ROB 中等待,不能越过可能产生异常的旧指令随意提交。

易错点与边界
  • 乱序执行不等于乱序提交。
  • 寄存器重命名不能消除 RAW 真依赖,也不能自动解决内存别名。

分层练习

  1. 周期:7 段理想流水执行 50 条指令需多少周期?
  2. 时钟:阶段延迟为 180、150、220、170 ps,流水寄存器开销 30 ps,时钟周期至少多少?
  3. 结构:IF 和 MEM 同拍争用单端口存储器属于什么冒险?
  4. 相关:I1: add x1,...;I2: add x1,... 属于哪类名字相关?
  5. load-use:为什么 EX 到 EX 的转发不能完全解决紧邻 load-use?
  6. 乱序:ROB 如何支持精确异常?
查看练习答案
  1. 7+50−1=56 周期。
  2. max=220 ps,加开销得至少 250 ps。
  3. 结构冒险。
  4. 两条都写 x1,属于 WAW;顺序五级按序写可能不形成实际冒险,乱序完成时需处理。
  5. load 的值通常到 MEM 末才产生,消费者原定 EX 开始时尚不可用,因此需至少停顿到值产生。
  6. 结果先暂存,按程序顺序提交;发生异常时只保留更老已提交状态,撤销异常及更年轻指令。

本章复盘

1
流水提高吞吐,时钟受最慢级加寄存器开销限制。
2
三类冒险分开处理:资源冲突、数据可用性、下一 PC。
3
转发不万能,load-use 和长延迟仍需停顿或动态调度。
4
乱序执行、按序提交,用重命名和 ROB 维持 ISA 语义。

进一步阅读

  • Patterson & Hennessy:经典五级流水、冒险与性能。
  • Hennessy & Patterson, Computer Architecture: A Quantitative Approach:超标量与乱序。
  • 目标处理器优化手册:端口、延迟、吞吐和分支预测的实际数据。

第六部分 · 总线、I/O 与中断系统

第 12 章 · 总线与互连系统

CPU、内存、显卡和硬盘不会隔空配合。它们需要道路、交通规则和地址系统;总线与互连就是计算机内部的交通网。

PCIe x16 为什么不保证程序快 16 倍?

车道多只是提高理论运力,真正速度还受分组开销、设备处理能力和拥塞影响。先分清带宽、延迟与吞吐,数字才有意义。

本章学习目标
  1. 区分片内、内存和 I/O 互连,并说明共享总线与交换网络的差别。
  2. 用事务阶段分析地址、数据、控制与响应,而不机械套固定时序。
  3. 计算理论带宽和有效带宽,识别编码、协议、仲裁与等待开销。
  4. 解释集中/分布式仲裁、同步时序、异步握手和 PCIe lane。
先修知识与模型边界需要地址、时钟和主存带宽概念。第 12.1—12.6 先用传统总线建立协议思维,第 12.7 单独讲 PCIe;两种模型不能混用独立地址/数据线和分组链路术语。

本章目录

本章知识路线
小节完成后你能做什么
12.1说明共享总线、点对点链路和交换网络的适用场景
12.2按距离、端点和协议给互连分类
12.3从事务语义理解传统信号线和分组字段
12.4计算理论带宽并从协议效率得到有效带宽
12.5比较集中式、分布式、固定优先级和轮转策略
12.6用时钟采样或请求/应答描述数据有效性
12.7按 lane 数、传输率和编码效率估算 PCIe 带宽

12.1 总线与互连:共享道路只是一个模型

总线传统上指多个部件共享的一组信号线和协议,同一时刻通常只有一个主设备发起事务。共享能减少连线,但设备增多后电气负载、仲裁与带宽争用限制扩展。

现代系统大量使用点对点链路和交换结构:每条链路连接有限端点,交换机按地址/路由转发多个并发事务。广义教材仍把它们归入“互连”,但分析时应说明拓扑和协议。

互连拓扑比较
拓扑优势限制/场景
共享总线连线少、协议直观争用明显,适合规模较小
点对点电气简单、可高速双向多设备需更多链路或交换机
交叉开关/交换网络多个不冲突事务可并行面积、路由和缓冲复杂
片上网络 NoC可扩展到许多片上节点路由延迟、拥塞和一致性设计
例 12-1:为什么设备增加后共享总线不线性扩展

所有设备争用同一传输资源,总带宽不会随设备数增加;仲裁等待上升,更多挂载还增加电容负载并限制信号频率。

易错点与边界
  • “总线”在不同资料中可能泛指所有互连,也可能专指共享并行线,需看上下文。
  • 连接更多设备不等于总吞吐自动增加。

12.2 片内、内存与 I/O 互连

片内互连连接核心、Cache、内存控制器和加速器;内存通道连接控制器与 DRAM;I/O 互连连接主机与设备或外部控制器。分类反映性能、电气和一致性要求,而不是三套永不交叉的线路。

同一数据路径可能跨越多种互连:CPU 的存储请求先走片上网络到 LLC/内存控制器,再经 DRAM 通道;网卡 DMA 先走 PCIe,再进入片上 I/O/内存网络。

互连层次
层次典型端点关注点
核心内部流水级、执行单元、寄存器极低延迟和高端口并行
片上互连核心、LLC、控制器、加速器一致性、路由、服务质量
内存通道内存控制器、DRAM rank/bank时序、行命中、刷新、带宽
I/O 互连根复合体、交换机、设备枚举、事务、错误与隔离
例 12-2:一次网卡 DMA 写主存

网卡通过 PCIe 发出内存写事务,根复合体把请求送入片上互连,IOMMU 可先做地址/权限检查,最后由内存控制器写 DRAM,并与 Cache 一致性策略协同。

易错点与边界
  • 系统中“总线频率”不是一个统一全局时钟。
  • DMA 路径可能跨多个互连和地址翻译单元。

12.3 地址、数据、控制与响应

传统并行总线可把信号分为地址线、数据线和控制线:地址选择目标位置,数据线传位,控制线说明读写、字节使能、请求、应答和错误。地址和数据可在不同阶段复用同一组物理线。

分组互连把这些语义编码在包头、载荷和完成包中,不存在一组永久独立的“地址总线/数据总线/控制总线”。分析时应从事务包含的信息出发,再映射到物理信号。

事务所需信息
信息作用传统/分组表现
目标与地址定位设备/内存位置地址线或包头字段
命令与属性读写、大小、顺序、权限控制线或事务类型字段
数据写载荷或读返回数据线或数据包载荷
完成/错误确认结果和状态应答线或完成包
例 12-3:读事务为什么需要返回标识

若互连允许多个未完成读请求,返回数据必须带标签/事务 ID,才能匹配到原请求;共享且严格顺序的简单总线可能隐含按顺序匹配。

易错点与边界
  • 地址线宽度决定一次事务可携带的地址编码,不自动等于 CPU 虚拟地址宽度。
  • 控制线数量不是协议复杂度的唯一指标,分组协议把复杂度放进字段和状态机。

12.4 总线事务、周期与带宽

一次传统总线事务可能包含仲裁、地址、等待、数据和完成阶段;流水总线可让下一事务地址阶段与上一事务数据阶段重叠。突发传输只支付一次地址/命令开销,连续传多个数据拍。

理论带宽按每拍有效数据乘每秒数据拍数计算。有效带宽还要乘协议效率,扣除空闲、包头、编码、流控、重试和读写切换。

传统并行总线理论带宽

带宽 = 数据宽度(bit)/8 × 频率 × 每周期数据传输次数

有效带宽 = 理论带宽 × 有效数据比例

例 12-4:64 位、100 MHz、每周期一次数据传输

64/8×100×10⁶=800 MB/s。若只有 75% 周期承载有效数据,有效上限约 600 MB/s。

易错点与边界
  • GB/s 与 Gb/s 相差 8 倍,且十进制 GB 与二进制 GiB 不同。
  • 理论带宽不是单次事务延迟。

12.5 总线仲裁:所有权、公平性与优先级

多个主设备共享资源时,仲裁器决定谁获得发起权。集中式由单一仲裁点收集请求并授权;分布式让参与者按协议竞争或传递令牌。

固定优先级响应关键设备快,但低优先级可能饥饿;轮转提高公平;时间片和带权策略可保证带宽/延迟服务质量。突发长度也会影响其他设备等待。

仲裁策略取舍
策略优势风险
固定优先级关键请求延迟低低优先级饥饿
轮转 Round-robin公平、实现规则不能表达不同紧急程度
带权轮转按权重分配带宽参数和突发控制复杂
令牌/菊花链连线/分布实现简洁位置偏置、故障传播或等待
例 12-5:为什么 DMA 突发不能无限长

长突发提高连续传输效率,却可能让 CPU 和其他设备长时间得不到内存/互连服务。控制器通常限制突发、设置优先级或按服务质量调度。

易错点与边界
  • 仲裁决定发起权,不等于目标一定立即完成事务。
  • 公平不一定意味着所有设备获得相同带宽。

12.6 同步时序与异步握手

同步总线双方按共享/转发时钟和规定周期采样信号,控制简单、吞吐高,但距离、时钟偏差和最慢设备限制频率。

异步握手用 request/acknowledge 或 valid/ready 表示数据何时可用与被接收,可适应不同速度和可变延迟。跨时钟域还需同步与亚稳态控制,不能把“无共享时钟”理解为无需时序设计。

1
发起方放置数据并置 request/valid。
2
接收方在可接收时置 acknowledge/ready。
3
双方在握手成立时完成一次传输。
4
撤销或推进到下一数据。
例 12-6:valid-ready 背压

发送方 valid=1 表示数据稳定;接收方 ready=0 时传输未发生,发送方必须保持数据;只有 valid 与 ready 同拍为 1 才完成一次传输。

易错点与边界
  • 异步协议也有建立、保持和传播约束。
  • 脉冲跨时钟域可能被漏采,通常需电平握手或专用同步结构。

12.7 PCI Express:lane、分组与交换拓扑

别把 PCIe 想成老式共享排线:它更像双向高速公路,lane 是车道,TLP 是带地址和类型的货车,交换机负责把包转到正确出口。

PCIe 是高速串行、点对点、全双工互连。一个 lane 包含独立发送和接收差分对,链路可聚合为 x1、x4、x8、x16 等宽度;根复合体和交换机形成树状/交换拓扑。

软件请求被封装成事务层包(TLP),再经过数据链路和物理层。带宽需考虑每 lane GT/s、lane 数、线路编码效率以及包头/流控等协议开销,不能套“64 位并行总线×MHz”。

PCIe 单方向线路数据率估算

raw payload ceiling ≈ GT/s × lanes × encoding_efficiency / 8

实际应用带宽还要扣除 TLP/DLLP、流控、包大小和平台实现。

每条链路都是点对点连接;交换机在多个下游端口之间转发分组,并不形成所有设备共享的一组并行信号线。

PCIe 关键对象
对象作用
lane一对发送与一对接收通道,支持全双工
link width聚合 lane 数,如 x4/x16
TLP内存读写、配置、消息等事务包
DLLP/序号/重放链路可靠传输与流控
switch/root complex连接、路由与主机桥接
例 12-7:PCIe 4.0 x4 的线路上限

每 lane 16 GT/s,使用 128b/130b 编码。单方向编码后上限约 16×10⁹×4×128/130/8≈7.88 GB/s;实际有效载荷还会更低。

易错点与边界
  • GT/s 是符号传输率,不可直接当 GB/s。
  • x4 表示 lane 数,不是 4 字节或 4 位数据总线。

分层练习

  1. 拓扑:共享总线与交换网络在并发性上的主要区别?
  2. 带宽:32 位、200 MHz、每周期两次数据传输的理论带宽?
  3. 效率:理论 4 GB/s、有效数据占 70%,有效带宽上限?
  4. 仲裁:固定优先级的主要风险是什么?
  5. 握手:valid=1、ready=0 时数据能改变吗?
  6. PCIe:PCIe x8 与 x4 在同代同速下线路带宽关系?
查看练习答案
  1. 共享总线通常同一时刻只服务一个所有权事务;交换网络可让不冲突端点间多个事务并行。
  2. 32/8×200M×2=1.6 GB/s。
  3. 2.8 GB/s。
  4. 持续高优先级请求可能让低优先级设备长期得不到服务,即饥饿。
  5. 在标准 valid-ready 语义下不能;发送方应保持数据和 valid,直到握手完成。
  6. 理想单方向线路带宽约为 2 倍,但实际还受端点、包开销和平台限制。

本章复盘

1
互连先看拓扑与协议,共享并行线不是唯一模型。
2
事务包含地址、命令、数据和响应,物理表达可为信号线或分组。
3
带宽要扣效率,延迟与吞吐分别计算。
4
PCIe 按 lane 和包分析,不要套传统并行总线公式。

进一步阅读

  • PCI Express Base Specification:事务层、链路层与物理层。
  • AMBA AXI/CHI 等片上互连规范:valid-ready、并发事务与一致性。
  • Patterson & Hennessy:总线仲裁和 I/O 互连基础。

第 13 章 · 输入输出系统

键盘几秒才来一次输入,网卡却可能每秒送来数百万个包。I/O 要解决的不是单纯的“快或慢”,而是怎样让性格迥异的设备与主机合作。

CPU 会一直盯着键盘等你按下去吗?

当然不能。查询、中断和 DMA 是三种不同的分工方式:谁等待、谁搬数据、谁在完成时通知,决定了系统效率。

本章学习目标
  1. 说明 I/O 控制器的数据、状态和控制寄存器如何连接软件与设备。
  2. 比较忙等轮询、周期轮询、中断和 DMA 的 CPU 开销与适用场景。
  3. 描述 DMA 的初始化、总线主控、完成通知、IOMMU 与 Cache 一致性。
  4. 用延迟、带宽、IOPS、队列深度和利用率评价 I/O 性能。
先修知识与模型边界需要第 12 章的事务与仲裁和第 9 章的地址翻译。中断的精确分类与内核入口在第 14 章进一步展开。

本章目录

本章知识路线
小节完成后你能做什么
13.1从电气、时序、格式和管理四方面解释接口作用
13.2区分 MMIO 与独立 I/O 空间并正确处理副作用
13.3计算轮询开销并区分忙等与周期检查
13.4描述设备事件到处理程序的通知链
13.5画出 DMA 配置、传输、完成和一致性步骤
13.6区分 DMA 数据搬运与通道程序执行
13.7根据负载选择正确指标并识别排队效应

13.1 为什么设备通常需要接口与控制器

设备并非逻辑上绝对“不能直接接 CPU”,而是通常需要控制器/接口适配电气电平、串并转换、时钟域、协议、缓冲和错误检测。控制器把设备特性抽象为寄存器、队列和事件。

高速设备控制器还能独立执行协议、排队请求、缓存数据和 DMA。CPU 不应逐位操纵介质,而是提交较高层命令并接收完成状态。

I/O 接口解决的差异
差异接口职责
速度/时钟缓冲、握手、跨时钟域
数据格式串并转换、编码/解码、字节顺序
控制流程命令队列、状态机、错误恢复
电气/物理驱动、采样、链路训练
系统管理地址、权限、中断与 DMA
例 13-1:串口控制器做了什么

软件写一个发送字节,控制器按波特率添加起始/停止位并串行输出;接收端采样、校验并缓冲字节,再通过状态位或中断通知 CPU。

易错点与边界
  • “设备慢”不是接口存在的唯一原因,高速网卡和 GPU 同样需要复杂控制器。
  • 控制器与驱动分别属于硬件和软件,但共同实现同一设备模型。

13.2 I/O 寄存器与地址空间:数据、状态、控制

设备常暴露数据寄存器、状态寄存器、控制/命令寄存器和队列门铃。内存映射 I/O(MMIO)把这些寄存器放入物理地址空间,用 load/store 访问;独立端口 I/O 使用专用地址空间和指令。

设备寄存器可能具有读清零、写 1 清零、访问顺序要求等副作用,不能像普通内存随意缓存、合并或重排。驱动需使用规定宽度和内存屏障。

常见设备寄存器
寄存器方向作用
数据/队列项读或写传输少量数据或描述符
状态主要读ready、busy、error、完成计数
控制/命令主要写启动、复位、模式与中断使能
门铃写通知设备有新队列工作
完成队列头尾双方协作同步生产者与消费者
例 13-2:为什么不能轮询普通缓存副本

状态寄存器必须按设备内存属性实际读取;若错误地当可缓存普通内存,CPU 可能反复看到旧值。系统通过页表/总线属性和驱动访问原语保证正确语义。

易错点与边界
  • MMIO 地址属于地址空间,但访问语义不等同于普通 DRAM。
  • volatile 只解决部分编译器优化问题,不自动提供所有 CPU/设备内存顺序。

13.3 程序查询与轮询:忙等不是唯一轮询方式

忙等轮询在循环中持续读取状态,响应快但占用 CPU 和互连;周期轮询让 CPU 做其他工作或由定时机制偶尔检查,降低开销却增加发现延迟。

对持续时间极短、事件率极高或中断开销更大的场景,短暂自旋可能合理;长期等待应睡眠、中断或批处理。高性能网络栈也可能在专用核心上主动轮询以换取低延迟。

轮询 CPU 占用估算

占用比例 ≈ 每次轮询周期 × 每秒轮询次数 / 每秒 CPU 周期

例 13-3:轮询开销

3 GHz CPU 每次轮询约 300 周期,每秒轮询 1,000,000 次,理论占用 300×10⁶/(3×10⁹)=10% 的一个核心,还未计入 Cache/总线影响。

易错点与边界
  • “程序查询=CPU 一直停在那里”只描述忙等形式。
  • 降低轮询频率会减少开销,但增加事件发现延迟。

13.4 中断驱动 I/O:完成时再通知

中断让设备在需要服务时通过中断控制器通知处理器。CPU 在可接受点保存/构造异常现场,跳到内核入口;驱动读取状态、确认来源、处理或安排后续工作。

中断减少空闲等待,却有入口/返回、Cache 扰动和同步开销。高事件率设备常用中断合并:一批完成或计时到期后只通知一次。

1
设备置完成/错误状态。
2
中断控制器路由并仲裁。
3
CPU 进入内核入口。
4
驱动确认并处理必要工作。
5
清除/应答来源并返回。
例 13-4:中断风暴

网卡若每收到一个小包都中断,在高包率下 CPU 可能大部分时间花在入口/返回。中断合并或轮询批处理可降低每包固定开销,但会增加少量延迟。

易错点与边界
  • 中断只通知事件,数据不一定随中断信号本身传给 CPU。
  • 中断处理必须确认具体来源并按设备协议清除,否则可能重复触发。

13.5 DMA:设备作为总线主设备搬运数据

DMA 的价值是“交代任务,不亲自搬箱子”:CPU 设置源、目的和长度,控制器批量搬运,完成后再通知 CPU;CPU 因而能去做别的工作。

DMA 引擎或设备控制器获得互连主控能力,直接在设备与主存之间搬运块数据。CPU 仍负责准备缓冲区/描述符、设置方向和长度、保证权限与一致性,并在完成后消费结果。

IOMMU 可把设备使用的 I/O 虚拟地址翻译到允许页框,隔离错误或恶意 DMA。非一致性 DMA 平台还需驱动显式清理/失效 Cache;一致性平台由硬件协议协同。

1
分配并映射缓冲区:满足地址、对齐与权限。
2
填写 DMA 描述符:地址、长度、方向和控制。
3
内存屏障后敲门铃:确保设备看到完整描述符。
4
设备仲裁并传输:周期挪用或突发占用带宽。
5
写完成状态并通知:中断或完成队列。
6
CPU 同步并回收:处理数据和映射。
例 13-5:DMA 为什么不是“完全绕开 CPU”

CPU 不逐字节复制,但仍要建立描述符、管理缓冲、处理完成和错误。DMA 还占用 PCIe/片上互连/内存带宽,并可能与 CPU Cache 发生一致性问题。

易错点与边界
  • DMA 不必依赖传统“通道”处理机;它本身就是独立数据搬运机制。
  • 设备看到描述符前需要正确内存顺序,不能只写完数据就假设立即可见。

13.6 通道与 I/O 处理机:把控制程序也下放

DMA 主要按描述符搬运数据;通道或 I/O 处理机具有更强的命令解释和设备控制能力,可执行一串通道命令、管理多个设备并在较高层完成 I/O 流程。

这类概念在大型机和传统教材中重要。现代 NVMe 控制器、智能网卡和存储处理器虽不一定使用“通道”名称,也体现把队列、协议和数据处理下放到设备侧的思想。

I/O 控制能力层次
机制自主能力CPU 主要工作
程序查询低逐次检查并搬运/控制
中断 I/O设备可异步通知事件到来时服务
DMA块搬运自主准备描述符和完成处理
通道/I/O 处理机执行 I/O 命令序列和协议提交高层任务
例 13-6:通道程序的价值

CPU 提交“从若干磁盘区域读入多个内存缓冲”的命令链,通道自行选择设备、执行传输和错误重试,最后汇总通知,减少主 CPU 的细粒度控制。

易错点与边界
  • 通道与 DMA 不是简单同义词,前者通常具有更强命令处理。
  • 智能设备增加自主性,也增加固件、安全和可观测性复杂度。

13.7 I/O 性能:延迟、带宽、IOPS 与队列

延迟衡量单个请求完成时间,带宽衡量单位时间数据量,IOPS 衡量每秒请求数。小随机 I/O 常受 IOPS/延迟限制,大顺序 I/O 常受带宽限制;同一设备的读写、块大小和队列深度会改变结果。

并发队列可让设备内部并行并隐藏延迟,但利用率接近饱和时排队延迟会急剧增加。批处理减少每次固定开销,却可能牺牲单请求响应。

带宽与请求率

理想情况下 带宽 ≈ IOPS × 每请求有效字节数,但受协议、并发、缓存和设备上限约束。

I/O 指标
指标适合回答
平均/尾部延迟单请求多久完成,最慢请求多慢
带宽 GB/s连续大数据每秒搬多少
IOPS固定块大小下每秒多少请求
队列深度同时有多少未完成请求
CPU/请求软件栈处理一项 I/O 的成本
例 13-7:IOPS 换算带宽

100,000 IOPS、每请求 4 KiB 的理想有效数据率约 100000×4096=409.6 MB/s(十进制)。若每请求 128 KiB,同样 IOPS 将要求远高得多的带宽,设备未必能达到。

易错点与边界
  • 公布 IOPS 时必须同时说明块大小、读写比、随机/顺序和队列深度。
  • 平均延迟良好不代表 99.9% 尾延迟良好。

分层练习

  1. 接口:设备寄存器为什么常不能按普通可缓存内存访问?
  2. 轮询:2 GHz CPU,每次轮询 200 周期,每秒 500k 次,约占一个核心多少?
  3. 中断:中断合并的主要取舍是什么?
  4. DMA:IOMMU 在 DMA 中的主要作用?
  5. 辨析:DMA 是否完全不需要 CPU?
  6. 性能:250k IOPS、8 KiB 请求的理论数据率?
查看练习答案
  1. 它们可能有副作用和实时状态,需要特定顺序/宽度;普通缓存和重排会破坏设备协议。
  2. 200×500000/(2×10⁹)=5%。
  3. 减少每事件入口开销、提高吞吐,但事件需等待凑批或计时到期,增加延迟。
  4. 翻译设备 I/O 地址并限制设备可访问的物理页框,提供隔离和重映射。
  5. 否。CPU/驱动仍配置队列和缓冲、同步内存、处理完成与错误。
  6. 250000×8192≈2.048 GB/s(十进制)。

本章复盘

1
I/O 接口适配协议与管理差异,不只是解决设备速度慢。
2
轮询、中断和 DMA 各有适用区间,选择取决于事件率、延迟和 CPU 成本。
3
DMA 搬数据但仍需软件管理,并占用互连/内存带宽。
4
I/O 性能必须带负载条件,延迟、带宽、IOPS 和尾部都要说明。

进一步阅读

  • 目标平台设备驱动与 DMA API 文档:内存屏障、映射和一致性。
  • PCIe/NVMe 规范:队列、门铃、DMA 与完成模型。
  • 操作系统教材:中断、设备驱动和 I/O 软件层次。

第 14 章 · 中断、异常与系统调用

程序本来顺序向前执行,突然网卡来消息、除法遇到零或页面不在内存。处理器必须暂停、保存现场、处理事件,再决定能否回来继续。

“突然发生”不等于都是中断

键盘事件通常异步到来,除零却由当前指令同步触发。分清来源和返回位置,是理解异常体系的第一把钥匙。

本章学习目标
  1. 按同步/异步、可重启/不可重启和来源区分中断与异常。
  2. 描述精确异常所需的 PC、原因、特权级和现场状态。
  3. 解释优先级、屏蔽、嵌套、向量入口和中断控制器。
  4. 说明系统调用如何受控进入内核,以及它与硬件中断的区别。
先修知识与模型边界需要第 6 章的架构状态和第 13 章的设备通知。本章采用“外部异步事件称中断、当前指令引起的同步事件称异常”的通用框架;fault/trap/abort 的具体命名需按 x86、RISC-V、Arm 等规范分别理解。

本章目录

本章知识路线
小节完成后你能做什么
14.1为设备事件、缺页、非法指令和系统调用正确分类
14.2列出进入处理程序前必须保存/建立的状态
14.3解释多个待处理事件的选择和延迟
14.4说明高优先级事件如何安全打断处理程序
14.5根据向量号定位入口并理解共享中断
14.6根据事件判断可否修复和重试
14.7描述调用号、参数、特权切换和返回值
14.8说明入口、驱动、确认和延后工作的分工

14.1 中断与异常:先看事件是否由当前指令同步引起

外部设备、定时器或处理器间信号通常异步于当前指令,称为中断;非法指令、页故障、断点和系统调用由当前指令或其访问同步触发,属于异常/陷入类事件。

“trap”在不同 ISA/教材中用法不同:有时泛指所有同步异常,有时特指执行后返回下一指令的陷入。教材必须声明分类框架,不能把“中断、异常、陷入”当三个永远互斥的自然类别。

事件的通用分类
事件同步性常见返回点/处理
外设/定时器中断异步通常在指令边界处理后继续
页故障同步修复映射后重新执行故障指令
非法指令同步模拟、报告或终止
断点/系统调用同步且有意触发进入调试器/内核后返回约定位置
严重硬件故障可能异步或不可恢复报告、隔离、复位或停机
例 14-1:键盘输入与缺页的区别

键盘中断可在任意指令边界到来,与当前指令语义无关;load 访问未驻留页触发的缺页与该 load 同步,修复后必须能重新执行它。

易错点与边界
  • 整数溢出是否产生异常取决于 ISA 和具体指令,很多指令只按模截断或设置状态。
  • 浮点异常常被屏蔽并返回 IEEE 754 特殊值,不一定立刻陷入。

14.2 响应过程与精确状态

处理突发事件前先留书签:保存足够的程序状态,跳到处理入口,完成后才能回到正确位置。精确异常要求这枚“书签”对应清楚的指令边界。

处理器接受事件后,需要确定入口、记录原因和相关地址、保存返回 PC 与原特权/中断状态,并切换到处理程序可用的特权环境。具体哪些寄存器由硬件自动保存、哪些由入口代码保存依 ISA 而异。

精确异常要求架构状态看起来像程序按序执行到某个边界:更老指令已完成,故障及更年轻指令未产生不可撤销效果。乱序处理器通过 ROB 和按序提交维持这一性质。

1
完成/撤销到精确边界。
2
记录返回 PC、原因和附加信息。
3
切换特权与入口栈/向量。
4
入口代码保存其余现场。
5
处理事件并决定重试、跳过、信号或终止。
6
专用返回指令恢复状态。
例 14-2:页故障返回 PC 保存哪里

为了修复后重试,体系结构通常保存导致故障的指令地址,而不是一律保存下一条。系统调用或断点的返回语义可能不同,必须看事件定义。

易错点与边界
  • “保存现场”不是所有寄存器都由硬件一次性压栈。
  • 处理程序修改返回 PC 可实现信号、调试或跳过指令,但必须遵守 ABI/ISA。

14.3 优先级、屏蔽与不可屏蔽事件

中断控制器可对来源分配优先级、目标处理器和触发方式。CPU 的全局/分级屏蔽控制决定哪些可屏蔽中断可被接受;高优先级用于降低关键事件延迟。

不可屏蔽中断通常保留给严重硬件或看门狗事件,但“不可屏蔽”也有具体架构边界。长时间屏蔽会增加最坏响应延迟并可能丢失边沿事件。

优先与屏蔽相关概念
概念作用风险
固定/可编程优先级决定同时待处理时先服务谁低优先级饥饿
全局屏蔽临界区暂缓可屏蔽中断响应延迟上升
源屏蔽禁止特定设备通知状态仍可能在设备中积累
NMI 类事件绕过普通屏蔽处理路径必须极其可靠
例 14-3:为什么关闭中断不能当通用锁

它只影响当前处理器上的特定可屏蔽事件,不能自动阻止其他核心并发访问共享数据,也不适合长临界区。多核同步仍需原子操作和锁协议。

易错点与边界
  • 优先级高不等于一定能打断任何当前处理。
  • 屏蔽中断不等于清除设备事件。

14.4 中断嵌套:可重入性与栈深度

若处理程序重新允许更高优先级中断,新事件可嵌套进入。每层必须保存独立现场,使用足够的内核/中断栈,并避免破坏未完成处理的共享状态。

不可重入代码可在关键区屏蔽相应中断或使用同步;也可把耗时工作延后到较低优先级线程/软中断,缩短硬中断禁用时间。

1
低优先级处理入口:保存现场。
2
允许更高优先级:当前状态处于可嵌套点。
3
高优先级入口:再保存一层现场。
4
高优先级返回:恢复低优先级处理。
5
低优先级完成并返回原程序。
例 14-4:嵌套导致栈溢出

若中断栈仅按一层现场分配,而多个高优先级来源可连续嵌套,保存区会越界。设计必须限制嵌套深度、分配足够栈并检测溢出。

易错点与边界
  • 允许嵌套前要把当前设备状态置于一致状态,避免同源重入。
  • 处理程序中调用的函数也必须满足中断上下文限制。

14.5 向量中断与非向量入口

向量中断由硬件/控制器提供原因号或向量索引,处理器据此选择入口地址;非向量或共享入口先进入公共处理程序,再查询控制器/设备识别来源。

向量表项可能直接保存入口地址,也可能由基址加固定步长形成。现代 MSI/MSI-X 等机制让设备通过消息写入触发中断,仍需中断控制器路由和向量管理。

固定步长向量表模型

entry_address = vector_base + vector_number × entry_size

例 14-5:256 个向量、每项 16 B

向量号 37 的表项偏移为 37×16=592=0x250,入口表项地址为 vector_base+0x250。

易错点与边界
  • 向量号通常不是设备内存地址。
  • 共享中断要求驱动检查设备状态确认是否由自己产生。

14.6 常见同步异常:页故障、非法指令与算术事件

页故障可能经内核建立映射后重试;非法指令可能由兼容层模拟或向进程报告;除零、对齐、访问权限和断点各有独立原因码。

异常分类应区分“检测到事件”和“采取什么策略”。同一硬件事件在不同运行环境下可能被内核模拟、转换为用户信号、终止任务或触发系统故障。

异常处理可能结果
异常可能恢复动作常见失败结果
缺页分配/调入/COW 后重试非法区域则终止
未对齐硬件支持、软件模拟或拆分访问不支持则报告异常
非法指令模拟、动态翻译报告非法操作
整数除零ISA 规定值或异常信号/终止
浮点异常返回特殊值并置标志启用陷阱时进入处理
例 14-6:补码最小值除以 −1

n 位补码最小值的绝对值无法在 n 位正数中表示,数学商超出范围。某些 ISA 对该情况产生异常,另一些规定结果位串;必须查具体指令语义。

易错点与边界
  • 不能把所有“溢出”一概列为必然异常。
  • 修复后重试要求指令副作用可精确恢复。

14.7 系统调用:受控进入内核

用户程序通过专用系统调用/陷入指令请求内核服务。ABI 规定调用号和参数放在何处;硬件按 ISA 保存返回状态、切换特权并跳到受信入口;内核验证参数和权限后执行服务。

系统调用是同步且由程序主动触发,与外设异步中断不同。现代快速系统调用路径可能不使用传统中断门,但仍是受控特权转换。

1
用户态准备调用号与参数。
2
执行系统调用指令。
3
硬件切换到内核入口。
4
内核验证并分派服务。
5
写返回值/错误码。
6
专用返回恢复用户态。
例 14-7:为什么不能直接跳到任意内核地址

受控入口固定保存规则和特权切换,内核会验证用户指针。若用户可任意以高特权跳转,就能绕过检查和执行敏感操作,破坏隔离。

易错点与边界
  • 系统调用依赖特权入口和 ABI,不依赖中断优先级。
  • 库函数不一定产生系统调用,例如纯计算函数或由用户态缓存满足的请求。

14.8 中断控制器、内核与延后处理

中断控制器收集来源、记录待处理状态、执行优先级/路由并向目标核心通知。内核公共入口保存上下文和分派,设备驱动读取设备状态、确认原因并应答控制器。

硬中断上下文应尽量短:立即完成屏蔽/确认和取走关键数据,把协议处理、内存分配等较重工作交给软中断、任务队列或内核线程。

中断处理分层
层次职责
设备置状态、产生消息/线中断
中断控制器汇聚、优先、屏蔽、路由
体系结构入口保存核心状态、切换特权、取向量
内核公共入口保存软件现场、分派处理程序
驱动快速处理确认设备、收完成、安排后续
延后上下文执行可调度的耗时工作
例 14-8:网卡接收的上半部/下半部

快速处理读取完成队列、确认中断并安排网络收包任务;后续软中断批量构建协议栈对象和处理数据,避免每个包都长时间占据硬中断上下文。

易错点与边界
  • 过早应答可能丢失尚未记录的设备状态,过晚应答可能重复触发。
  • 处理中断时的锁和内存分配必须符合当前上下文规则。

分层练习

  1. 分类:定时器到期与非法指令分别属于哪类事件?
  2. 精确性:精确异常对更老和更年轻指令有什么要求?
  3. 优先级:固定高优先级持续请求可能造成什么问题?
  4. 向量:向量基址 0x8000、每项 8 B、向量号 10,表项地址?
  5. 系统调用:系统调用为何是同步事件?
  6. 辨析:页故障是否一定终止程序?
查看练习答案
  1. 定时器通常是外部异步中断;非法指令是当前指令引起的同步异常。
  2. 更老指令的架构效果已完成;故障指令及更年轻指令没有不可撤销的架构效果。
  3. 低优先级中断饥饿和不可接受的最坏响应延迟。
  4. 0x8000+10×8=0x8050。
  5. 它由当前执行的专用指令明确触发,发生点可由程序指令流确定。
  6. 否。合法按需分页、COW 或调页可修复后重试;非法映射/权限才可能报告或终止。

本章复盘

1
先按同步性与来源分类,具体术语服从 ISA。
2
精确状态是可恢复基础,返回 PC 取决于事件语义。
3
优先、屏蔽和嵌套共同决定响应,还要保证可重入与栈安全。
4
系统调用是主动受控入口,与外设异步中断不同。

进一步阅读

  • 目标 ISA 的特权架构手册:异常原因、向量、返回与中断控制。
  • 操作系统教材:系统调用、信号、中断上/下半部。
  • 平台中断控制器规范:路由、优先级和 MSI。

第七部分 · 外部存储与设备

第 15 章 · 外部存储器

关机后文件仍在,是因为外存把位留在磁性介质或闪存单元里。HDD 像转动的唱片,SSD 更像一本只能整页擦除的特殊笔记本。

删除文件为什么有时还能恢复?

“删除”常常只是撤掉目录和空间占用标记,并未立即抹去每一位数据。介质如何存、控制器如何映射,决定了性能与恢复边界。

本章学习目标
  1. 计算 HDD 的寻道、平均旋转等待、传输和控制开销。
  2. 解释 SSD 的页、块、FTL、垃圾回收、TRIM 与写放大。
  3. 比较 RAID 0/1/5/6/10 的容量、容错和写代价。
  4. 为热数据、顺序归档和长期冷存储选择合适介质。
先修知识与模型边界需要第 13 章的 I/O 延迟、带宽和队列概念。容量示例会明确使用十进制 TB 或二进制 TiB;RAID 提供可用性/性能手段,不替代备份。

本章目录

本章知识路线
小节完成后你能做什么
15.1解释随机访问为何受机械运动限制
15.2按时间线估算一次 HDD 请求
15.3追踪逻辑写入经过 FTL、页编程和垃圾回收
15.4解释 P/E 次数为何不等于主机可写总量
15.5计算常见 RAID 容量并说明容错边界
15.6根据访问模式、保存期和恢复目标选择介质

15.1 磁盘结构:盘片、磁道、扇区与磁头

HDD 在旋转盘片的磁性表面保存数据,磁头随执行器移动到目标磁道,再等待目标扇区转到磁头下方。现代磁盘向主机暴露逻辑块地址(LBA),内部物理几何和坏块重映射由控制器隐藏。

顺序访问可连续经过相邻扇区,定位开销摊薄;随机访问频繁改变磁头位置和旋转相位,延迟远高于单纯传输时间。缓存和请求重排可减少部分机械运动。

HDD 访问中的对象
对象作用
盘片/表面磁性介质
磁道/扇区物理记录区域与基本块
磁头/执行器选择表面并移动到目标半径
主轴以固定/可变转速旋转盘片
控制器缓存排队、预读、写缓存和错误修正
LBA主机看到的线性逻辑块编号
例 15-1:为什么碎片影响 HDD 更明显

文件块若分散在远处磁道,顺序读会变成多次寻道和旋转等待;SSD 没有磁头移动,但分散访问仍可能影响映射、并行度和控制器开销。

易错点与边界
  • CHS 几何在现代系统中更多是教学/兼容抽象,主机通常使用 LBA。
  • 磁盘缓存命中会让某些请求看起来没有机械延迟。

15.2 磁盘访问时间:寻道、旋转、传输与排队

一次未命中缓存的随机读可分为排队、寻道、旋转等待、介质传输和控制器/接口开销。平均旋转等待在随机相位假设下约为半圈时间。

调度器可按磁头位置重排请求提高吞吐,但会改变单请求公平性和尾延迟。对大顺序请求,传输时间占比上升;对小随机请求,定位时间主导。

HDD 基本时间模型

Taccess ≈ Tqueue + Tseek + Trotation + Ttransfer + Tcontroller

一圈时间 = 60 / RPM 秒,平均旋转等待约半圈。

例 15-2:7200 RPM 磁盘的平均旋转等待

一圈 60/7200 s≈8.33 ms,平均等待约 4.17 ms。若平均寻道 8 ms、传输 0.5 ms、其他 0.3 ms,则未排队访问约 12.97 ms。

易错点与边界
  • 不能把平均寻道和平均旋转等待当作每次固定值。
  • RPM 提高主要降低旋转部分,不会消除寻道和队列。

15.3 SSD:Flash 之上的并行存储系统

Flash 的麻烦是“不能随手覆盖”:通常可以按页写,却要按更大的块擦除。控制器只好维护地址映射、搬走有效页并回收空间。

SSD 由 NAND Flash、控制器、DRAM/SRAM 缓存和多个通道/die 组成。Flash 可按页读写,却必须按更大的块擦除;覆盖写通常写到新物理页,再更新逻辑到物理映射。

FTL 管理映射、坏块、纠错、磨损均衡和垃圾回收。TRIM/Discard 告知控制器哪些逻辑块已无效,便于提前回收。并行队列和多通道让 SSD 吞吐远高于单个 NAND 芯片。

介质、接口与协议不要混为一谈

NAND Flash 是存储介质;SATA 或 PCIe 是连接路径;AHCI 或 NVMe 是主机命令/队列模型。NVMe 能提供更多并行队列和较低软件开销,但随机读延迟仍受控制器、FTL 与 NAND 介质影响。

1
主机提交逻辑块写。
2
FTL 分配新物理页。
3
控制器并行编程并记录映射。
4
旧页标记无效。
5
垃圾回收搬有效页并擦除块。
例 15-3:为什么 SSD 空间接近写满后可能变慢

空闲页减少后,每次获得可写块更可能触发垃圾回收,需要搬运仍有效的旧页并擦除块,产生额外内部写和延迟。预留空间与 TRIM 可缓解。

易错点与边界
  • SSD 没有机械寻道,但并非所有访问延迟相同。
  • 掉电保护、缓存策略和 FTL 实现会显著影响持久性语义。

15.4 Flash 寿命、写放大与磨损均衡

Flash 单元只能承受有限编程/擦除(P/E)循环,且更高密度单元通常需要更精细电压判定。控制器用动态/静态磨损均衡把擦写分散到不同块。

主机写入 1 GB 可能因垃圾回收、元数据、校验和冗余在 NAND 内部写入更多,比例称写放大。过度预留、压缩、工作负载顺序性和空闲空间都会影响寿命。

写放大与耐久估算

WAF = NAND 实际写入量 / 主机写入量

粗略可写量与 NAND 容量、P/E 次数和 WAF 相关,但真实产品应看厂商 TBW/DWPD 指标。

Flash 控制器的可靠性机制
机制目的
ECC/LDPC纠正随磨损增加的位错误
磨损均衡避免少数块过早耗尽
坏块管理隔离出厂/运行中坏块
过度预留提供垃圾回收和替换空间
刷新/读扰管理搬迁弱化数据并降低扰动风险
例 15-4:WAF=2 的含义

主机写入 100 GB,NAND 内部累计写入约 200 GB。用户看到的写入量只消耗了设备耐久预算的一部分,内部搬移同样计入介质磨损。

易错点与边界
  • P/E 次数不能直接乘用户可见容量得到精确寿命,需考虑预留和 WAF。
  • 读取也可能产生扰动和数据保持问题,并非完全无损。

15.5 RAID:条带、镜像与校验

RAID 0 条带化提高并行吞吐但无冗余;RAID 1 镜像保存副本;RAID 5 用单盘等效分布式校验容忍一盘故障;RAID 6 用双校验容忍两盘故障;RAID 10 先镜像再条带。

校验 RAID 的小随机写常需读旧数据/旧校验并写新数据/新校验,存在写惩罚。重建期间性能下降且其余盘负载上升。RAID 防硬盘故障,不防误删、勒索、软件破坏和机房灾难。

N 块同容量磁盘的常见 RAID
级别可用容量典型容错
RAID 0N×S0 盘
RAID 1(两盘镜像组)约 N/2×S每镜像组可坏 1 盘
RAID 5(N−1)×S任意 1 盘
RAID 6(N−2)×S任意 2 盘
RAID 10约 N/2×S取决于故障是否落同一镜像组
校验阵列的小写惩罚

RAID 5 的一次小随机覆盖若不能形成完整条带,常采用“读—改—写”:读旧数据、读旧校验、写新数据、写新校验,共 4 次成员盘 I/O。完整条带写可直接由新数据计算校验,省去旧数据与旧校验读取;RAID 6 还需维护第二份校验。

RAID 写入路径
写入类型主要动作性能含义
RAID 1 小写写入两个镜像副本写带宽受镜像成员约束
RAID 5 小覆盖写读旧数据+旧校验,写新数据+新校验典型 4 I/O 写惩罚
RAID 5 完整条带写写全部新数据与新校验可避免读旧内容
重建期间读取幸存成员并重算缺失数据性能下降,第二故障风险窗口增大
例 15-5:6 块 4 TB 组成 RAID 5

十进制标称可用容量为 (6−1)×4=20 TB,可容忍任意一块盘故障。文件系统格式化、元数据和 TB/TiB 换算会让操作系统显示值更小。

易错点与边界
  • RAID 0 名称中有 RAID,但没有冗余。
  • RAID 10 的容错不能简单写成“任意两盘”,同一镜像组两盘都坏会失败。

15.6 光盘、磁带与冷数据存储

光学介质通过激光读取记录层,容量和生态依格式;磁带以顺序方式存储,单卷容量大、离线能耗低、单位成本低,适合备份和长期归档,但定位与装载延迟高。

冷存储设计还要考虑介质寿命、校验、定期迁移、地理冗余、目录索引和恢复演练。介质宣称寿命不等于系统级数据一定可恢复。

介质与访问模式
介质随机访问典型用途
HDD毫秒级机械随机访问在线大容量、备份
SSD低延迟随机访问在线热数据、数据库
光盘装载/寻道较慢发布、离线小规模归档
磁带顺序,首字节延迟高大规模离线备份与冷归档
例 15-6:为什么磁带吞吐高却不适合小文件随机查询

磁带流动起来后可持续高速读写,但定位到某个小文件需装载和卷带。批量顺序恢复能发挥带宽,频繁随机读取则被首字节延迟主导。

易错点与边界
  • “离线”能抵抗部分在线攻击,但仍需防火灾、介质退化和操作错误。
  • 备份是否有效必须靠定期校验和恢复演练证明。

分层练习

  1. HDD:5400 RPM 磁盘平均旋转等待约多少?
  2. 时间:寻道 6 ms、旋转 4 ms、传输 1 ms、控制 0.2 ms,忽略排队总计?
  3. SSD:为什么逻辑覆盖写常变成异地写?
  4. WAF:主机写 2 TB、NAND 写 3 TB,WAF?
  5. RAID:8 块 10 TB 组成 RAID 6 的标称可用容量?
  6. 可靠性:为什么 RAID 不能替代备份?
查看练习答案
  1. 一圈 60/5400≈11.11 ms,平均约 5.56 ms。
  2. 11.2 ms。
  3. NAND 页不能像 RAM 直接任意覆盖,需写新页并在块级垃圾回收时擦除旧页所在块。
  4. 3/2=1.5。
  5. (8−2)×10=60 TB。
  6. 它主要抵抗部分盘故障,不能防误删、软件破坏、勒索、控制器/站点灾难;备份需独立副本和恢复策略。

本章复盘

1
HDD 随机延迟由机械定位主导,顺序传输可摊薄定位成本。
2
SSD 性能来自并行与 FTL,垃圾回收和写放大影响延迟与寿命。
3
RAID 交换容量、性能和容错,重建与备份边界必须说明。
4
冷存储看完整生命周期,介质、校验、迁移和恢复演练缺一不可。

进一步阅读

  • NVM Express Base Specification:SSD 队列和主机接口。
  • SSD/NAND 厂商技术资料:页块组织、ECC、TBW 与掉电保护。
  • 存储系统教材:RAID 编码、重建与可靠性分析。

第 16 章 · 常见外部设备与驱动

鼠标移动、麦克风振动、摄像头接收光线,最终都要变成内存中的数字。外设就是现实世界与数字世界之间的翻译官。

一次鼠标点击要走多远?

它从传感器进入控制器,经总线、中断和驱动,最后才到应用。沿着这条链追踪,设备原理就不再是一张孤立参数表。

本章学习目标
  1. 计算显示帧缓冲和 PCM 音频的基础数据率。
  2. 说明键鼠、打印扫描、音频和网卡的采样、缓冲与事件路径。
  3. 区分 USB 主机调度模型与蓝牙无线协议栈。
  4. 概括驱动在寄存器、DMA、中断、并发、错误和电源管理中的职责。
先修知识与模型边界需要第 13—15 章的 MMIO、DMA、中断和存储介质。具体设备协议非常庞大,本章建立数据路径模型,不替代 USB、Bluetooth、Ethernet、显示或音频标准。

本章目录

本章知识路线
小节完成后你能做什么
16.1估算帧缓冲容量和扫描输出数据率
16.2描述按键矩阵、消抖、HID 报告和事件队列
16.3区分 DPI、色深、页面描述和设备分辨率
16.4用采样率、位深和声道数计算 PCM 码率
16.5追踪接收包经 MAC、DMA、完成队列和协议栈
16.6区分 USB 端点/传输类型与蓝牙链路/服务
16.7概括驱动的探测、队列、DMA、中断与错误处理

16.1 显示系统:像素、帧缓冲与刷新

应用绘制命令经图形 API、驱动和 GPU 生成图像,合成器把多个表面组合到扫描输出缓冲;显示控制器按刷新时序读取像素并通过显示链路送到面板。

分辨率决定每帧像素数,像素格式决定每像素字节数,刷新率决定每秒显示帧数。实际链路还包含消隐、编码、压缩、色深和多缓冲开销。

基础图像数据量

frame_bytes = width × height × bytes_per_pixel

active_pixel_rate = frame_bytes × refresh_rate

例 16-1:1920×1080、32 bit/像素

单帧 1920×1080×4=8,294,400 B≈7.91 MiB。60 Hz 仅活动像素读出约 497.7 MB/s,未含消隐、编码和多层合成。

易错点与边界
  • 刷新率与帧率不同:显示可 144 Hz 刷新,应用未必每次都生成新帧。
  • 32 bit/像素可能含未使用/Alpha 位,不等同于面板物理色深。

16.2 键盘与鼠标:从扫描到输入事件

键盘控制器扫描按键矩阵,检测开关变化并消抖,再按 USB HID、蓝牙 HID 或其他协议发送按键使用码;操作系统把它转换为按下/释放事件,布局与输入法再解释为字符。

鼠标/触控板传感器产生相对位移、按键或多点触控报告。报告率、传感器采样和系统事件合并共同影响输入延迟。字符不是键盘直接“产生”的固定字节。

1
物理动作:开关闭合或传感器检测运动。
2
设备控制器:扫描、消抖、形成 HID 报告。
3
主机控制器/驱动:接收报告并生成输入事件。
4
窗口系统/输入法:根据焦点、布局和组合规则解释。
5
应用:消费按键、文本或指针事件。
例 16-2:同一个按键为何能输入不同字符

设备报告的是物理键位/usage 和修饰键状态,操作系统键盘布局可把它映射成不同字符;输入法还可组合多个事件生成汉字。

易错点与边界
  • 扫描码、HID usage、虚拟键码和 Unicode 字符属于不同层。
  • 按键重复通常由主机软件定时产生,不一定是设备反复发送新按下。

16.3 打印机与扫描仪:栅格化与采样

打印路径常先把文档转成页面描述或栅格图像,spooler 排队,驱动/打印机 RIP 完成字体、颜色和半色调处理,再控制喷墨/激光成像。

扫描仪用光源和传感器阵列逐行采样反射/透射光,模拟前端放大后由 ADC 量化,驱动校准暗电流、颜色和几何。DPI 描述每英寸采样/输出点数,色深描述每像素量化位数。

未压缩扫描数据估算

bytes ≈ width_in × height_in × dpi² × bits_per_pixel / 8

例 16-3:A4 近似 8.27×11.69 英寸,300 dpi、24 bit

未压缩数据约 8.27×11.69×300²×3≈26.1 MB。实际文件可因裁剪、压缩和元数据不同。

易错点与边界
  • 打印机标称 DPI 不等于独立可辨颜色像素数,半色调会用多个点表现色阶。
  • 扫描插值分辨率不等于光学传感器真实分辨率。

16.4 音频设备:采样、量化、缓冲与时钟

ADC 把模拟信号按采样率取样并按位深量化;DAC 反向产生模拟输出。对带限信号,采样率需高于最高频率两倍才能在理想条件下避免混叠,实际系统还使用抗混叠/重建滤波。

音频接口通过环形缓冲和 DMA 连续传输。缓冲太小易因调度抖动欠载/溢出,缓冲太大增加端到端延迟;不同设备时钟还可能需要重采样。

PCM 基础码率

bitrate = sample_rate × bits_per_sample × channels

音频参数的影响
参数主要影响
采样率可表示频带与每秒样本数
位深量化级数与理论动态范围
声道数并行音频通道
缓冲帧数延迟与抗调度抖动能力
时钟精度长期速率偏差与抖动
例 16-4:48 kHz、24 bit、双声道 PCM

48000×24×2=2,304,000 bit/s=2.304 Mbit/s,即 288 kB/s 的有效样本数据,未含容器和接口开销。

易错点与边界
  • 奈奎斯特条件要求信号带限并配合滤波,不是“采样率等于两倍就永远完美”。
  • 24 bit 文件不保证整个模拟链路具有 24 bit 有效精度。

16.5 网卡:从物理帧到主存队列

PHY 处理电气/光信号与线路编码,MAC 处理帧、地址和校验。网卡把收到的数据 DMA 到驱动预先提供的缓冲区,在完成环写入长度/状态,再用中断或轮询通知 CPU。

现代网卡可做校验和、分段/合并、RSS 多队列、时间戳和加密等卸载。卸载减少 CPU 工作,却需要驱动正确配置并理解报文在硬件中如何变换。

1
PHY 接收并恢复比特。
2
MAC 验证帧与分类。
3
DMA 写入接收缓冲。
4
完成队列记录元数据。
5
中断/轮询批量收割。
6
协议栈与应用处理。
例 16-5:多队列 RSS 的作用

网卡按报文五元组哈希把不同流分散到多个接收队列,再把队列中断路由到不同核心,减少单锁争用并利用多核;同一流通常保持在同一队列以维持顺序。

易错点与边界
  • 网卡收到帧不等于应用立刻收到字节,中间还有 DMA、协议栈和调度。
  • 中断合并提高吞吐但可能增加小包延迟。

16.6 USB 与蓝牙:有线主机调度和无线协议栈

USB 是主机控制的分层总线:主机枚举设备、读取描述符、配置接口和端点,并按控制、批量、中断、等时等传输类型调度事务。USB“中断传输”仍由主机周期轮询端点,不是设备随意抢占总线。

蓝牙通过无线控制器和协议栈建立发现、配对、加密、链路与配置文件/服务。Classic 与 LE 的信道、连接和应用模型不同;二者与 USB 可能都承载键鼠/音频,但底层机制完全不同。

USB 传输类型
类型特点常见用途
控制可靠、用于配置与枚举设备描述符、命令
批量可靠、利用剩余带宽存储、打印
中断周期调度、低延迟小数据键鼠、状态
等时预留时序,通常不重传实时音视频
例 16-6:USB 键盘为何可插即用

主机检测连接后复位并分配地址,读取设备/配置/HID 描述符,选择驱动和配置端点,随后周期调度中断端点取得按键报告。

易错点与边界
  • USB 中断传输的“中断”不是 CPU 外设中断的同一层概念。
  • 蓝牙速率和延迟受射频环境、连接参数、编码和配置文件共同影响。

16.7 设备驱动:把硬件协议接入操作系统

驱动发现/绑定设备,映射寄存器,分配队列和 DMA 缓冲,配置中断,向内核上层暴露块、网络、字符、音频或图形接口。它还要处理并发、热插拔、电源状态、复位和错误恢复。

驱动处在高权限且处理不可信设备输入,必须验证长度/索引、限制 DMA、正确同步并清理资源。用户态驱动和设备直通仍需 IOMMU、权限和内核框架提供隔离。

驱动生命周期
阶段主要工作
probe/bind识别设备、检查版本与资源
initialize复位、配置队列、DMA、IRQ
runtime提交请求、收完成、超时与统计
power/hotplug挂起、恢复、拔出与重新枚举
error recovery停止队列、复位、重建状态
remove关闭 DMA/中断并释放资源
例 16-7:设备突然拔出时驱动为什么难

仍有线程、DMA 和中断可能引用设备资源。驱动需阻止新请求、取消/完成旧请求、关闭 DMA 和 IRQ、等待引用释放,再解除映射,避免 use-after-free。

易错点与边界
  • 驱动不是把寄存器说明逐条翻译成代码,还要满足操作系统并发和生命周期模型。
  • 设备固件与输入不能默认可信。

分层练习

  1. 显示:2560×1440、4 B/像素的单帧大小约多少?
  2. 输入:物理按键码为什么不能直接等同 Unicode 字符?
  3. 扫描:10×8 英寸、100 dpi、8 bit 灰度未压缩约多大?
  4. 音频:44.1 kHz、16 bit、双声道 PCM 码率?
  5. 网卡:RSS 多队列主要解决什么?
  6. USB:USB 等时传输为什么适合实时音频?
查看练习答案
  1. 2560×1440×4=14,745,600 B≈14.75 MB≈14.06 MiB。
  2. 键位还需键盘布局、修饰键和输入法解释,一个键可产生不同字符,多个键也可组合一个字符。
  3. 10×8×100²×1=800,000 B,约 0.8 MB。
  4. 44100×16×2=1,411,200 bit/s。
  5. 把不同流分散到多个队列/核心,利用多核并减少共享队列和锁争用,同时尽量保持单流顺序。
  6. 它按时序预留传输机会,优先保证持续带宽/时延;代价是通常不靠重传保证每个包可靠。

本章复盘

1
设备路径跨越物理、控制器、DMA/中断和驱动,不能只看一个接口名。
2
数据率由分辨率、采样率、位深和声道共同决定。
3
USB 与蓝牙模型不同,相同设备类别不代表底层协议相同。
4
驱动管理完整生命周期,高权限下必须重视同步、隔离和错误恢复。

进一步阅读

  • USB Specification 与 USB HID Class Definition。
  • Bluetooth Core Specification 与具体 Profile/Service 规范。
  • 操作系统设备驱动、DMA 和中断 API 文档。

第八部分 · 现代计算机体系结构拓展

第 17 章 · 多核与并行处理

多核像给项目增加更多人手:任务能否变快,不只看人数,还看工作能否拆开、大家是否频繁等待,以及共享资料会不会冲突。

8 核为什么常常没有 8 倍速度?

有些工作只能串行完成,线程之间还要同步和搬数据。Amdahl 定律会把这种直觉变成一眼能算的上限。

本章学习目标
  1. 区分核心、进程、软件线程、硬件线程、SIMD 与任务并行。
  2. 使用 Amdahl 定律计算固定工作量的并行加速上限。
  3. 解释 Cache coherence 与 memory consistency 的不同问题。
  4. 识别伪共享、NUMA 远端访问、同步和负载不均衡。
先修知识与模型边界需要第 8、11 章的 Cache 与流水/乱序基础。并行语义必须结合语言内存模型、ISA 和一致性协议,不能只用“多个核心同时执行”概括。

本章目录

本章知识路线
小节完成后你能做什么
17.1说明核心数量增加后哪些资源独享、哪些共享
17.2计算串行比例对无限处理器加速的限制
17.3判断数据并行是否适合 SIMD 并估算 lane 利用率
17.4区分 OS 线程、SMT 和上下文切换
17.5说明写失效、状态转换和伪共享
17.6区分 coherence、consistency、同步和数据竞争
17.7解释本地/远端内存、first-touch 和线程亲和性

17.1 多核处理器:复制执行资源,仍共享系统瓶颈

多核处理器在一颗封装/芯片中集成多个核心。每个核心通常有独立架构状态和私有一级 Cache,较低级 Cache、内存控制器、互连和功耗预算可能共享。

程序只有把工作拆成可并行任务并保持负载均衡,才能利用多核。线程创建、调度、锁、通信、Cache 一致性和内存带宽都会侵蚀理想加速。

多核资源的典型归属(依实现变化)
资源典型关系性能影响
架构寄存器/PC每硬件线程独立保存独立执行上下文
L1 I/D Cache常每核心私有低延迟,但需一致性
L2/L3可私有或共享容量、通信与争用
内存通道多个核心共享带宽和 NUMA 瓶颈
功耗/温度预算封装共享全核频率可能低于单核加速频率
例 17-1:四核为何不一定快四倍

若 25% 时间必须串行,即使并行部分在 4 核上理想缩短为四分之一,总时间仍是 0.25+0.75/4=0.4375,加速仅约 2.29 倍,还未计同步与带宽。

易错点与边界
  • 核心数不等于同一程序的可用并行度。
  • 封装标称频率可能随活跃核心数、温度和功耗动态变化。

17.2 Amdahl 定律:固定工作量的加速上限

设原执行时间中可并行比例为 P,用 N 个处理单元且并行部分理想均分,则新时间比例为 (1−P)+P/N。当 N 趋于无穷,最大加速为 1/(1−P)。

Amdahl 模型针对固定问题规模,忽略通信、同步和负载不均。Gustafson 视角则考虑处理器增多时扩大问题规模;两者回答不同问题,不互相否定。

Amdahl 定律

Speedup(N)=1/((1−P)+P/N)

Speedup(∞)=1/(1−P)

例 17-2:90% 可并行、10 核

S=1/(0.1+0.9/10)=1/0.19≈5.26,不是 10 倍。即使无限核心,上限也只有 10 倍。

易错点与边界
  • P 是原执行时间比例,不是代码行比例。
  • 优化串行部分可能比继续增加核心更有效。

17.3 SIMD 与向量计算:一条指令处理多条数据

SIMD/向量指令让多个 lane 对一组元素执行相同操作,适合图像、信号、线性代数和批量数值处理。向量长度、元素宽度、掩码和尾部处理决定一次覆盖多少元素。

分支不一致、非连续访问和数据相关会降低 lane 利用率。自动向量化还需编译器证明迭代间无危险别名或循环携带依赖。

SIMD 适用性检查
条件有利情况不利情况
操作一致所有元素同一算术元素走不同复杂分支
内存布局连续/规则步长、对齐随机 gather/scatter
数据依赖元素间独立前一元素结果决定后一元素
长度大批量、可掩码尾部任务很小、启动开销占主导
例 17-3:256 位向量加 32 位整数

一次最多处理 256/32=8 个元素。数组有 100 个元素时需 12 个完整向量和 1 个仅 4 lane 有效的尾向量,可用掩码处理。

易错点与边界
  • SIMD lane 数不等于 CPU 核心数。
  • 理论 lane 数倍加速还受内存带宽、对齐和指令吞吐限制。

17.4 软件线程与硬件线程:隐藏停顿还是增加核心

软件线程是操作系统调度实体,具有寄存器上下文和栈;硬件线程是核心可同时维护的架构上下文。SMT 让同一核心在一个周期从多个线程选择指令,共享执行端口和 Cache。

SMT 可在一个线程停顿时利用空闲资源,提高吞吐,但两个线程也会争用核心资源。它不是增加一个完整独立核心,单线程性能甚至可能因争用下降。

并发执行单位
单位主要独立资源主要共享资源
进程地址空间、权限与资源集合内核和物理机器
软件线程寄存器上下文、栈、调度状态进程地址空间
SMT 硬件线程架构寄存器/PC、部分队列标识核心前端、执行单元、Cache
物理核心流水与执行资源大体独立LLC、内存、功耗
例 17-4:两个 SMT 线程何时受益

线程 A 频繁等待内存,线程 B 有就绪算术指令时,B 可利用原本空闲的执行端口;若 A、B 都持续占满同一向量单元,它们会相互争用而非加倍吞吐。

易错点与边界
  • 任务管理器显示的“逻辑处理器”可能是 SMT 上下文,不等于物理核心。
  • 更多线程会增加同步、调度和工作集压力。

17.5 Cache 一致性:多个副本如何保持可接受的值

想象多人各拿一份共享文档副本:一个核心写了新值,其他核心的旧副本必须失效或更新;一致性协议负责传播这种状态变化。

多核私有 Cache 可能同时保存同一物理块副本。Coherence 协议保证对单一地址的写入按规则传播/失效,并让各核心最终观察到一致的写序列。常见协议用 Modified、Exclusive、Shared、Invalid 等状态跟踪所有权。

小规模可广播 snoop,大规模常用目录记录共享者并定向发送消息。即使两个线程写不同变量,只要变量落在同一 Cache 行,也会因整行所有权来回转移产生伪共享。

1
读未命中:请求共享副本,可能由内存或其他 Cache 提供。
2
写共享行:获取独占/修改权限并使其他副本失效。
3
其他核心再读:当前拥有者提供或回写最新数据。
4
替换脏行:按协议向下一级写回/转移所有权。
例 17-5:伪共享

核心 0 反复写计数器 a,核心 1 反复写相邻计数器 b;若 a、b 位于同一 64 B Cache 行,整行会在核心间“乒乓”。给每个计数器独立行或分片后性能可能大幅提升。

易错点与边界
  • Cache coherence 处理单地址副本,不等于规定所有不同地址的全局访问顺序。
  • NUMA 不是 coherence 的前置条件;共享内存系统可同时具有二者。

17.6 内存一致性模型:不同地址的读写能否重排

Memory consistency model 规定多线程程序允许观察到哪些跨地址读写顺序。顺序一致性要求结果仿佛所有操作按某个全局顺序交错且保持线程内顺序;弱模型允许更多硬件/编译器重排以提高性能。

程序需通过语言原子操作、锁和内存序建立 happens-before 关系;ISA 的 fence/原子指令提供底层顺序。普通数据竞争在许多语言中是错误或未定义行为,不能靠“处理器最终会同步”修复。

三个不同问题
概念回答
Coherence对同一地址的多个副本如何看见写
Consistency model对不同地址的操作允许观察到哪些顺序
Synchronization程序如何建立所需的先后和互斥
Atomicity一个操作是否不可分割地生效
原子读—改—写是锁的硬件地基

普通的“读变量、加一、写回”由多个步骤组成,两个核心交错时会丢更新。原子指令把读与条件写或更新作为一个不可分割操作;常见形式包括 compare-and-swap(CAS)、fetch-add,以及 load-linked/store-conditional(LL/SC)。

原子原语与同步职责
原语核心语义常见用途/提醒
CAS当前值等于期望值时才写入新值,并报告成功无锁结构、互斥锁;失败时通常重试
fetch-add原子加并返回旧值或新值计数器、票号分配;高争用仍会慢
LL/SC监视读取后,仅在保留未被破坏时条件写入可构造多种 RMW;SC 可伪失败
fence/acquire/release约束其他内存操作的可见顺序提供顺序,不等同于自动提供互斥

Cache 一致性帮助原子操作取得一条 Cache 行的修改权限,但“原子性”和“顺序性”仍是不同承诺:原子 RMW 防止操作被撕裂,acquire/release 或 fence 决定周围读写怎样排序。

例 17-6:发布数据需要同步

线程 A 先写 data 再写 ready,线程 B 看到 ready 后读 data。若 ready 只是普通变量,编译器/硬件可重排且存在数据竞争;应使用 release 写与 acquire 读或锁建立顺序。

易错点与边界
  • volatile 通常不等同于跨线程原子和内存序。
  • fence 只能约束指定范围/类型的顺序,不替代互斥。

17.7 NUMA:同一地址空间中的非均匀延迟

NUMA 系统把内存物理连接到不同处理器节点。所有核心可访问统一共享地址空间,但访问本节点内存通常延迟更低、带宽更高;远端访问需经过节点互连。

操作系统常按 first-touch 在首次写入所在节点分配页。并行程序应让线程靠近其主要数据,分片工作集并减少跨节点共享;也可交错分配以均衡带宽。

NUMA 优化手段
手段目标风险
线程亲和性稳定在数据附近运行负载变化时可能不均衡
first-touch 并行初始化把页放到使用线程节点单线程初始化会把页集中一处
数据分片减少远端访问和共享写分区与边界通信复杂
交错分配均摊多通道带宽每个线程仍会有部分远端访问
页迁移随访问模式移动热点页迁移本身有成本
例 17-7:单线程初始化造成远端访问

主线程在节点 0 清零整个大数组,所有页按 first-touch 落在节点 0;随后节点 1 的工作线程处理一半数组,却持续远端访问。改为各线程并行初始化自己的分片可改善局部性。

易错点与边界
  • NUMA 的“远端”仍是主存访问,不等同于网络分布式内存。
  • 绑定线程但不调整数据位置可能没有收益。

分层练习

  1. Amdahl:80% 可并行、8 核的理想加速比?
  2. 上限:串行比例 5%,无限核心最大加速?
  3. SIMD:512 位向量一次可处理多少个 64 位元素?
  4. SMT:SMT 是否等同于两个物理核心?
  5. 一致性:伪共享为什么会慢,即使线程写不同变量?
  6. NUMA:first-touch 策略下怎样让数组页分散到工作节点?
查看练习答案
  1. 1/(0.2+0.8/8)=1/0.3≈3.33。
  2. 1/0.05=20 倍。
  3. 512/64=8 个。
  4. 否。硬件线程有独立架构上下文,但共享一个核心的大量前端、执行和 Cache 资源。
  5. 一致性以 Cache 行为单位;不同变量同处一行会导致整行所有权在核心间迁移。
  6. 让各节点上的工作线程并行首次写入自己将处理的数组分片。

本章复盘

1
并行速度受串行部分和开销限制,核心数不是加速倍数。
2
SIMD、SMT 和多核是不同并行层次,资源独立程度不同。
3
Coherence 管单地址副本,Consistency 管跨地址可见顺序。
4
NUMA 要同时放置线程和数据,远端访问与共享写都是成本。

进一步阅读

  • Hennessy & Patterson:共享内存多处理器与一致性。
  • 目标 ISA 内存模型和语言并发内存模型文档。
  • Linux NUMA 与性能工具文档:亲和性、页放置和 first-touch。

第 18 章 · GPU、AI 加速器与未来计算

当单核不能只靠提高频率继续变快,芯片开始长出更多核心、向量单元和专用加速器。问题也从“会不会算”变成“数据能不能及时喂进去”。

GPU 算力很高,程序为什么仍可能很慢?

如果数据搬运耗时比计算还长,大量运算单元只能空等。本章用算术强度、带宽和能耗理解现代加速器的真正边界。

本章学习目标
  1. 区分 CPU 低延迟控制优化与 GPU 大规模吞吐优化。
  2. 用算术强度、分块和数据复用解释矩阵乘法性能。
  3. 说明 AI 加速器的数据流、低精度、稀疏和片上存储取舍。
  4. 概括异构调度、虚拟化、RISC-V、能耗与后摩尔技术路线。
先修知识与模型边界需要流水线、Cache、多核和 I/O 基础。本章讲通用架构思想,不以某一代产品规格作为永恒结论;具体 GPU、NPU、虚拟化和 ISA 扩展应查对应平台文档。

本章目录

本章知识路线
小节完成后你能做什么
18.1解释 SIMT、warp/wave、分支发散和合并访存
18.2根据工作负载与数据搬运选择处理器
18.3用 MAC 数、数据搬运和算术强度分析 GEMM
18.4解释 systolic/dataflow、量化和稀疏为何能提高效率
18.5把任务划分、数据放置、队列和同步画成执行图
18.6说明 hypervisor、二阶段翻译、虚拟中断和设备直通
18.7区分开放指令集、处理器实现和软件生态
18.8区分功率上限、任务能量和能效
18.9从 chiplet、3D、近存储和算法共同判断未来路线

18.1 GPU:用大量线程隐藏延迟

GPU 把更多晶体管用于大量算术 lane、线程状态和高吞吐存储系统,以许多并发线程隐藏内存/流水延迟。线程按 warp/wave 等组共同发射相似指令,形成 SIMT 执行。

同组线程走不同分支时需分路径执行,产生分支发散;相邻线程访问可合并的连续地址可减少内存事务。线程块还可使用片上共享/本地存储显式复用数据。

GPU 吞吐的关键条件
条件有利不利
并行度大量独立线程/任务任务少或串行依赖
控制流同组线程同路径严重分支发散
访存合并、对齐、复用随机访问、低命中、低占用
算术强度每字节做较多计算仅搬数据
资源占用寄存器/共享存储适中单线程资源过多降低驻留线程
例 18-1:分支发散

一个 32 线程组中 16 个执行 if、16 个执行 else,硬件可能先屏蔽一半执行 if,再交换掩码执行 else。两条路径都耗时,组内并行利用率下降。

易错点与边界
  • GPU 核心/“CUDA core”等营销计数不能与 CPU 核心一一比较。
  • 更多线程主要隐藏延迟,不保证每线程更快。

18.2 CPU 与 GPU:控制延迟和数据吞吐的分工

CPU 具有强分支预测、复杂乱序、较大 Cache 和少量强核心,适合低延迟控制流、串行部分与操作系统;GPU 具有更多吞吐 lane 和并发上下文,适合规则数据并行。

异构应用通常由 CPU 准备数据、提交 kernel 和处理串行逻辑,GPU 执行并行热点。主机—设备传输、kernel 启动和同步可能抵消小任务加速,统一/共享内存也不意味着数据迁移成本消失。

工作负载匹配
特征CPU 更擅长GPU/加速器更擅长
控制流复杂、不可预测、低延迟规则、批量
并行度少量强线程大量独立线程/数据
任务粒度小任务、快速响应足够大以摊薄启动/传输
内存访问复杂指针与大 Cache合并访问和显式分块
系统职责OS、I/O、调度计算热点
例 18-2:kernel 很快但程序没变快

原热点计算 10 ms,GPU 算到 1 ms,但上传 4 ms、下载 4 ms、启动同步 1 ms,总计仍 10 ms。应批处理、复用驻留数据或减少同步,而非只优化 kernel。

易错点与边界
  • 只比较峰值 FLOPS 会忽略传输、内存和串行部分。
  • 统一虚拟地址不保证数据已经在最合适的物理存储。

18.3 张量与矩阵乘法:分块提高数据复用

分块是为了少跑仓库:把一小块矩阵搬进片上快速存储,反复使用后再换下一块。算术没有改变,昂贵的数据往返却明显减少。

矩阵乘法 C[M,N]=A[M,K]×B[K,N] 需要约 M×N×K 次乘加。若每次乘加都从外部内存重新取 A、B,带宽会远先于算术单元成为瓶颈。

分块把 A/B 子块装入片上 Cache/共享存储,在多个输出元素间反复使用;寄存器分块进一步复用。算术强度(每搬运字节完成的运算数)越高,越有机会接近峰值计算吞吐。

矩阵乘法工作量

标量乘法约 M×N×K 次,加法约 M×N×(K−1) 次;按 1 次 FMA=2 FLOPs 计,常近似 2MNK FLOPs。

Roofline 性能上界

可达性能 ≤ min(峰值计算吞吐, 内存带宽 × 算术强度)

分块不改变 FLOPs,却能减少外存字节数、提高算术强度,使程序从“带宽受限”向“计算受限”移动。

补例 18-3:用 Roofline 判断瓶颈

设备峰值为 10 TFLOP/s、持续内存带宽 500 GB/s。若算术强度仅 4 FLOP/B,带宽上界为 500×4=2000 GFLOP/s=2 TFLOP/s,因此再增加计算单元也难超过约 2 TFLOP/s。

“屋脊点”为 10,000/500=20 FLOP/B;只有强度接近或超过它,峰值计算能力才可能成为主要上限。

1
选择输出 tile。
2
加载 A、B 子块到片上存储。
3
在线程/lane 间协作计算多个 K 分块。
4
在寄存器累加输出。
5
一次写回 C tile。
例 18-3:64×64 矩阵乘法的 FLOPs

按 FMA=2 FLOPs,工作量约 2×64³=524,288 FLOPs。实际时间还取决于数据类型、分块、启动、内存和库实现。

易错点与边界
  • 张量只是多维数组抽象,硬件“张量单元”通常加速特定低精度矩阵运算。
  • FLOPs 计数约定要说明 FMA 算 1 次指令还是 2 次浮点操作。

18.4 AI 加速器:数据流、低精度与片上存储

AI 加速器常围绕矩阵/卷积数据流组织 MAC 阵列,让权重、激活或部分和在片上驻留并沿阵列复用。脉动阵列以规律节拍在相邻处理单元传数据,减少大容量存储访问。

低精度整数/浮点可在相同面积和能耗下提供更多并行 MAC,并减少带宽;量化需控制动态范围和累加精度。稀疏跳零可减少运算,但索引、负载不均和不规则访存也会抵消收益。

AI 加速器优化杠杆
杠杆收益代价/条件
低精度更多吞吐、更低带宽能耗量化误差、溢出与校准
数据复用减少外存访问片上 SRAM 面积与编排
脉动/数据流规律通信、高 MAC 利用形状不匹配和填充排空
稀疏跳过零运算和存储元数据、不规则性、利用率
算子融合减少中间张量读写编译器和片上容量限制
例 18-4:为什么累加精度常高于乘数精度

大量 int8 乘积相加时,部分和范围随 K 增大;若仍用 8 位累加会快速溢出。硬件常用更宽累加器,再在输出阶段缩放/舍入。

易错点与边界
  • TOPS 是峰值且依数据类型/稀疏假设,不能直接代表模型吞吐。
  • AI 加速器的瓶颈常在内存与数据布局,不只是 MAC 数量。

18.5 异构计算:统一程序中的多种处理器

异构系统组合 CPU、GPU、NPU、DSP、FPGA 等,每种处理器有不同指令、内存和并行模型。运行时/驱动负责任务队列、依赖、内存映射与同步,编译器负责 kernel 生成和数据布局。

优化顺序应先找端到端热点,再决定放在哪个设备;尽量让数据在设备侧复用,异步重叠计算与传输,减少细粒度往返和全局同步。

1
CPU 准备输入与命令。
2
异步搬运/映射数据。
3
加速器执行 kernel 图。
4
事件记录依赖而非全局等待。
5
只回传必要结果。
例 18-5:双缓冲重叠传输与计算

GPU 计算缓冲 A 时,DMA 同时把下一批装入缓冲 B;完成后交换角色。若计算和传输可并发,总时间接近较慢一方,而不是两者之和。

易错点与边界
  • 异步 API 不代表硬件一定并发,需独立引擎、队列和无冲突资源。
  • 共享数据的所有权和一致性仍需明确。

18.6 虚拟化:CPU、内存与 I/O 的受控复用

虚拟机监控器为客户机提供虚拟 CPU、内存和设备。敏感操作在受控特权级执行或陷入;客户虚拟地址先由客户页表转成客户物理地址,再由二阶段页表转成主机物理地址。

设备可由软件模拟、半虚拟化前后端、SR-IOV 虚拟功能或直通提供。直通减少软件开销,却需要 IOMMU 隔离 DMA,并处理虚拟中断、迁移和共享限制。

虚拟化对象
对象机制主要开销/挑战
CPU硬件虚拟化特权级、陷入/退出VM exit 与状态切换
内存客户页表+二阶段翻译、虚拟 TLB翻译层级和 TLB 压力
中断虚拟中断控制器、posted interrupt 等注入与调度延迟
I/O模拟、virtio、SR-IOV、直通性能、隔离、迁移取舍
例 18-6:嵌套页表为何增加 TLB miss 代价

客户页表本身存放在“客户物理”内存,其页表项访问也要经过二阶段翻译;硬件页表遍历可能需要多次组合访问。TLB 和页遍历缓存用于隐藏这部分成本。

易错点与边界
  • 容器通常共享宿主内核,不等同于完整硬件虚拟机。
  • 设备直通不是绕过安全,必须正确配置 IOMMU 和中断重映射。

18.7 RISC-V:开放 ISA 与模块化扩展

RISC-V 是开放、模块化的 ISA:基础整数集配合乘除、原子、浮点、向量、压缩和自定义等扩展。开放 ISA 允许多方实现兼容核心,不意味着所有实现、工具链或芯片设计都自动开源。

扩展组合必须由软件栈识别,ABI、特权规范、平台中断和固件接口共同决定可运行环境。自定义指令可提高特定负载效率,却会带来编译器、模拟器、调试和软件可移植性成本。

RISC-V 生态层次
层次示例是否由 ISA 单独保证
非特权 ISA基础指令与标准扩展定义指令语义
特权架构页表、异常、中断、CSR另有规范
ABI/平台调用约定、固件、设备发现由软件/平台规范定义
微体系结构流水线、Cache、预测、核心数实现自由
芯片与 IP 许可RTL、物理设计、外设不因 ISA 开放而自动开放
例 18-7:同为 RISC-V 为什么二进制仍可能不兼容

一个程序使用向量扩展或特定 ABI,而目标核心只实现基础整数集,或操作系统平台接口不同,都可能无法运行。必须匹配 ISA 扩展字符串、ABI 和运行环境。

易错点与边界
  • 开放 ISA 不等于免费、开源或无专利风险的完整芯片。
  • RISC-V 也可实现乱序、超标量和复杂加速,不等于简单微架构。

18.8 绿色计算:性能、功率与能量

功率是单位时间耗能,能量是完成任务的总消耗。降低频率可能降低瞬时功率,却延长执行时间;是否省能要比较 Energy=Power×Time。

动态功率近似与开关活动、等效电容、电压平方和频率成正比;漏电功率随工艺、温度和电压变化。DVFS、时钟/电源门控、低精度和专用加速通过不同路径降低能耗。

基础能耗关系

E=P×T

Pdynamic≈αCV²f

能效 = 完成工作量 / 能量

节能手段
手段主要作用代价
DVFS降电压/频率减少动态功率性能下降,调节有延迟
时钟门控不切换空闲逻辑控制复杂,仍有漏电
电源门控关闭电源域降低漏电保存/恢复状态和唤醒延迟
专用加速用更少数据移动/控制完成任务适用范围窄、开发成本
提高利用率摊薄固定设施与空闲能耗可能增加排队/热点
例 18-8:两个方案的任务能量

A 运行 2 s、平均 100 W,耗能 200 J;B 运行 3 s、平均 60 W,耗能 180 J。B 功率更低且总能量少 10%,但完成时间更长。

易错点与边界
  • TDP/功率上限不等于某任务实际能耗。
  • 只优化芯片能效还要考虑内存、网络、散热和数据中心设施。

18.9 摩尔定律之后:封装、存储墙与软硬件协同

晶体管继续缩放变得昂贵且功耗密度受限,性能增长转向 chiplet、先进封装、3D 堆叠、专用加速和更多并行。chiplet 允许不同工艺组合和提高大芯片良率,但引入封装互连、延迟、功耗与测试挑战。

许多工作负载受数据移动而非算术限制,推动高带宽存储、缓存/压缩、近存储计算和更好的算法局部性。未来进步需要器件、架构、编译器、算法和应用共同设计,同时重视可靠性、安全和可持续性。

后摩尔技术方向
方向主要收益关键挑战
Chiplet/先进封装混合工艺、模块复用、良率die-to-die 协议、延迟、散热、测试
3D 堆叠高密度与短互连热、供电、制造良率
高带宽/近存储减少数据移动瓶颈编程模型、一致性、成本
领域专用架构高能效通用性和软件生态
算法/数值创新从根本减少工作量和精度需求正确性、适用范围
例 18-9:为什么“多放 MAC”可能没有收益

若内存每秒只能供给一半所需操作数,新增 MAC 大部分时间会等待。提高数据复用、片上容量或压缩,可能比继续增加计算单元更有效。

易错点与边界
  • 新封装不自动消除软件并行和数据布局问题。
  • “未来计算”不是单一路线,需按工作负载、成本和能耗评估。

分层练习

  1. GPU:SIMT 组内分支发散为什么降低利用率?
  2. 矩阵:128×128 方阵乘法按 2MNK 计约多少 FLOPs?
  3. 量化:为什么 int8 乘法常配更宽累加器?
  4. 异构:什么情况下 GPU kernel 加速仍无法改善总时间?
  5. 虚拟化:IOMMU 对设备直通的价值是什么?
  6. 能耗:方案 A 80 W×4 s,方案 B 120 W×2 s,哪个能量少?
查看练习答案
  1. 不同路径通常分时执行并屏蔽不参与线程,同一时刻只有部分 lane 做有效工作。
  2. 2×128³=4,194,304 FLOPs。
  3. 大量乘积求和的范围远大于单个 8 位值,更宽累加器避免中间溢出并保留精度。
  4. 串行部分、传输、启动和同步占主导,或任务太小/并行度不足时。
  5. 限制和翻译设备 DMA,防止直通设备访问不属于该虚拟机的物理内存。
  6. A 为 320 J,B 为 240 J;B 功率高但更快,任务能量更少。

本章复盘

1
GPU 用并发隐藏延迟,分支、访存和数据传输决定实际利用率。
2
AI 加速靠数据复用与低精度,MAC 峰值不是完整性能。
3
异构与虚拟化都在复用资源,需要队列、翻译、同步和隔离。
4
后摩尔时代同时优化计算、存储、封装和软件,能量是核心约束。

进一步阅读

  • GPU 编程与体系结构官方指南:SIMT、内存层次和性能分析。
  • Hennessy & Patterson:领域专用架构与定量分析。
  • RISC-V Specifications 与虚拟化平台文档:开放 ISA、特权和二阶段翻译。

附录

附录 A · 408 计算题通用解题框架

把“背公式”改成可重复的评分步骤:先确定模型和单位,再画结构、列符号、计算并做数量级检查。

A.1 五步解题法

所有计算题先写已知量及单位,明确字节编址/字编址、额外代价/总时间、局部/全局命中率等口径。没有口径,公式本身可能正确但答案仍错。

1
定模型:位宽、编址、流水、Cache 层级、总线或设备假设。
2
画结构:地址字段、数据通路、时空表或时间线。
3
列符号和单位:先写公式,再代数。
4
逐步计算:保留中间量,方便得分和检查。
5
反向验证:范围、量纲、极端值和数量级是否合理。

A.2 题型到工具的映射

看到关键词后先画什么
题型第一张图/第一行式子最后检查
补码/浮点位权或 S/E/F 字段范围、溢出、舍入
芯片扩展目标字数×字长与芯片规格每组片数×组数
Cachetag/index/offset 与组/路容量是否只含数据
TLB/页表VPN 分级索引+offsetTLB miss ≠ page fault
CPU 性能T=IC×CPI/f主频单位和方案指令数
流水线指令×周期时空表填充、排空、停顿、Tclk
总线/DMA事务时间线与有效数据拍bit/Byte、协议效率
磁盘寻道+旋转+传输+队列RPM 转秒、平均半圈

A.3 单位与容量速查

常用换算
量二进制/十进制关系易错点
容量1 KiB=2¹⁰ B;1 MiB=2²⁰ B题目写 KB 时确认约定
位与字节1 B=8 bitGb/s 转 GB/s 要除 8
频率1 GHz=10⁹ Hz周期 T=1/f
时间1 ms=10⁻³ s;1 ns=10⁻⁹ s指数统一后再相加
传输率MT/s 是每秒百万次传输不自动等于 MHz
磁盘转速一圈秒数 60/RPM平均旋转等待约半圈

A.4 书写评分点

计算题不要只写最后数字。地址位划分应写“为什么是这些位”,流水线应标出停顿位置,AMAT 应说明 miss penalty 是额外还是总时间。

建议答案格式

已知:列出量和单位;模型:说明关键假设;公式:先用符号;代入:逐层展示;结论:带单位并解释。

专项练习

  1. 3 GHz CPU 的时钟周期是多少 ns?
  2. 64 bit/s 与 64 Byte/s 相差多少倍?
  3. 4 KiB 页的页内偏移位数?
  4. 16 KiB Cache、64 B 行共有多少行?
  5. 100 MHz、32 bit、每周期一次传输的带宽?
  6. 6000 RPM 的一圈与平均旋转等待?
查看练习答案
  1. 1/(3×10⁹)s≈0.333 ns。
  2. 相差 8 倍;64 bit/s=8 Byte/s。
  3. 4 KiB=2¹² B,字节编址下为 12 位。
  4. 16384/64=256 行;组数还需知道相联度。
  5. 32/8×100M=400 MB/s。
  6. 一圈 10 ms,平均约 5 ms。

使用提醒

附录不能替代定义与模型同一个关键词在不同题中可能采用不同定义。先读题目口径,再使用本附录;若与题目明确约定冲突,以题目为准。

附录 B · 常用公式与适用条件速查

公式右侧必须连同适用条件一起记;缺少模型前提的“万能公式”是组成原理最常见失分源。

B.1 数据表示与运算

数值公式
主题公式条件/提醒
n 位无符号范围0~2ⁿ−1所有位为正权
n 位补码范围−2ⁿ⁻¹~2ⁿ⁻¹−1最高位负权
Qm.n 分辨率2⁻ⁿ本书 m 含符号位
海明校验位2ʳ≥m+r+1单错纠正基本条件
IEEE 规格化值(−1)ˢ(1.F)₂2ᴱ⁻ᴮⁱᵃˢE 非全0/全1
IEEE 次正规值(−1)ˢ(0.F)₂2¹⁻ᴮⁱᵃˢE=0、F≠0

B.2 CPU 与流水线

处理器性能公式
主题公式条件/提醒
CPU 时间T=IC×CPI/f同一工作负载,CPI 为平均值
加速比Sold/Tnew时间越小越快
理想 k 段流水cycles=k+n−1单发射、每段一周期、无停顿
含停顿流水cycles=k+n−1+S统一起止计数
流水时钟Tclk≥max(stage delay)+reg overhead考虑最慢级和流水寄存器
效率Efficiency=Speedup/k按本书定义

B.3 存储系统

Cache、页表和带宽
主题公式条件/提醒
Cache 组数S=C/(B×E)C 为数据容量、B 行大小、E 路数
地址字段offset=log₂B; index=log₂S2 的幂次、字节编址
单级 AMATHT+MR×MPMP 为命中检查后的额外代价
两级 AMATT1+MR1(T2+MR2×MPmem)MR2 为到达 L2 后的局部未命中率
页内偏移log₂(page bytes)字节编址
TLB reachentries×page size忽略多页大小/重复
理论带宽bytes/transfer×transfers/s×channels有效带宽需扣开销

B.4 I/O、磁盘与并行

系统公式
主题公式条件/提醒
HDD 一圈60/RPM 秒平均旋转等待约一半
HDD 访问Tq+Tseek+Trot+Ttransfer+Tctl缓存命中时模型不同
PCM 码率sample rate×bits×channels未压缩有效样本
帧缓冲width×height×bytes/pixel不含多缓冲/压缩
Amdahl1/((1−P)+P/N)固定工作量、理想均分
能量E=P×T比较完整任务
动态功率近似αCV²f还需考虑漏电与系统其他部件

B.5 统一术语与易混概念

术语使用约定
术语本书约定不要混同
位、字节、字、字长位是二进制位;字节为 8 位;“字”依上下文说明;字长指处理器一次自然处理的数据宽度字不一定等于 2 字节,字长也不等于地址宽度
主存块、Cache 行主存数据按块搬运;该块装入 Cache 后占据一行块是传送单位,行是 Cache 中的存放位置
时钟周期、机器周期、指令周期、流水级时钟周期是同步节拍;指令周期覆盖一条指令;流水级是组合逻辑阶段机器周期是传统教材术语,使用时须先给出具体定义
中断、异常、陷阱中断通常来自指令流外部且异步;异常由当前指令触发;陷阱常指有意触发或可恢复的一类同步异常不同 ISA 的分类名可能不同,应以该架构手册为准
局部与全局未命中率局部率以到达本级的访问为分母;全局率以所有一级访问为分母多级 AMAT 中不能不加说明地互换
延迟、吞吐率、带宽延迟是完成一次操作的时间;吞吐率是单位时间完成数;带宽常指单位时间可传输数据量流水线可提高吞吐率,但单条指令延迟未必下降

专项练习

  1. 32 位地址、4 KiB 页,VPN 位数?
  2. 8 路 Cache 数据容量 64 KiB、行 64 B,组数?
  3. P=0.95、N=20 的 Amdahl 加速比?
  4. 48 kHz、16 bit、6 声道 PCM 码率?
查看练习答案
  1. offset=12,因此 VPN=20 位。
  2. 65536/(64×8)=128 组。
  3. 1/(0.05+0.95/20)≈10.26。
  4. 48,000×16×6=4.608 Mbit/s。

使用提醒

附录不能替代定义与模型公式中的 C、B、E、MR、MP 等符号必须在答案中重新定义。遇到“总时间”“额外代价”“局部命中率”等字样,先画时间线再代入。

附录 C · 数据表示与补码运算专项

专项训练按“位模式—解释规则—数学真值—边界状态”四列作答,避免只会取反加一。

C.1 四种编码对照

n 位编码的核心差异
编码负数形成零范围
原码符号位置1,其余为绝对值+0/−0−(2ⁿ⁻¹−1)~+(2ⁿ⁻¹−1)
反码对应正数逐位取反+0/−0同原码
补码对应正数取反加1唯一0−2ⁿ⁻¹~2ⁿ⁻¹−1
移码E=e+Bias依偏置与格式常用于浮点阶码

C.2 补码加减与溢出答题模板

固定 n 位后先编码操作数,按模 2ⁿ 相加,保留低 n 位;再分别判断无符号进位和有符号溢出。减法改写为 [A]补+[−B]补。

有符号加法溢出

两个同号操作数相加,结果符号不同;或使用进入符号位进位 XOR 离开符号位进位。

例:8 位补码 90+50

01011010+00110010=10001100。两个正数得到负号位,OF=1;数学结果 140 超出 +127。无最高进位,不能用 CF 替代 OF。

C.3 IEEE 754 快速分类

解码顺序:拆 S/E/F → 分类 → 若普通数则恢复隐藏位和真实指数 → 计算真值。编码顺序:转二进制规格化 → 加偏置 → 截取 F → 按 GRS 舍入 → 检查特殊边界。

先看 E,再看 F
EF类别
全0全0±0
全0非0次正规数
非全0/全1任意规格化有限数
全1全0±∞
全1非0NaN

C.4 最小负数与移位边界

高频陷阱
操作边界
对 100…0 取负结果位串不变并发生补码溢出
负数算术右移通常向负无穷方向缩小,不必等于语言向0除法
左移低位补0,但高位丢失可能造成无符号/有符号越界
符号扩展复制最高位;零扩展只用于无符号解释
浮点 0.1二进制循环,目标格式需舍入

专项练习

  1. 8 位位串 11100110 分别按无符号和补码解释。
  2. 写出 −37 的 8 位原码、反码、补码。
  3. 8 位补码 0x80−1 的位结果和 OF?
  4. 8 位补码 −5 算术右移一位。
  5. binary32 位串 0 10000000 01000000000000000000000 真值?
  6. 0xFF800000 按 binary32 属于什么?
  7. Q2.6 的位串 10100000 真值?
  8. 为什么补码只有一个零?
查看练习答案
  1. 无符号 230;补码 −128+64+32+4+2=−26。
  2. +37=00100101;原码 10100101,反码 11011010,补码 11011011。
  3. 0x80 + 0xFF = 0x7F(低8位),数学上 −128−1 越界,OF=1。
  4. −5=11111011,右移得 11111101=−3。
  5. E=128,真实指数1;有效数 1.01₂=1.25,真值 1.25×2=2.5。
  6. 符号1、E全1、F全0,为 −∞。
  7. 补码整数 −96,缩放 64,真值 −1.5。
  8. 所有位0表示0;原码/反码的负零编码在补码加1规则下与普通0合并。

使用提醒

附录不能替代定义与模型题目若采用不同 Q 格式记号、浮点格式或溢出规则,应先重写该题定义。本专项默认固定字长补码和第 2 章的 Qm.n 约定。

附录 D · Cache、TLB 与虚拟存储大题模板

存储大题不靠背答案:先拆地址字段,再沿“TLB—页表—Cache—主存”逐级判断命中、权限和额外代价。

D.1 Cache 地址划分八步

综合例

32 位地址、16 KiB、64 B 行、4 路:S=64,offset=6、index=6、tag=20 位。

1
确认地址位数与字节编址。
2
把 Cache 容量统一为字节。
3
求行大小 B 和 offset=log₂B。
4
求组数 S=C/(B×E)。
5
求 index=log₂S 与 tag。
6
列出目标组各路 tag、valid、dirty。
7
命中则选 offset;未命中则按替换/写策略处理。
8
若求时间,明确各级 miss penalty 的口径。

D.2 页表与 TLB 模板

翻译路径检查表
步骤写在草稿上的内容
地址拆分VA=VPN||offset,offset=log₂page_size
TLB 查找VPN+ASID 是否命中、权限是否允许
页表遍历VPN 各级索引位数、PTE 大小、级数
PTE 分类present、R/W/X、user、accessed、dirty
物理地址PA=PPN||offset
Cache 访问题目说明 VIPT/PIPT 后再决定用 VA/PA 哪些位
异常区分 TLB miss、page fault、protection fault

D.3 多级 AMAT 时间线

逐级递归写,不要把所有命中率简单相加。若 L2 未命中率是“到达 L2 后”的局部值,主存全局概率应乘 L1 未命中率。

两级公式

AMAT=T1+MR1×(T2+MR2(local)×MPmem)

若题目给的是“L2 全局 miss rate”,则需改写概率关系。

D.4 综合题作答结构

建议卷面顺序
小问建议答案
地址字段画框并标位号
映射位置写组号公式与候选路
命中判断valid+tag+权限
替换/写回牺牲者、dirty、写分配
翻译TLB/PTE/PPN 拼接
性能概率树或递归 AMAT
现象解释冲突、容量、TLB reach、缺页等具体原因

专项练习

  1. 40 位地址、64 KiB、128 B 行、8 路,求字段。
  2. 48 位 VA、2 MiB 大页,offset 与 VPN 各几位?
  3. L1:1ns/MR10%;L2:8ns/局部MR25%;内存额外100ns,AMAT?
  4. TLB 128 项、4 KiB 页,reach?
  5. TLB miss 后页表 PTE present=1,会发生磁盘 I/O 吗?
  6. 写回 Cache 替换 dirty 行需要什么动作?
查看练习答案
  1. 组数 65536/(128×8)=64;offset=7,index=6,tag=40−13=27 位。
  2. 2 MiB=2²¹ B,offset=21,VPN=27 位。
  3. 1+0.1×(8+0.25×100)=4.3 ns。
  4. 512 KiB。
  5. 通常不会;遍历页表、填充 TLB 后继续。
  6. 先把整行或相应脏数据写到下一级,再装入新块。

使用提醒

附录不能替代定义与模型VIPT、PIPT、包含式、多页大小和非阻塞 Cache 会改变细节。没有题目说明时,不自行添加复杂实现假设。

附录 E · 指令系统、CPU 与数据通路大题模板

指令题按“编码字段—操作数来源—有效地址—数据通路—控制信号—架构结果”展开,避免只写助记符解释。

E.1 指令格式位数预算

固定长度 L 中,操作码、寄存器号、立即数和功能字段共同占位。先算寄存器编号位数,再根据格式求剩余字段;扩展操作码题需逐类统计编码空间。

基础关系

R 个寄存器编号至少 ⌈log₂R⌉ 位;n 位补码立即数范围 −2ⁿ⁻¹~2ⁿ⁻¹−1。

例:32 位三寄存器格式

32 个寄存器,每个字段 5 位,三个寄存器占 15 位;若主操作码 7 位,还剩 10 位给功能扩展或其他字段。

E.2 寻址方式答题表

算出 EA 后继续检查访问宽度、对齐、地址翻译和权限。PC_base 是当前 PC 还是顺序 PC 由 ISA 定义。

先写 EA,再访问
方式公式/结果
立即操作数=sign/zeroext(imm)
寄存器操作数=R[r]
间接EA=R[r]
基址+偏移EA=R[base]+signext(disp)
变址EA=base+R[index]×scale+disp
PC 相对target=PC_base+signext(offset)

E.3 数据通路四类指令

关键控制差异
指令ALU 用途存储器写回PC
R 型算术寄存器运算无数据访问ALU→rd顺序
立即数算术寄存器+扩展立即数无数据访问ALU→rd顺序
loadbase+offset 地址读Memory→rd顺序
storebase+offset 地址写 rs2无通用写回顺序
branch比较/目标计算无数据访问无通用写回顺序或目标

E.4 微操作与 CPU 性能

性能题先用 T=IC×CPI/f。若给指令类别比例和各类 CPI,计算加权平均:CPIavg=Σ fractionᵢ×CPIᵢ。

微操作写法

每拍写“源→组合逻辑→目标”,并标出等待:MAR←PC;发起读;ready 后 IR←MDR, PC←PC+len。

专项练习

  1. 16 个寄存器的两个源和一个目标共占多少位?
  2. base=0x8000、12 位偏移字段 0xFF0,按补码 EA?
  3. load 的 RegWrite、MemRead、MemWrite 通常如何?
  4. store 为什么不需要通用寄存器写回,却需要读两个寄存器?
  5. 指令比例 50% CPI1、30% CPI2、20% CPI4,平均 CPI?
  6. IC=10⁹、CPI=1.5、2.5 GHz,CPU 时间?
查看练习答案
  1. 每个编号 4 位,共 12 位。
  2. 0xFF0 作为 12 位补码是 −16,EA=0x7FF0。
  3. RegWrite=1、MemRead=1、MemWrite=0;写回来源选内存数据。
  4. 一个寄存器提供 base,另一个提供待写数据;结果写内存而非 rd。
  5. 0.5×1+0.3×2+0.2×4=1.9。
  6. 10⁹×1.5/(2.5×10⁹)=0.6 s。

使用提醒

附录不能替代定义与模型数据通路和控制信号名称取决于题目给出的硬件图。不要把本附录的抽象信号名强行写到另一套数据通路。

附录 F · 流水线、总线、I/O 与磁盘计算模板

时间类题目先画时间线;吞吐类题目先找“每次有效数据”和“每秒能发生几次”,再扣停顿与协议开销。

F.1 流水线时空表

先标理想 IF/ID/EX/MEM/WB,再逐个处理结构冲突、RAW、load-use 和分支。停顿时说明哪些流水寄存器冻结、哪里插入气泡。

流水计算顺序
步骤写法
时钟周期max(stage delay)+register overhead
理想周期k+n−1
加停顿每个实际气泡/冲刷加入总周期
总时间cycles×Tclk
加速比非流水总时间/流水总时间
平均 CPI长程序近似 1+stall/instructions

F.2 总线与 DMA

带宽

width/8×transfer_rate×transfers_per_cycle×efficiency

DMA 时间线
阶段计入什么
CPU 配置描述符、映射、门铃
仲裁/启动取得总线、协议头、首字延迟
数据传输字节数/有效带宽
完成状态写回、中断/轮询、同步
争用DMA 与 CPU/其他设备共享内存带宽

F.3 HDD 与 SSD 性能

存储时间模型
介质主要公式/变量
HDD 随机Tq+Tseek+0.5×60/RPM+Ttransfer+Tctl
HDD 顺序定位成本摊薄,关注持续传输率
SSD 小随机延迟、IOPS、队列深度
SSD 大顺序通道/接口带宽、温度和缓存
Flash 写入写放大、垃圾回收、过度预留

F.4 综合例题

例:5 级流水、20 条指令、3 个停顿,Tclk=500 ps

周期数 5+20−1+3=27,总时间 27×500 ps=13.5 ns。若非流水每条 5×450 ps=2.25 ns,总时间45 ns,加速比约3.33。注意两方案时钟周期可以不同。

例:128 bit、250 MHz、每周期两次、效率80%

理论 128/8×250M×2=8 GB/s,有效约 6.4 GB/s。

专项练习

  1. 6 段流水执行 40 条指令,另有 8 个停顿,总周期?
  2. 阶段最大延迟 240 ps、寄存器开销 25 ps,Tclk?
  3. 64 bit、400 MT/s、效率 75%,有效带宽?
  4. DMA 传 8 MiB,有效 2 GiB/s,纯数据传输约多久?
  5. 10,000 RPM 平均旋转等待?
  6. 150k IOPS、4 KiB 请求的数据率?
查看练习答案
  1. 6+40−1+8=53。
  2. 至少 265 ps。
  3. 64/8×400M×0.75=2.4 GB/s。
  4. 8 MiB/(2 GiB/s)=1/256 s≈3.906 ms,未含启动/完成。
  5. 一圈 6 ms,平均约 3 ms。
  6. 150000×4096=614.4 MB/s。

使用提醒

附录不能替代定义与模型流水线题的时钟周期、总线题的效率、DMA 题的启动开销和磁盘题的缓存/排队常被省略或另给。答案中要明确你是否计入。

附录 G · 复习路线、掌握标准与错题闭环

复习不是从头重读,而是按知识依赖建立模型、用题目暴露缺口、回到对应小节修复,再做变式验证。

G.1 八周基础路线

每周主线与产出
周主线必须产出
1第1—2章:整机地图、进制、补码、浮点位权表、IEEE分类表、20道基础题
2第3—4章:运算、加法器、ALU补码/浮点流程、进位逻辑图
3第5—6章:ISA、寻址、CPU数据通路四类指令数据路径与控制表
4第7—8章:主存、Cache芯片扩展与地址划分专项
5第9章:页表、TLB、缺页翻译路径和综合地址题
6第10—11章:控制器、流水线微操作序列、流水时空表
7第12—16章:互连、I/O、中断、外存设备总线/DMA/磁盘计算与事件路径
8第17—18章+综合模拟并行/现代拓展,完成两套计时模拟

G.2 四周 408 强化路线

按得分密度组织
周重点练习结构
1数据表示、运算、存储芯片每天基础20题+综合2题
2Cache、页表、TLB地址划分/AMAT/多级页表专题
3指令、数据通路、控制器、流水线画图题与时空表
4总线、I/O、磁盘+全真模拟隔天一套、当天订正

G.3 每章“真正掌握”的六个证据

  1. 能不用原文复述本章解决的问题。
  2. 能画出最小结构或时间线。
  3. 能写出公式并说明每个符号和适用条件。
  4. 能独立完成基础题和一个综合题。
  5. 能说出至少两个边界/反例。
  6. 能把错误定位回具体概念,而不是只记正确选项。

G.4 错题记录模板

每道错题只记录这些字段
字段内容
题目标签章节、题型、难度
我的错误步骤具体到哪一行/哪一判断
错误类型概念、模型口径、公式、单位、计算、审题
正确模型一张图或三行推导
边界条件何时公式不成立
变式题改一个参数后重新做
复查日期1天、7天、21天

G.5 最终检查清单

进考场前应能立即回答
模块检查问题
数据补码范围、OF/CF、IEEE特殊值、GRS?
CPUIC/CPI/f、四类指令路径、周期术语?
Cache组数、三字段、AMAT、写策略?
虚存VPN/offset、TLB miss/缺页、PTE权限?
流水k+n−1条件、三类冒险、load-use?
I/O轮询/中断/DMA、带宽单位、磁盘时间?
并行Amdahl、coherence/consistency、NUMA?

G.6 模拟题时间管理

第一遍完成确定题并标记单位;第二遍攻计算/画图;最后检查地址位总和、概率是否≤1、时间与频率倒数、bit/Byte、结果是否落在表示范围。订正时重做整题,不只抄答案。

闭环标准

一道错题只有在“隔天不看答案重做正确 + 一周后变式正确”后才算关闭。

专项练习

  1. 为“Cache 地址划分总错一位”写一个错误类型和修复动作。
  2. 为什么只重读笔记不能证明掌握?
  3. 模拟题中计算结果没有单位应如何处理?
  4. 一周后错题变式仍错,说明什么?
查看练习答案
  1. 错误类型可为模型口径/容量定义;修复:固定写 C、B、E、S 四量,先求 S,再核对 tag+index+offset=地址位数,做两道变式。
  2. 重读提供熟悉感,不能验证无提示提取、建模和迁移;需闭卷复述、画图和做变式题。
  3. 回到公式量纲,补全中间单位并检查 bit/Byte、Hz/s、十进制/二进制容量。
  4. 概念或模型尚未修复,应回到对应章节重新建立最小模型,而不是继续背原题答案。

使用提醒

附录不能替代定义与模型路线是默认顺序,不是时间表竞赛。基础薄弱时优先保证第2—11章模型完整;第17—18章可作为拓展,但不要牺牲主干题型的闭环。