1. 这一章到底在讲什么从“数字怎么存”到“数字怎么算”先说个很多人初学时的困惑明明用着高级语言写代码为什么还要回头啃计算机组成原理里的数据表示我当年学到这里也觉得抽象直到后来调一个浮点数精度问题调到怀疑人生才意识到——你写的每一条int、float、double在硬件眼里不过是一串高低电平而这串电平怎么解释、怎么参与运算完全由这一章的内容决定。这一章的核心说白了就三件事数字在计算机里长什么样数据表示、数字怎么参与最基本的加减乘除运算方法、以及这些运算在硬件层面是怎么被搭出来的运算部件。三件事层层递进也是整个计算机组成原理里最“硬核”但也最“落地”的部分。你后面学指令系统、CPU流水线、存储层次都会反复用到这里的结论。适合谁来读两类人最需要一类是正在准备期末或者考研的计算机专业学生这一类内容几乎是必考的重头戏另一类是做嵌入式、底层开发或者对调试精度问题头疼的开发者补上这块知识后很多原来靠试错解决的问题会变成按计算就可以推出来的结论。我尽量把原码、补码、浮点、ALU算术逻辑单元这些概念串成一条线来讲不搞零散知识点罗列该给结论的地方直接给结论该推过程的地方也不跳过读完你可以直接拿去应付题目或者指导实际调试。2. 整数在机器里怎么表示原码、反码、补码不是历史包袱是数学必然2.1 为什么不能直接存“符号 数字”正常人写数学题正负号写在数字前面就行比如5、-5。最朴素的想法自然是计算机里也拿一个二进制位表示符号剩下几位表示数值。这就是原码。原码的问题是加减法变得很痛苦。你想算 5 - 3硬件不知道“减”是什么它只会做加法。那 5 (-3) 怎么做如果直接用原码相加结果是 1000 10001000代表-0完全不对。于是硬件设计者只能加一堆判断逻辑先比大小再决定谁减谁还要看符号。这非常浪费晶体管而且实现起来容易出错。反码是对原码的一次改进负数把除符号位外的每一位取反。它的意义在于让“加法电路”可以处理减法但反码仍然有一个无法回避的问题会出现正0和负0两种0的表示。二进制的世界里同一个数有兩種编码这在比较和运算时都会引入额外的分支判断。真正一劳永逸解决这个问题的是补码。补码的数学本质是模运算上的“同余”。一个n位二进制数一共能表示2^n个状态所有的加法都在模2^n下进行。所谓负数就是它的“补数”——加上它等于没加相当于绕着计数器的刻度走了一圈回到起点。补码的定义一句话正数的补码等于自身负数的补码等于对应正数取反加一。为什么取反加一刚好落在这个数学框架内因为对一个n位数x取反得到的是(2^n - 1) - x再加一就是2^n - x这正是x在模2^n意义下的负数。这个设计带来的好处是革命性的0的表示唯一全0就是0省掉了一个重复状态。加法和减法统一成加法硬件只需要做一个加法器就能同时处理两者。符号位可以直接参与运算不需要单独判断。2.2 补码的快速心算与范围边界不少教材上来就让人背“取反加一”可考试和面试里你根本没时间慢慢取反。我分享一个心算技巧从一个负数x的绝对值的二进制表示出发从最低位开始往上找到第一个1这个1以及它右侧的位保持不变左侧所有位取反。举例-6的绝对值是110从右往左看第一位是0不变第二位是1这个1变成“转折点”它本身保持不变它左边的1变成0所以结果是10104位情况。这个技巧比“取反加一”更快因为减少了进位运算而且在脑子里不容易出错。补码的范围也是高频考点n位补码能表示的范围是-2^(n-1)到2^(n-1)-1。比如8位就是-128到127。这里经常有人问为什么负数多一个数。因为补码中0占用了全0编码负数比正数要多一个额外状态1000 0000表示-128。这个多出来的坑就是后面“溢出”和“边界bug”的源头。实际写代码时的经典场景是C语言的int溢出。int的绝对上限减一再加一就会突然变成负数。很多人写for循环int i; for (i INT_MAX - 5; i INT_MAX; i) { // 死循环一旦i溢出变成负数永远小于INT_MAX }这就是补码运算的结果无符号整数的溢出是回绕有符号整数的溢出是未定义行为在绝大多数编译器上表现成“从最大值跳到最小值”。理解了补码的数学原理后这种bug不用调试看一眼就知道怎么回事。2.3 移码给浮点数阶码准备的“无符号负数”除了原码、反码、补码还要提一个移码biased notation。移码的思路很简单给所有数加上一个偏置值bias让原本有正有负的指数变成无符号数。比如8位移码偏置127真实指数-1表示为1260表示为1271表示为128。为什么要引入它因为浮点数比较大小的时候如果阶码用补码负指数和正指数在二进制序上并不一致比较起来要额外判断符号用移码后全按无符号数比就可以直接比较浮点数的大小。这是IEEE 754标准里偏置值设计的直接原因细节在下一节展开。3. 浮点数表示精度问题的“万恶之源”3.1 从定点数到浮点数的思路演进定点数的意思很好理解小数点位置固定。定点的缺点也很明显能表示的范围由位数框死想表示从1e-38到1e38这种跨度得用几百位不现实。浮点数借鉴的是科学计数法任何一个数都可以写成 (-1)^s × 1.f × 2^(e-bias) 的形式。其中s是符号位f是尾数的小数部分e是存储的阶码值。既然小数点可以左右移动就称它为“浮点数”。IEEE 754单精度浮点数一共32位布局是1位符号位、8位阶码、23位尾数。双精度则是1位符号位、11位阶码、52位尾数。注意阶码部分存的是移码后的值而不是真实指数尾数部分默认省掉了小数点前的那个1这叫做“隐含位”或“隐藏位”。为什么要省掉那个1因为规格化浮点数的形式是1.xxxxx这个整数部分永远是1没必要浪费一位去存省下来的那一位可以用来提高尾数的精度。这也是一个典型的“用约定换精度”的设计。3.2 规格化与非规格化边界上的特殊处理规格化浮点数是指尾数最高有效位隐含位为1的表示正常范围内的数都是规格化的。但规格化有一个盲区它表示不了非常接近0的数。当真实指数小到阶码全为0时再继续按规格化处理尾数里最小的1也对应不到正常的精度。于是IEEE 754定义了非规格化数denormal允许尾数的隐含位变成0让这些数缓慢地“衰减”到0而不是直接跳变。这个细节在计算机组成原理考试里经常考“为什么阶码全0或全1要特殊处理”在工程上则保护了数值计算的平滑性。除了非规格化数还有两类状态阶码全1且尾数全0表示无穷大正负各一个阶码全1且尾数非0表示NaNNot a Number即非法运算的结果。这个设计让浮点数在出错时不至于直接让程序崩溃而是可以传播、检查、处理。我列一个快速参考表方便复习记忆情况阶码尾数含义正零000负零00符号位1-0非规格化数0非0接近0的数规格化数1~254任意常规范围无穷大全10±∞NaN全1非0非数值3.3 浮点数加法的手算全过程看清楚浮点加减的流程考试题基本就稳了。以两个单精度数相加为例完整步骤是对阶把两个数的阶码对齐小阶向大阶看齐。阶码小的那个尾数右移右移几位等于阶差。尾数求和舍掉隐含位按补码/原码规则做尾数相加。规格化如果结果尾数溢出最高位进位则右移一位并阶码加1如果结果是0.1xxx的形式最高位为0则左移直到最高位为1同时阶码减移动次数。舍入处理右移时丢弃的位需要进行舍入常见策略有就近舍入、截断、向上/向下舍入。检查溢出如果阶码超出最大值结果变成无穷大如果低于最小值变成非规格化数或者0。一个具体例子计算 1.25 2.5。1.25 1.01 × 2^02.5 1.01 × 2^1。对阶1.25变成0.101 × 2^1。尾数相加0.101 1.010 1.111。结果已经是1.111 × 2^1规格化完成。答案1.111 × 2^1 3.75。看起来简单但这里有一个隐藏很深的问题对阶时右移会把低位移丢。比如计算 16777216.0f 1.0f单精度的尾数只有23位16777216对应2^24尾数已经没有空间表示1了对阶时1被右移出了所有有效位结果还是16777216。这就是“大数吃小数”的本质。这也是为什么在数值计算领域有个铁律千万不要把一个大数和一堆小数累加应该从小到大加。理解了浮点数的对阶过程这条规则就不是死记硬背而是完全可以推导出来的结论。3.4 浮点数与编程语言中的“天坑”C语言里float和double的运算大家都会写但很少有人意识到每一次加减乘除背后都在做上面这一整套流程。莫名其妙多出的0.0000001精度误差不是编译器bug而是尾数位数有限导致的结果。更典型的例子是0.1 0.2在二进制中0.1是一个无限循环小数计算机只能存储23位或者52位的近似值所以0.1 0.2并不等于0.3而是一个近似值。很多刚入门的人问为什么Python里0.1 0.2不等于0.3答案就在IEEE 754的尾数精度上。Python的float就是双精度浮点数跟C语言里的double完全一致。这不是一门语言的缺陷是任何有限精度二进制表示都无法避免的问题。实际工程中比较浮点数要加epsilon容差做金融计算要用定点数或者整数科学计算要考虑数值稳定性。这些经验你知道吗如果你在读这一章之前不太清楚那现在可以用对阶、舍入、精度损失这套理论来理解比单纯背结论靠谱得多。4. 位运算与逻辑运算高级语言里隐藏的硬件基因4.1 位运算背后的真值表与ALU很多学编程的人把位运算当成奇技淫巧其实它在硬件上是最天然的运算——因为每一位都是独立的逻辑门没有进位传递的问题。与、或|、非~)、异或^对应着逻辑门电路的基础功能ALU内部就是用这些逻辑门加上加法器搭出来的。先看真题里常考的几个公式x (x - 1)消除x二进制表示中最右边的1。这个技巧在很多场景里秒杀“统计1的个数”的朴素循环。x (-x)取出x的最低位1lowbit。这个在树状数组算法里几乎是标配。x ^ x 0x ^ 0 x异或的自反性质可以用来做无临时变量交换。x 1除以2注意负数时向下取整不是向零取整和C语言/Java对有符号整数右移的定义一致。x 1判断奇偶比求模运算快但现代编译器会优化取模性能差异其实很小不必迷信“位运算更快”更重要的价值是逻辑表达更简洁。还有一个容易被忽略的操作左移和右移的算术与逻辑区别。逻辑右移是全位右移高位补0算术右移则保证符号位不变高位补符号位本身。很多人在C语言里对负数做右移时拿到出乎意料的结果就是因为忽略了算术右移的符号填充。4.2 位掩码与硬件寄存器的操作嵌入式开发中位运算最主要的用途是操作寄存器。一个32位的寄存器每一位都代表一个控制开关或者状态位你要做的是置位SET_BIT、清位CLR_BIT、翻转TOGGLE_BIT、检查IS_BIT_SET。对应的写法分别是#define SET_BIT(reg, n) ((reg) | (1U (n))) #define CLR_BIT(reg, n) ((reg) ~(1U (n))) #define TOGGLE_BIT(reg, n) ((reg) ^ (1U (n))) #define IS_BIT_SET(reg, n) (((reg) (n)) 1U)这套宏定义广泛出现于各种单片机编程中。理解了它就理解了为什么需要位运算寄存器的每一位都代表实实在在的硬件状态你没有“同时操作一个字节”的粒度只能靠位运算来精准控制。4.3 加法器与进位链组间串行进位到底在说什么计算机组成原理考试里“串行进位”是个高频词。一位全加器输出一个求和位和一个进位输出多位加法就是把多个全加器串联起来低位的进位输出接到高位的进位输入。这是最直观的加法器结构叫做串行进位加法器ripple carry adder。串行进位的问题在于慢最高位的计算结果要等最低位的进位一级一级传上来位宽越大延迟越高就像排队一个一个过闸口。假设一位进位延迟为tn位加法的进位延迟就是n倍的t这个线性增长在高速处理器里不可接受。于是出现“组间串行进位”的概念先把若干位组成一组组内采用并行进位先行进位组间仍然采用串行。这相当于在局部提速的基础上仍然保持结构的简单性。再进一步就是完全并行的先行进位加法器carry lookahead adder直接根据输入的每一位和最低进位推算出每一位的进位进位延迟从O(n)降到了O(log n)级别。考试题里常常让你算“4位一组组间串行进位的延迟”关键是分清组内并行、组间串行组内可以快速地同时产生进位但组间进位还是要一级一级传递。理解这个层级关系比背公式有用得多。5. 定点数乘除法与ALU计算机怎么完成复杂计算5.1 乘法从多次加法到移位相加硬件做乘法最朴素的方法是重复加法但效率太低。现代乘法器的核心思想是“移位相加”。以原码一位乘法为例乘数从最低位开始逐位判断若当前位为1被乘数左移相应位数后加到部分积若为0则只移位不加。最终部分积累加的结果就是乘积符号位单独用异或处理。补码乘法中更常用的是Booth算法它的核心是利用“连续一串1”的规律把多次加法转换成一次加法和一次减法。比如计算1011 × 1101时直接按位乘加需要加上四个部分积但1101可以看成1000 0100 0001也可以改造为10000 - 0011的形式Booth算法就是通过扫描相邻两位的变化来减少累加次数。不过对大多数同学来说乘法的重点考题是一次乘法的位数扩展。两个n位数相乘结果最多是2n位这在硬件设计里必须提前预留否则会出现溢出。这也是为什么高级语言里整型相乘的结果可能溢出而汇编层面看得清清楚楚。5.2 除法恢复余数与加减交替法除法比乘法更难硬件化因为每次商位的确定都依赖于“够不够减”的判断。最基础的是恢复余数法每次尝试减去除数如果余数为负说明不够减把除数加回去恢复余数商上0如果够减商上1。这个过程很好理解但每次失败都要来回加一次浪费时间。改进的办法是加减交替法不恢复余数法这次不够减不着急恢复而是带着负余数继续下一步下一步根据余数符号决定加除数还是减除数。这个方法省掉了“恢复”的步骤每步只做一次运算速度快了一倍。考试中常见的流程就是追踪这个加减交替过程得到一个商和余数。除法还有一个工程上的坑除数为0的问题。硬件上会检测并触发异常或返回特定标志位。很多人写C语言时以为整数除0会抛异常实际上x86架构上的表现是硬件中断最终被操作系统转成浮点异常信号。学完这一节再看到除0相关的问题至少能判断是发生在CPU层面还是运行时库层面。5.3 ALU的整体框架一个芯片里的“运算心脏”把加减乘除、逻辑运算、移位整合到一起的部件就是ALU。它的基本输入是操作数A、B和操作码基本输出是结果和状态标志位零标志ZF、进位标志CF、溢出标志OF、符号标志SF。在指令集层面程序员看到的只是一个个指令比如add、sub、and、or、shl但每条指令进入CPU后都会翻译成一组ALU控制信号由ALU执行后返回结果和标志位。这里我想强调层面感一个是“程序员面对的运算符号”一个是“指令集提供的运算指令”一个是“ALU内部运算电路的结构”。三者层层递进许多底层优化比如用移位代替乘法、用低开销指令组合替代复杂运算就是在这几层之间做权衡。面试考察这道题往往不是要你会加乘除而是看你能不能把这些层次打通。6. 常见问题速查表与避坑经验这一节汇总我在学习和实际调试中反复踩过的坑都按“现象 → 原因 → 对策”来写。常见问题根本原因解决办法浮点数累加结果不对对阶过程中小树被右移丢弃改变累加顺序先加小的或用Kahan求和算法int型溢出产生负数补码范围有限溢出后回绕使用更大的类型long long / Python大整数或在运算前检查范围除法余数正负不确定C/C语言标准规定余数符号与被除数一致需要正余数时手动加除数调整负数右移结果出乎意料算术右移保留符号位而不是补0明确区分逻辑右移和算术右移需要无符号右移用unsigned类型两个大数相加溢出但结果看似正常补码加法溢出会被丢弃用双符号位判断溢出或者在汇编层面观察OF标志浮点数比较不相等尾数精度有限计算结果存在误差改为与epsilon比较或者用整数/定长小数6.1 数值精度损失的三个实战示例第一个例子是折扣计算。业务上经常出现“秒杀价格 原价 × 0.9”float计算后显示成39.999996。解决办法是先放大成整数精度原价399分 × 90 / 100 359分最后再转回元。这是金融领域必须用整数或定点数的核心原因。第二个例子是机器学习里的梯度累加。训练过程中loss和梯度经常是上万步累加如果直接用float32保存早期的小梯度会被后期的大梯度“吃掉”最终收敛到错误的模型。工程上的对策是使用混合精度训练框架中的梯度累加器内部用float32甚至更高精度做累加只在必要时回落到float16。第三个例子是模拟器里做物理碰撞检测。两个物体位置非常接近时浮点相减会出现灾难性抵消两个很大的数相减得到很小的结果但有效数字位数已经丢光了。对策是重写公式避免直接相减比如用“双精度做空间索引用容差做比较”。6.2 期末考试和面试中最容易混淆的4个概念很多人在“补码的表示范围”“符号扩展”“隐含位”“溢出判断”这几个地方翻车。我把关键区分说透补码的符号扩展8位-1是1111 1111扩展到16位应该是1111 1111 1111 1111也就是在高位补符号位。如果你按0扩展-1就变成了255完全错了。正数的符号扩展是在高位补0负数是补1。隐含位的存在规格化浮点数的尾数默认是1.xxx但非规格化数是0.xxx别把“隐含1”当成所有浮点数都有的规律。溢出判断补码运算中判断溢出的标准是“最高数值位的进位”和“符号位的进位”是否相同。两者相同则无溢出不同则有溢出。用双符号位变形补码也可以在ALU中直接检测。浮点数阶码比较因为用了移码比较阶码大小可以直接按无符号整数比较但不能直接在补码意义下比较这也是移码存在的目的之一。6.3 一位硬件工程师的调试笔记我在做一个音频采集模块时遇到过ADC采集到的数据全是乱码的情况。排查半天发现是驱动代码里把一个int16_t左移了8位赋给int32_t然后又在无符号和有符号之间来回踩符号扩展把数据彻底搞乱了。究其原因就是没有想清楚“整数提升”和“符号扩展”的规则。还有一次做寄存器配置想让某一位变成1代码写的是reg | 1 5结果没生效。因为reg是个16位的寄存器但1默认是int类型在32位机器上1 5没问题但如果改成1 15整个寄存器被符号扩展填充成了负数。正确的写法是使用1U作为左操作数。这个细节在嵌入式代码的code review里经常被点出来。所以一个朴素的建议写底层代码时涉及位操作和整数迁移一定显式带上类型后缀U、L、UL并且明确知道符号位是否会被扩展。宁可多打几个字符也不要让编译器替你做决定。7. 最后说一点我个人复习和教学中的体会数据表示与运算这一章是整套“计算机组成原理”里最像数学的一章公式多、边界条件多、容易劝退。但我自己学了三四遍之后发现真正要背的东西极少绝大多数结论都可以从几个基本出发点推导出来补码是为了把减法统一成加法移码是为了无符号比较阶码浮点是科学计数法的二进制版加法器进位是为了让乘法除法有基础可以搭。想明白这几点再回去看真题会发现题目翻来覆去考的就是这些。如果你正在准备期末或者考研我给一个实际的操作建议别只刷选择题找几道需要手算浮点数加法、补码乘法、加减交替除法的题一步步写完再对照解析。只有亲手推过一遍流程你才会真正理解“对阶”、“舍入”、“规格化”这些词背后到底发生了什么。如果你已经工作只是偶尔遇到精度或者位运算的烦心事那这一章的收益更多体现在“定位问题”上。以后再碰到float误差你不会再觉得它神秘而是会立刻反应到“尾数精度不够”碰到负数右移的怪结果你也会第一时间想到算术位移的符号扩展。这种能力不是靠刷题刷出来的是理解底层之后自然获得的本能。
1. 这一章到底在讲什么从“数字怎么存”到“数字怎么算”先说个很多人初学时的困惑明明用着高级语言写代码为什么还要回头啃计算机组成原理里的数据表示我当年学到这里也觉得抽象直到后来调一个浮点数精度问题调到怀疑人生才意识到——你写的每一条int、float、double在硬件眼里不过是一串高低电平而这串电平怎么解释、怎么参与运算完全由这一章的内容决定。这一章的核心说白了就三件事数字在计算机里长什么样数据表示、数字怎么参与最基本的加减乘除运算方法、以及这些运算在硬件层面是怎么被搭出来的运算部件。三件事层层递进也是整个计算机组成原理里最“硬核”但也最“落地”的部分。你后面学指令系统、CPU流水线、存储层次都会反复用到这里的结论。适合谁来读两类人最需要一类是正在准备期末或者考研的计算机专业学生这一类内容几乎是必考的重头戏另一类是做嵌入式、底层开发或者对调试精度问题头疼的开发者补上这块知识后很多原来靠试错解决的问题会变成按计算就可以推出来的结论。我尽量把原码、补码、浮点、ALU算术逻辑单元这些概念串成一条线来讲不搞零散知识点罗列该给结论的地方直接给结论该推过程的地方也不跳过读完你可以直接拿去应付题目或者指导实际调试。2. 整数在机器里怎么表示原码、反码、补码不是历史包袱是数学必然2.1 为什么不能直接存“符号 数字”正常人写数学题正负号写在数字前面就行比如5、-5。最朴素的想法自然是计算机里也拿一个二进制位表示符号剩下几位表示数值。这就是原码。原码的问题是加减法变得很痛苦。你想算 5 - 3硬件不知道“减”是什么它只会做加法。那 5 (-3) 怎么做如果直接用原码相加结果是 1000 10001000代表-0完全不对。于是硬件设计者只能加一堆判断逻辑先比大小再决定谁减谁还要看符号。这非常浪费晶体管而且实现起来容易出错。反码是对原码的一次改进负数把除符号位外的每一位取反。它的意义在于让“加法电路”可以处理减法但反码仍然有一个无法回避的问题会出现正0和负0两种0的表示。二进制的世界里同一个数有兩種编码这在比较和运算时都会引入额外的分支判断。真正一劳永逸解决这个问题的是补码。补码的数学本质是模运算上的“同余”。一个n位二进制数一共能表示2^n个状态所有的加法都在模2^n下进行。所谓负数就是它的“补数”——加上它等于没加相当于绕着计数器的刻度走了一圈回到起点。补码的定义一句话正数的补码等于自身负数的补码等于对应正数取反加一。为什么取反加一刚好落在这个数学框架内因为对一个n位数x取反得到的是(2^n - 1) - x再加一就是2^n - x这正是x在模2^n意义下的负数。这个设计带来的好处是革命性的0的表示唯一全0就是0省掉了一个重复状态。加法和减法统一成加法硬件只需要做一个加法器就能同时处理两者。符号位可以直接参与运算不需要单独判断。2.2 补码的快速心算与范围边界不少教材上来就让人背“取反加一”可考试和面试里你根本没时间慢慢取反。我分享一个心算技巧从一个负数x的绝对值的二进制表示出发从最低位开始往上找到第一个1这个1以及它右侧的位保持不变左侧所有位取反。举例-6的绝对值是110从右往左看第一位是0不变第二位是1这个1变成“转折点”它本身保持不变它左边的1变成0所以结果是10104位情况。这个技巧比“取反加一”更快因为减少了进位运算而且在脑子里不容易出错。补码的范围也是高频考点n位补码能表示的范围是-2^(n-1)到2^(n-1)-1。比如8位就是-128到127。这里经常有人问为什么负数多一个数。因为补码中0占用了全0编码负数比正数要多一个额外状态1000 0000表示-128。这个多出来的坑就是后面“溢出”和“边界bug”的源头。实际写代码时的经典场景是C语言的int溢出。int的绝对上限减一再加一就会突然变成负数。很多人写for循环int i; for (i INT_MAX - 5; i INT_MAX; i) { // 死循环一旦i溢出变成负数永远小于INT_MAX }这就是补码运算的结果无符号整数的溢出是回绕有符号整数的溢出是未定义行为在绝大多数编译器上表现成“从最大值跳到最小值”。理解了补码的数学原理后这种bug不用调试看一眼就知道怎么回事。2.3 移码给浮点数阶码准备的“无符号负数”除了原码、反码、补码还要提一个移码biased notation。移码的思路很简单给所有数加上一个偏置值bias让原本有正有负的指数变成无符号数。比如8位移码偏置127真实指数-1表示为1260表示为1271表示为128。为什么要引入它因为浮点数比较大小的时候如果阶码用补码负指数和正指数在二进制序上并不一致比较起来要额外判断符号用移码后全按无符号数比就可以直接比较浮点数的大小。这是IEEE 754标准里偏置值设计的直接原因细节在下一节展开。3. 浮点数表示精度问题的“万恶之源”3.1 从定点数到浮点数的思路演进定点数的意思很好理解小数点位置固定。定点的缺点也很明显能表示的范围由位数框死想表示从1e-38到1e38这种跨度得用几百位不现实。浮点数借鉴的是科学计数法任何一个数都可以写成 (-1)^s × 1.f × 2^(e-bias) 的形式。其中s是符号位f是尾数的小数部分e是存储的阶码值。既然小数点可以左右移动就称它为“浮点数”。IEEE 754单精度浮点数一共32位布局是1位符号位、8位阶码、23位尾数。双精度则是1位符号位、11位阶码、52位尾数。注意阶码部分存的是移码后的值而不是真实指数尾数部分默认省掉了小数点前的那个1这叫做“隐含位”或“隐藏位”。为什么要省掉那个1因为规格化浮点数的形式是1.xxxxx这个整数部分永远是1没必要浪费一位去存省下来的那一位可以用来提高尾数的精度。这也是一个典型的“用约定换精度”的设计。3.2 规格化与非规格化边界上的特殊处理规格化浮点数是指尾数最高有效位隐含位为1的表示正常范围内的数都是规格化的。但规格化有一个盲区它表示不了非常接近0的数。当真实指数小到阶码全为0时再继续按规格化处理尾数里最小的1也对应不到正常的精度。于是IEEE 754定义了非规格化数denormal允许尾数的隐含位变成0让这些数缓慢地“衰减”到0而不是直接跳变。这个细节在计算机组成原理考试里经常考“为什么阶码全0或全1要特殊处理”在工程上则保护了数值计算的平滑性。除了非规格化数还有两类状态阶码全1且尾数全0表示无穷大正负各一个阶码全1且尾数非0表示NaNNot a Number即非法运算的结果。这个设计让浮点数在出错时不至于直接让程序崩溃而是可以传播、检查、处理。我列一个快速参考表方便复习记忆情况阶码尾数含义正零000负零00符号位1-0非规格化数0非0接近0的数规格化数1~254任意常规范围无穷大全10±∞NaN全1非0非数值3.3 浮点数加法的手算全过程看清楚浮点加减的流程考试题基本就稳了。以两个单精度数相加为例完整步骤是对阶把两个数的阶码对齐小阶向大阶看齐。阶码小的那个尾数右移右移几位等于阶差。尾数求和舍掉隐含位按补码/原码规则做尾数相加。规格化如果结果尾数溢出最高位进位则右移一位并阶码加1如果结果是0.1xxx的形式最高位为0则左移直到最高位为1同时阶码减移动次数。舍入处理右移时丢弃的位需要进行舍入常见策略有就近舍入、截断、向上/向下舍入。检查溢出如果阶码超出最大值结果变成无穷大如果低于最小值变成非规格化数或者0。一个具体例子计算 1.25 2.5。1.25 1.01 × 2^02.5 1.01 × 2^1。对阶1.25变成0.101 × 2^1。尾数相加0.101 1.010 1.111。结果已经是1.111 × 2^1规格化完成。答案1.111 × 2^1 3.75。看起来简单但这里有一个隐藏很深的问题对阶时右移会把低位移丢。比如计算 16777216.0f 1.0f单精度的尾数只有23位16777216对应2^24尾数已经没有空间表示1了对阶时1被右移出了所有有效位结果还是16777216。这就是“大数吃小数”的本质。这也是为什么在数值计算领域有个铁律千万不要把一个大数和一堆小数累加应该从小到大加。理解了浮点数的对阶过程这条规则就不是死记硬背而是完全可以推导出来的结论。3.4 浮点数与编程语言中的“天坑”C语言里float和double的运算大家都会写但很少有人意识到每一次加减乘除背后都在做上面这一整套流程。莫名其妙多出的0.0000001精度误差不是编译器bug而是尾数位数有限导致的结果。更典型的例子是0.1 0.2在二进制中0.1是一个无限循环小数计算机只能存储23位或者52位的近似值所以0.1 0.2并不等于0.3而是一个近似值。很多刚入门的人问为什么Python里0.1 0.2不等于0.3答案就在IEEE 754的尾数精度上。Python的float就是双精度浮点数跟C语言里的double完全一致。这不是一门语言的缺陷是任何有限精度二进制表示都无法避免的问题。实际工程中比较浮点数要加epsilon容差做金融计算要用定点数或者整数科学计算要考虑数值稳定性。这些经验你知道吗如果你在读这一章之前不太清楚那现在可以用对阶、舍入、精度损失这套理论来理解比单纯背结论靠谱得多。4. 位运算与逻辑运算高级语言里隐藏的硬件基因4.1 位运算背后的真值表与ALU很多学编程的人把位运算当成奇技淫巧其实它在硬件上是最天然的运算——因为每一位都是独立的逻辑门没有进位传递的问题。与、或|、非~)、异或^对应着逻辑门电路的基础功能ALU内部就是用这些逻辑门加上加法器搭出来的。先看真题里常考的几个公式x (x - 1)消除x二进制表示中最右边的1。这个技巧在很多场景里秒杀“统计1的个数”的朴素循环。x (-x)取出x的最低位1lowbit。这个在树状数组算法里几乎是标配。x ^ x 0x ^ 0 x异或的自反性质可以用来做无临时变量交换。x 1除以2注意负数时向下取整不是向零取整和C语言/Java对有符号整数右移的定义一致。x 1判断奇偶比求模运算快但现代编译器会优化取模性能差异其实很小不必迷信“位运算更快”更重要的价值是逻辑表达更简洁。还有一个容易被忽略的操作左移和右移的算术与逻辑区别。逻辑右移是全位右移高位补0算术右移则保证符号位不变高位补符号位本身。很多人在C语言里对负数做右移时拿到出乎意料的结果就是因为忽略了算术右移的符号填充。4.2 位掩码与硬件寄存器的操作嵌入式开发中位运算最主要的用途是操作寄存器。一个32位的寄存器每一位都代表一个控制开关或者状态位你要做的是置位SET_BIT、清位CLR_BIT、翻转TOGGLE_BIT、检查IS_BIT_SET。对应的写法分别是#define SET_BIT(reg, n) ((reg) | (1U (n))) #define CLR_BIT(reg, n) ((reg) ~(1U (n))) #define TOGGLE_BIT(reg, n) ((reg) ^ (1U (n))) #define IS_BIT_SET(reg, n) (((reg) (n)) 1U)这套宏定义广泛出现于各种单片机编程中。理解了它就理解了为什么需要位运算寄存器的每一位都代表实实在在的硬件状态你没有“同时操作一个字节”的粒度只能靠位运算来精准控制。4.3 加法器与进位链组间串行进位到底在说什么计算机组成原理考试里“串行进位”是个高频词。一位全加器输出一个求和位和一个进位输出多位加法就是把多个全加器串联起来低位的进位输出接到高位的进位输入。这是最直观的加法器结构叫做串行进位加法器ripple carry adder。串行进位的问题在于慢最高位的计算结果要等最低位的进位一级一级传上来位宽越大延迟越高就像排队一个一个过闸口。假设一位进位延迟为tn位加法的进位延迟就是n倍的t这个线性增长在高速处理器里不可接受。于是出现“组间串行进位”的概念先把若干位组成一组组内采用并行进位先行进位组间仍然采用串行。这相当于在局部提速的基础上仍然保持结构的简单性。再进一步就是完全并行的先行进位加法器carry lookahead adder直接根据输入的每一位和最低进位推算出每一位的进位进位延迟从O(n)降到了O(log n)级别。考试题里常常让你算“4位一组组间串行进位的延迟”关键是分清组内并行、组间串行组内可以快速地同时产生进位但组间进位还是要一级一级传递。理解这个层级关系比背公式有用得多。5. 定点数乘除法与ALU计算机怎么完成复杂计算5.1 乘法从多次加法到移位相加硬件做乘法最朴素的方法是重复加法但效率太低。现代乘法器的核心思想是“移位相加”。以原码一位乘法为例乘数从最低位开始逐位判断若当前位为1被乘数左移相应位数后加到部分积若为0则只移位不加。最终部分积累加的结果就是乘积符号位单独用异或处理。补码乘法中更常用的是Booth算法它的核心是利用“连续一串1”的规律把多次加法转换成一次加法和一次减法。比如计算1011 × 1101时直接按位乘加需要加上四个部分积但1101可以看成1000 0100 0001也可以改造为10000 - 0011的形式Booth算法就是通过扫描相邻两位的变化来减少累加次数。不过对大多数同学来说乘法的重点考题是一次乘法的位数扩展。两个n位数相乘结果最多是2n位这在硬件设计里必须提前预留否则会出现溢出。这也是为什么高级语言里整型相乘的结果可能溢出而汇编层面看得清清楚楚。5.2 除法恢复余数与加减交替法除法比乘法更难硬件化因为每次商位的确定都依赖于“够不够减”的判断。最基础的是恢复余数法每次尝试减去除数如果余数为负说明不够减把除数加回去恢复余数商上0如果够减商上1。这个过程很好理解但每次失败都要来回加一次浪费时间。改进的办法是加减交替法不恢复余数法这次不够减不着急恢复而是带着负余数继续下一步下一步根据余数符号决定加除数还是减除数。这个方法省掉了“恢复”的步骤每步只做一次运算速度快了一倍。考试中常见的流程就是追踪这个加减交替过程得到一个商和余数。除法还有一个工程上的坑除数为0的问题。硬件上会检测并触发异常或返回特定标志位。很多人写C语言时以为整数除0会抛异常实际上x86架构上的表现是硬件中断最终被操作系统转成浮点异常信号。学完这一节再看到除0相关的问题至少能判断是发生在CPU层面还是运行时库层面。5.3 ALU的整体框架一个芯片里的“运算心脏”把加减乘除、逻辑运算、移位整合到一起的部件就是ALU。它的基本输入是操作数A、B和操作码基本输出是结果和状态标志位零标志ZF、进位标志CF、溢出标志OF、符号标志SF。在指令集层面程序员看到的只是一个个指令比如add、sub、and、or、shl但每条指令进入CPU后都会翻译成一组ALU控制信号由ALU执行后返回结果和标志位。这里我想强调层面感一个是“程序员面对的运算符号”一个是“指令集提供的运算指令”一个是“ALU内部运算电路的结构”。三者层层递进许多底层优化比如用移位代替乘法、用低开销指令组合替代复杂运算就是在这几层之间做权衡。面试考察这道题往往不是要你会加乘除而是看你能不能把这些层次打通。6. 常见问题速查表与避坑经验这一节汇总我在学习和实际调试中反复踩过的坑都按“现象 → 原因 → 对策”来写。常见问题根本原因解决办法浮点数累加结果不对对阶过程中小树被右移丢弃改变累加顺序先加小的或用Kahan求和算法int型溢出产生负数补码范围有限溢出后回绕使用更大的类型long long / Python大整数或在运算前检查范围除法余数正负不确定C/C语言标准规定余数符号与被除数一致需要正余数时手动加除数调整负数右移结果出乎意料算术右移保留符号位而不是补0明确区分逻辑右移和算术右移需要无符号右移用unsigned类型两个大数相加溢出但结果看似正常补码加法溢出会被丢弃用双符号位判断溢出或者在汇编层面观察OF标志浮点数比较不相等尾数精度有限计算结果存在误差改为与epsilon比较或者用整数/定长小数6.1 数值精度损失的三个实战示例第一个例子是折扣计算。业务上经常出现“秒杀价格 原价 × 0.9”float计算后显示成39.999996。解决办法是先放大成整数精度原价399分 × 90 / 100 359分最后再转回元。这是金融领域必须用整数或定点数的核心原因。第二个例子是机器学习里的梯度累加。训练过程中loss和梯度经常是上万步累加如果直接用float32保存早期的小梯度会被后期的大梯度“吃掉”最终收敛到错误的模型。工程上的对策是使用混合精度训练框架中的梯度累加器内部用float32甚至更高精度做累加只在必要时回落到float16。第三个例子是模拟器里做物理碰撞检测。两个物体位置非常接近时浮点相减会出现灾难性抵消两个很大的数相减得到很小的结果但有效数字位数已经丢光了。对策是重写公式避免直接相减比如用“双精度做空间索引用容差做比较”。6.2 期末考试和面试中最容易混淆的4个概念很多人在“补码的表示范围”“符号扩展”“隐含位”“溢出判断”这几个地方翻车。我把关键区分说透补码的符号扩展8位-1是1111 1111扩展到16位应该是1111 1111 1111 1111也就是在高位补符号位。如果你按0扩展-1就变成了255完全错了。正数的符号扩展是在高位补0负数是补1。隐含位的存在规格化浮点数的尾数默认是1.xxx但非规格化数是0.xxx别把“隐含1”当成所有浮点数都有的规律。溢出判断补码运算中判断溢出的标准是“最高数值位的进位”和“符号位的进位”是否相同。两者相同则无溢出不同则有溢出。用双符号位变形补码也可以在ALU中直接检测。浮点数阶码比较因为用了移码比较阶码大小可以直接按无符号整数比较但不能直接在补码意义下比较这也是移码存在的目的之一。6.3 一位硬件工程师的调试笔记我在做一个音频采集模块时遇到过ADC采集到的数据全是乱码的情况。排查半天发现是驱动代码里把一个int16_t左移了8位赋给int32_t然后又在无符号和有符号之间来回踩符号扩展把数据彻底搞乱了。究其原因就是没有想清楚“整数提升”和“符号扩展”的规则。还有一次做寄存器配置想让某一位变成1代码写的是reg | 1 5结果没生效。因为reg是个16位的寄存器但1默认是int类型在32位机器上1 5没问题但如果改成1 15整个寄存器被符号扩展填充成了负数。正确的写法是使用1U作为左操作数。这个细节在嵌入式代码的code review里经常被点出来。所以一个朴素的建议写底层代码时涉及位操作和整数迁移一定显式带上类型后缀U、L、UL并且明确知道符号位是否会被扩展。宁可多打几个字符也不要让编译器替你做决定。7. 最后说一点我个人复习和教学中的体会数据表示与运算这一章是整套“计算机组成原理”里最像数学的一章公式多、边界条件多、容易劝退。但我自己学了三四遍之后发现真正要背的东西极少绝大多数结论都可以从几个基本出发点推导出来补码是为了把减法统一成加法移码是为了无符号比较阶码浮点是科学计数法的二进制版加法器进位是为了让乘法除法有基础可以搭。想明白这几点再回去看真题会发现题目翻来覆去考的就是这些。如果你正在准备期末或者考研我给一个实际的操作建议别只刷选择题找几道需要手算浮点数加法、补码乘法、加减交替除法的题一步步写完再对照解析。只有亲手推过一遍流程你才会真正理解“对阶”、“舍入”、“规格化”这些词背后到底发生了什么。如果你已经工作只是偶尔遇到精度或者位运算的烦心事那这一章的收益更多体现在“定位问题”上。以后再碰到float误差你不会再觉得它神秘而是会立刻反应到“尾数精度不够”碰到负数右移的怪结果你也会第一时间想到算术位移的符号扩展。这种能力不是靠刷题刷出来的是理解底层之后自然获得的本能。
