活动详情 – 学生平台 – 重庆大学网络教育学院
存储程序计算机有一个副作用,就是位模式没有内在的含义。相同的位模式可能代表有符号整数、无符号整数、浮点数和指令等。对这个字操作的指令决定了其意义。
计算机算术和用纸和笔手算的算术不同的地方是受到有限精度的约束。这个限制可能会因为计算中数大于或者小于预先的设定而导致无效操作。这种异常,称为“上溢”或“下溢”,可能导致异常、中断或类似于意外的子程序调用。
浮点算术因为是对实际的数字的近似而增加了挑战性,而且要小心确保所选的计算机数能够最接近地表示实际数字。不精确和有限的表达带来的挑战是数值分析领域灵感的部分来源。
过去的多年里,计算机算术变得非常标准化,极大地增加了程序的可移植性。当今大量计算机都采用了二进制整数补码算术和 IEEE 754 二进制浮点算术。