CS1
浮点数
浮点数标准（主要是 IEEE 754）的定义并非随意的工程拍脑袋，而是一场数学严谨性、硬件执行效率和数值稳定性之间的极限拉扯。 该标准的主要设计者 William Kahan（因此获得图灵奖）在制定标准时，核心目标是为了解决当时科学计算中跨平台结果不一致，以及数值计算极易由于溢出或舍入导致系统崩溃的问题。 这种将32位（以单精度 float 为例）划分为 1...
Search posts…
Search posts…
浮点数标准（主要是 IEEE 754）的定义并非随意的工程拍脑袋，而是一场数学严谨性、硬件执行效率和数值稳定性之间的极限拉扯。 该标准的主要设计者 William Kahan（因此获得图灵奖）在制定标准时，核心目标是为了解决当时科学计算中跨平台结果不一致，以及数值计算极易由于溢出或舍入导致系统崩溃的问题。 这种将32位（以单精度 float 为例）划分为 1...