浮点数为什么会有误差

浮点数是属于有理数中某特定子集的数的数字表示,在计算机中用以近似表示任意某个实数,具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学计数法,造成浮点数误差的原因:其根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据,所以会让浮点数有所差别。

0
纠错

猜你喜欢

浮点数为什么会有误差
问答乎 m.wendahu.com