精确度0.005啥意思,以前只见过0.001

2024-11-08 14:37:42
推荐回答(1个)
回答1:

①精确度0.005的意义:将小数点后的第三位数按四舍五入法处理,最后得到一个有两位小数的近似数,这个近似数的误差不超过小数点后第二位的半个单位,即误差不超过0.01/2=0.005,这就是近似数的精确度为0.005的意义。比如:1.164995,按四舍五入保留两位小数为1.16,1.16的误差不大于0.005,事实上1.16的误差为0.004995<0.005。再比如0.62501,按四舍五入近似为两位小数0.63,0.63的误差为0.00499<0.005。②精确度0.001的意义:将小数点后第四位及其以后的数舍去,第三位加1(舍入)或不加1(舍去),这样得到的近似数的误差不大于小数点后第三位的一个单位,即0.001。如π=3.141592...,舍去小数点第四位以后的数,π≈3.141,误差为0.000592...<0.001;再比如0.62999,舍去第四位以后的数同时第三位加1:0.630,误差为0.000001<0.001。由上可以看出,保留相同的小数位时,四舍五入法的精确度不低于单纯舍去法或单纯舍入法的精确度,一般情况下四舍五入法的精确度比单纯舍去法和单纯舍入法的精确度高。