編輯推薦
免費資料
免費領取
網校內部資料包
考試輔導
直播課
有效數字位數應以小數點后位數最少的數據為準,其余數據依次修約,然后進行計算。
在運算過程中,為減少舍入誤差,其它數值的修約可以暫醫(yī)`學教育網搜集整理時多保留一位,等運算得到結果時,再根據有效位數棄去多余的數字。
例題:計算 0.0125+20.12+1.2364-2.25551
小數點后位數最少的數據是20.12,修約后計算:
0.012+20.12+1.236-2.256=19.112→19.11