問題已解決

用round公式保留兩位小數(shù)后為什么求和后8位小數(shù)

84784971| 提問時(shí)間:2023 01/17 19:58
溫馨提示:如果以上題目與您遇到的情況不符,可直接提問,隨時(shí)問隨時(shí)答
速問速答
青檸
金牌答疑老師
職稱:會(huì)計(jì)實(shí)務(wù)
Round公式用于保留指定位數(shù)的小數(shù),它有一個(gè)自帶函數(shù)round(x,n),參數(shù)x為待舍入的數(shù),參數(shù)n為保留的小數(shù)位數(shù)。當(dāng)參數(shù)n=2時(shí),round(x,n)可以保留指定精度的小數(shù),但是由于浮點(diǎn)數(shù)的原因,在求和的時(shí)候,有時(shí)會(huì)出現(xiàn)精度不夠的情況,從而導(dǎo)致求和的結(jié)果超過了預(yù)期的多余2位小數(shù)。 舉個(gè)例子,將三個(gè)小數(shù)0.123,0.456,0.789舍入到2位小數(shù): round(0.123,2)的結(jié)果為0.12 round(0.456,2)的結(jié)果為0.46 round(0.789,2)的結(jié)果為0.79 按照精確到2位小數(shù)的要求,三個(gè)數(shù)求和后,結(jié)果應(yīng)為1.37;但是,如果對(duì)此數(shù)進(jìn)行浮點(diǎn)數(shù)運(yùn)算,則會(huì)出現(xiàn)精度不夠的情況,從而得到1.370000000000001。 因此,當(dāng)使用round公式保留兩位小數(shù)后求和時(shí),有時(shí)會(huì)得到8位小數(shù)。 拓展知識(shí): 浮點(diǎn)數(shù)在計(jì)算機(jī)中是以二進(jìn)制表示的,而不是以十進(jìn)制表示,因此在某些情況下,它無法精確表示某些數(shù)字,這就導(dǎo)致了計(jì)算精度的損失,從而導(dǎo)致求和的結(jié)果超過了預(yù)期的多余2位小數(shù)。
2023 01/17 20:08
描述你的問題,直接向老師提問
0/400
      提交問題

      您有一張限時(shí)會(huì)員卡待領(lǐng)取

      00:10:00

      免費(fèi)領(lǐng)取
      Hi,您好,我是基于人工智能技術(shù)的智能答疑助手,如果有什么問題可以直接問我呦~