原始記錄、報告上的有效數字如何確定?
2020-02-25
作者:
瀏覽數(shu):1400
原(yuan)始記(ji)(ji)錄(lu)(lu)的有(you)效數(shu)字位數(shu)既不(bu)可(ke)(ke)少,也不(bu)可(ke)(ke)多,要(yao)根據儀(yi)器、儀(yi)表指(zhi)示的最小分度值如實記(ji)(ji)錄(lu)(lu),并允許(xu)增記(ji)(ji)一(yi)位估計數(shu)字。
例如(ru),50 mL,滴定管(guan)的最(zui)小分度值(zhi)為0.1 mL,又因為允許增加一位估(gu)計數字,可以記錄(lu)到兩(liang)位小數,如12.34 mL。
這一量值表明十分位上的3是刻(ke)度(du)指(zhi)示值,確切(qie)可信;百分位(wei)上的4則是(shi)估計判讀的,是(shi)可疑(yi)數字,并知其波動范圍為0.02 mL,其相(xiang)對誤差為(0.02/12.34)×100%=0.16%。若在原始記錄中(zhong)僅記為12.3 mL,則表示可能產生(sheng)1.6%的相對誤差。
由于(yu)原始記錄不合(he)理致使數據的(de)準確度下降一(yi)個(ge)數量級(ji)。但也不可任意增加有效數字的位數。如果記成12.340則是(shi)明(ming)顯失真(zhen),因為不(bu)可能(neng)估計(ji)出兩位數(shu)字。
告訴大家一個方法,實驗室通的儀器、儀表、計量器具最(zui)小(xiao)分度(準確到第幾位),可以用檢定規程,校準規范,設備說明書等文件獲得。
報(bao)告結果的(de)有效數(shu)字取四分(fen)之(zhi)一個(ge)標準差的(de)首數(shu)所在(zai)數(shu)位,定為分(fen)析(xi)結果的(de)尾數(shu)。例如:某一測定結果為25.352,標準差為1.4,四分之一標準差為0.35,其首位數字(0.35中的3)所在數位是十分位,即定為該結果的末位,可報為25.4
(2)方(fang)法的標準差未知(zhi)的情(qing)況
這種(zhong)遵(zun)守原始(shi)記錄的結果,并按照有(you)效數字(zi)的運算規則來(lai)確定。
最終計算結果中保留的小數位數,與參加運算的有效數字中小數位數最少者相同
運算結果經修約后,保留的有效數字位數應與參加運算的幾個有效數字中有效位數最少者相同。
對數(shu)的(de)有效(xiao)數(shu)字(zi)位數(shu)應和原數(shu)(真數(shu))的(de)相同。
平方(fang)、立方(fang)、開(kai)方(fang)運算:
計算(suan)結果(guo)的有效(xiao)數(shu)字位數(shu)應和(he)原數(shu)的相同。
例如(ru):某實驗室(shi)要求(qiu)測試密度。
原始記錄的結果為:質量(liang)m=0.8044g,體(ti)積(ji)V=1.82ml
密度=m/v=0.8044/1.82=0.4419780219·······
這是一個乘除運算,最終結果與(yu)參加運算的幾個有效數字中有效位數最少者(1.82)相同
那么報告的最終結果應該是:0.442g/ml
來源(yuan):實驗室(shi)ISO17025