<ul id="8aumu"></ul>
  • <strike id="8aumu"></strike>
  • <ul id="8aumu"></ul>
    食品伙伴網服務號

    數據處理 | 有效數字&數值修約

    放大字體  縮小字體 發布日期:2024-01-23
    核心提示:有效數字及其運算一有效數字及其有效數字的保留1 有效數字的定義有效數字指,保留末一位不準確數字,其余數字均為準確數字。有效
    有效數字及其運算

    一有效數字及其有效數字的保留



    1 有效數字的定義

    有效數字指,保留末一位不準確數字,其余數字均為準確數字。有效數字的最后一位數值是可疑值。



    如:0.2014為四位有效數字,最末一位數值4是可疑值,而不是有效數值。

    再如:1g、1.000g其所表明的量值雖然都是1,但其準確度是不同的,其分別表示為準確到整數位、準確到小數點后第三位數值。因此有效數值不但表明了數值的大小,同時反映了測量結果的準確度。



    2 有效數字的保留

    由于有效數字最末一位是可疑值,而不是準確值。因此,計算過程中,計算的結果應比標準極限或技術指標規定的位數要求多保留一位,最后的報出值應與標準對定的位數相一致。


    如:在標準的極限數值(或技術指標)的表示中,××≧95 表明結果要求保留到整數位。因此,計算結果一定要保留到小數點后一位,最后再修約到整數位,如計算結果為94.6報出結果為95(-);因為94.6結果的0.6為可疑值,要想保留到整數位結果為準確值,計算結果必須要多保留一位。

    如,分析天平的分辨率為0.1mg(即我們常說的萬分之一天平),如果我們稱取的量是10.4320g.,則實際的稱取結果結果為10.4320±0.0002g(萬分之一的天平誤差)。因為再精確的儀器設備都有誤差,因此,在重量法中,如果檢驗方法中要求:直至恒重,即前后兩次差不大于0.0002g即為恒重了。(講電子天平的準確度)



    如GB/T 601《化學試劑標準滴定溶液的制備》,要求保留4為有效數字,因此在標定計算結果中,應保留5位有效數字,最后再修約到4為有效數字(如果直接保留到4為有效數字,實際上是保留了三位有效數字,因最后一位是可疑值,則由標準溶液的濃度的不準確,會引進系統誤差。

    二“0” 在數字中的作用


    “0”作為一個特殊的數字,在數值的不同的位置,有著不同的作用,只有明確了“0”在數字中的作用,才能更好的掌握有效數字及其加減乘除的運算規則。“0”在數字中不同的位置,有不用的作用,根據“0”在數字的位置,起三種作用。即定位(無效)、定值(有效)及不確定作用。



    2.1 定位(無效)

    當“0”在小數點后,又在數字之前(前提:小數點前為“0”)時,為定位。如:0.0001(數字前4個零)0.02040(數字前2個零)均為定位作用;


    2.2 定值(有效)

    當“0”在小數點后的數值中間或數尾(前提:小數點前必為“0”)時。如:0.002040.300020

    當“0”在小數點后,而小數點前為非“0”時。如1.000 1.0204

    均為有效作用



    2.3 不確定作用:當“0”在整數后

    如:4500有效數值是幾位?回答是:不確定

    將4500用三為有效數字表示:0.450×104 4.50×103

    將4500用四為有效數字表示:0.4500×104 45.00×102


    三數字修約規則(GB8170)

    3.1 數字修約規則 例題:將下列各數修約到小數點后一位數。

    修約前 修約后

    四舍六入五考慮, 12.44 12.4

    12.46 12.5

    五的情況有三種:12.35 12.4

    五后為零看前位,12.45 12.4

    五前為奇要進一 12.451 12.5

    五前為偶要舍去,

    五后非零則進一。


    3.2 檢驗結果的修約

    根據技術標準的指標要求,在原始記錄中,通常檢驗計算的結果應比標準規定的位數要多保留一位,但被多保留的一位數值,應該體現出修約的情況,或一步修約到位,但不能存在連續修約的現象



    a)檢驗結果修約后,應體現出修約的情況

    如 標準值 ××<0.5

    檢測結果為:0.456 第1步修約:0.46(-)(四舍六入)

    報出值:0.5(-) 判定:合格

    如:標準值 ×× ≥15

    檢測結果為:14.55 第1步修約:14.6(-) 報出值:15(-)

    按全數值比較法(15(-))判定不合格、按修約值比較法(15)判定合格

    14.55(5后非零要進一。講評:在擬舍棄的數字中即14.55的第一個“5”,雖然“5”前為偶數,但“5”后非“0”,所以要進一。)

    如,若檢驗結果為:14.35

    第1步修約:14.4(+) (修約原則,四舍六入) 報出結果:14

    最終的報出結果只有修約到標準值上時,才用+、-表示。

    例題:將檢驗結果保留到整數位

    檢測值 修約值 報出值

    15.4546 15.5(-) 15

    16.5203 16.5(+) 17

    17.5000 17.5 18

    10.5020 10.5(+) 11

    由以上例題可見,被多保留的數字 的修約原則仍是是四舍六五單雙


    b)一步修約到位 (這種修約更直接和更直觀)

    例題:將下列結果修約到整數位

    檢測結果 報出值

    15.4546 15

    16.5203 17

    17.5000 18

    14.5500 15

    10.5020 11



    c)不準連續修約

    擬修約數字應在確定修約位數后,應一次修約獲得結果,而不準多次修約即連續修約。

    如15.4546一次修約結果為:15

    ※ 連續修約:15.455 — 15.46-15.5-16

    ※ 按多保留一位的修約法:15.5(-)

    因為.5(-)

    即修約后到5(-) ,但不足5(<5),所以不進,最終結果為15。

    四數值的修約方法





    4.1 數值的修約方法有兩種,即修約值比較法和全數值比較法

    a)修約值比較法:數值修約后,體現不出數值的修約情況;

    b)全數值比較法:數值修約后,能夠體現出數值的修約情況。



    4.2 如何選擇修約值的方法

    a)當檢測項目牽涉到衛生指標、安全指標等,應首選用全數值比較法;

    b)只有當檢測結果修約到標準值上時,方采用全數值比較法。





    五加減乘除運算規則





    5.1加減法運算規則

    在參與運算的各數中,以小數點后位數最少的的為準,其余各數均修約成比位數最少的要多一位,最終結果與位數最少的相一致。(與小數點位數有關)

    例題1:

    12.455 + 23.1 +14.345

    = 12.46 + 23.1 +14.34

    = 49.90

    ≈49.9



    例題2:

    2.155 + 0.0012 +10.445 + 25.1

    = 2.16 + 0.00 +10.44 + 25.1

    = 37.70

    ≈37.7



    例題3:

    1.000 + 0.125 +9.555 + 0.1

    = 1.00 + 0.12 +9.56 + 0.1

    = 10.78

    ≈10.8



    例題4:

    0.999 + 1.0 +14.999 + 24.450

    = 1.00+ 1.0 + 15.00+ 24.45

    = 41.45

    ≈41.4



    例題5:

    0.1 + 10.515 +0.001 + 10.000

    = 0.1 + 10.52 +0.00 + 10.00

    = 26.62

    ≈26.6



    5.2 乘除(乘方、開方)法

    在參與運算的各數中,以有效位數最少的為準,其余各數均修約成比有效位數最少的要多一位,最終結果與有效位數最少的相一致。(與有效位數有關)

    例題1:

    10.54 × 1.001 ×0.10

    = 10.5 × 1.00 ×0.10

    = 1.05

    ≈1.0



    例題2:

    0.1 × 1.00 × 0.101× 10.145

    = 0.1 × 1.0 × 0.10× 10

    = 0.10

    ≈0.1



    例題3:

    0.999 × 1.00 ×10.04 × 0.0010

    = 1.00 ×1.00 × 10.0× 0.0010

    = 0.0100

    = 0.010



    例題4:

    2.24 × 0.5 × 0.554× 0.5451

    = 2.2 × 0.5 × 0.55×0.55

    = 0.33

    ≈0.3


    例題5:

    2.5 × 2.451 × 2.255

    = 2.5 × 2.45 × 2.26

    = 13.8

    ≈14



    文章來源:網絡 
    編輯:songjiajie2010

     
    分享:
    [ 網刊訂閱 ]  [ 檢驗技術搜索 ]  [ ]  [ 告訴好友 ]  [ 打印本文 ]  [ 關閉窗口 ] [ 返回頂部 ]
     

     
     
    推薦圖文
    推薦檢驗技術
    點擊排行
    檢驗技術
     
     
    Processed in 0.131 second(s), 16 queries, Memory 0.93 M