一、有效數字及運算法則
1.有效數字
在質量檢驗工作中，測得的絕大部分數據是屬于連續型的量，其數值的末一位一般具有一定的誤差或不確定性。故對末一位數字可認為是不準確或可疑的，稱為“可疑數字” 或叫“欠準數字”，而其前邊各數所代表的數量，則均為準確知道的，稱為“可靠數字”。我們稱此時所記數字均為有效數字。就是說有效數字是“可疑數字”和“可靠數字”的總稱。也可以說從第一個不為零的數字開始至末位數字被稱為有效數字。
至于“可疑數字”的欠準程度，則有±1、±2、±5的不同約定。也有為了與數字修約規則一致，約定不超過可疑數字半個單位的，這時如果寫出數字0.5就表示其真值在0.45～0.55之間。所謂約定就是說沒有統一的規定可循。在質量檢驗的具體工作中，一般是根據檢測的具體條件決定，包括所用儀器的精度、方法的精確度等。必要時，可在觀測值的后面加上欠準程度，如：原油閃點38℃±1℃，硫的相對原子質量32.064±0.003等。
2.有效數字運算法則
用觀測值計算分析結果時，就要進行有效數字的運算，運算應遵守有關法則。
(1)幾個觀測值相加減時，結果的有效數字應以各觀測值的最大可疑位數為準，即以小數位數最少的為準。例如：求12.23與0.1234之和。應以12.23為準，即和應為12.35。因為12.23的小數點后第二位上的3是可疑的，即使0.1234的小數點后第三位是可靠數字，對求得的和也沒有意義。
(2)觀測值相乘、除時，積、商有效數字的位數一般應與有效數字位數最少的觀測值相同。例如，0.15×9.6876的正確結果是1.5，而不是1.45314。但這個規則只能說適用于一般情況，在特殊情況下就不適用。確定積、商有效數字位數的普遍適用的規則，是它們的相對誤差應與因數中最大的相對誤差相當。
(3)對觀測值進行乘方和開方時，求得乘冪的位數應不超過觀測值本身的位數，且冪次愈高，乘冪誤差愈大，應留的位數愈少；求得方根的位數應至少與觀測值本身的位數相同，且開方的次數愈高，方根誤差愈小，應留的位數愈多。
(4)觀測值的對數小數點后所取的位數，應不多于觀測值有效數字的位數。
例如，
1g901.2=2.95482……
按約定，對數的下限和上限是
1g901.1=2.95477……
1g901.3=2.95486……
可見，對數的前四位是可靠數字，第五位欠準程度是±1，可以把對數表示為五位有效數字，即
1g901.2=2.9548
(5)關于有效數字的修約，應按照國家標準GB 8170—87《數值修約規則》進行。
(6)在運算過程中可以多保留一位有效數字。因為偶然會發生連續“舍”或連續“進” 的情況而影響最后結果。當然，最后結果的位數仍應按(1)、(2)、(3)、(4)、(5)條的規定處理。
把(1)、(2)、(3)、(4)四條規則概括起來可以知道，進行加、減、乘、除運算，一般都要分成三步：
①把各數修約到比最后結果的位數多一位。
②進行加、減、乘、除運算。
③最后對計算結果進行修約。
如果在全部運算中除加、減、乘、除外還有乘方、開方、求對數的運算，則應按(3)、(4)條的規定，用求上、下限的方法確定乘冪、方根、對數有效數字的位數，再把它們納入①、②、③三個步驟中，求出最后結果。
(7)在所有計算式中，如根號2、1／2等數字，不連續物理量的數目，以及完全從理論計算出的數字如π、e等的有效數字位數可以無限制保留，需要幾位就寫幾位。其他如相對原子質量等基本數量，如需要的有效位數少于公布的數值，可以根據需要保留。單位換算因數則需根據原單位的有效數位決定，如1kg=1000g，有效數位無限制，而氣體常數R值則有一定的最高有效數位。
二、準確度與精密度
準確是指觀測值與真值接近。觀測值與真值之差叫誤差。觀測值與真值越接近，觀測值的誤差越小，觀測值就越準確。因此，觀測的準確度是指觀測的正確性，即觀測結果與真值的接近程度。在實際工作中，人們常常把某一誤差很小的觀測值作為“真值”。例如，在定量分析中把標準樣品或純凈物質的組分含量當作沒有誤差的真值。這樣，就可以把實際測得的組分含量與之比較，來衡量測定結果的準確度。
精密是指一組觀測值彼此符合。一組觀測值彼此越接近，觀測就越精密。因此，觀測的精密度是指觀測的重現性。精密度的高低不能說明觀測值與真值是否接近，即精密的觀測不一定是準確的，這是因為引起觀測值遠離真值的誤差，會對一系列的觀測發生相同的影響，因而無損于觀測的精密度。
三、誤差及數據處理
1.誤差的定義
測量的數據經常受偶然因素的影響而變化。例如：一個化驗員每日所化驗的樣品數；測定某個天然氣樣品中的硫化氫含量，在重復測量時，結果往往不同。這種受偶然因素影響而變化的量，統計工作者稱為隨機變量。數據發生變化的原因，可以全部或部分地歸于測量誤差，有些則是由變量固有的性質所決定的。上述兩個變量屬于不同類型：樣品數是離散型的，只能是整數，可以計數得絕對準確；而后者是連續型的，測量就會有誤差。計數的數據和測量的數據統稱為觀測值。
被測量的量在規定條件下客觀存在的量值稱為它的真值。實際上，真值是無法被準確知道的。因此，為了使用的特定目的，通常用與它足夠接近的量值來代替，這樣的量值稱之為“約定真值”。約定真值與真值之差對特定目的來說應該是可以忽略不計的。
測量結果的誤差是觀測值與真值之差。觀測值比真值大，誤差為正；觀測值比真值小，誤差為負。
在定量分析中，我們把標準樣品給出的組分含量或給出的某項理化性能指標當作真值。實際上，這個真值是由最有經驗的人，用最可靠的方法，按照嚴格規定的程序，準確地測定出來的。有了這種公認的真值，我們就可以把測得的結果與“真值”之差，作為測定結果的誤差，來衡量某一分析方法的準確度，某一化驗室或某一化驗員技術水平的高低。
