GB17378.2-1998 前 言 本标准是《海洋监测规范》第2部分,是在HY003.2-91行业标准的基础上修订而成的。本标准 是海洋监测的数据处理与分析质量控制的技术规定 《海洋监测规范》包括下列部分 GB17378.1-1998海洋监测规范第1部分:总则 GB17378.2-1998海洋监测规范第2部分:数据处理与分析质量控制 GB17378.3-1998海洋监测规范第3部分:样品采集、贮存与运输 GB17378.4-1998海洋监测规范第4部分:海水分析 GB17378.5-1998海洋监测规范第5部分:沉积物分析 GB17378.6-1998海洋监测规范第6部分:生物体分析 GB17378.7-1998海洋监测规范第7部分:近海污染生态调查和生物监测 本标准附录A是提示的附录。 本标准由国家海洋局提出 本标准由国家海洋标准计量中心归口。 本标准由国家海洋环境监测中心负责起草 本标准主要起草人:张春明、陈邦龙、汪惠昌、李乃兰、徐维龙
GB 17378.2-1998 前 、 ‘ 自 本标准是《海洋监测规范》的第 2部分，是在HY 003.2-91行业标准的基础上修订而成的。本标准 是海洋监测的数据处理与分析质量控制的技术规定。 《海洋监测规范》包括下列部分 ： GB 17378.1-1998 海洋监测规范 第 1部分：总则 GB 17378.2-1998 海洋监测规范 第2部分；数据处理与分析质量控制 GB 17378.3-1998 海洋监测规范 第3部分：样品采集、贮存与运输 GB 17378.4-1998 海洋监测规范 第4部分：海水分析 GB 17378.5-1998 海洋监测规范 第5部分：沉积物分析 GB 17378.6-1998 海洋监测规范 第6部分：生物体分析 GB 17378.7-1998 海洋监测规范 第7部分：近海污染生态调查和生物监测 本标准附录 A是提示的附录。 本标准由国家海洋局提出。 本标准由国家海洋标准计量中心归口。 本标准由国家海洋环境监测中心负责起草。 本标准主要起草人：张春明、陈邦龙、汪惠昌、李乃兰、徐维龙
中华人民共和国国家标准 海洋监测规范 GB17378.2-1998 第2部分:数据处理与分析质量控制 The specification for marine monitoring Part 2: Data processing and quality control of analysis 本标准规定了海洋监测的术语及符号,离群数据的统计检验,两均数差异的显著性检验,分析方法 验证,内控样的配制与应用,分析质量控制图等 本标准适用于海洋环境监测中海水分析、沉积物分析、生物体分析、近海污染生态调查和生物监测 的数据处理及实验室内部分析质量控制。海洋大气,污染物入海通量调查、海洋倾废和疏浚物调查等也 可参照使用。 2引用标准 下列标准所包含的条文,通过在本标准中引用而构成为本标准的条文,本标准出版时,所示版本均 为有效。所有标准都会被修订,使用本标准的各方应探讨使用下列标准最新版本的可能性。 GB8170-87数值修约规则 3定义 本标准采用下列定义 3.1实验室样品 laboratory sample 可送达实验室进行分析测试的样品,分为原始样、分析样、测定样 3.2原始样 raw sample 现场采集的初始样品。 3.3分析样 analytical sample 需要经过预处理,才能进入测定的样品 3.4测定样 test sample 能够直接送交测定的待测物质的样品。 若分析样不需任何处理,分析样与测定样是一致的 3.5平行样 parallel sample 取自同一个样本互相独立的样品 3.6标准空白 standard blank 标准系列中零浓度的响应值。 3.7分析空白 analysis blank 在与样品分析全程一致的条件下,空白样品的测定结果 3.8校准曲线 calibration 国家质量技术监督局1 批准 1999-01-01实施
中 华 人 民 共 和 国 国 家 标 准 海 洋 监 测 规 范 第 2部分：数据处理与分析质量控制 GB 17378．2一 1998 The specification for marine monitoring Part 2 : Data processing and quality control of analysis 范围 本标准规定了海洋监测的术语及符号，离群数据的统计检验，两均数差异的显著性检验，分析方法 验证，内控样的配制与应用，分析质量控制图等。 本标准适用于海洋环境监测中海水分析、沉积物分析、生物体分析、近海污染生态调查和生物监测 的数据处理及实验室内部分析质量控制。海洋大气，污染物入海通量调查、海洋倾废和疏浚物调查等也 可参照使用。 2 引用标准 下列标准所包含的条文，通过在本标准中引用而构成为本标准的条文，本标准出版时，所示版本均 为有效。所有标准都会被修订，使用本标准的各方应探讨使用下列标准最新版本的可能性。 GB 8170-87 数值修约规则 3 定义 本标准采用下列定义。 3.1 实验室样品 laboratory sample 可送达实验室进行分析、测试的样品，分为原始样、分析样、测定样。 3.2 原始样 raw sample 现场采集的初始样品。 3.3 分析样 analytical sample 需要经过预处理，才能进入测定的样品。 3.4 测定样 test sample 能够直接送交测定的待测物质的样品。 若分析样不需任何处理，分析样与测定样是一致的。 3.5 平行样 parallel sample 取 自同一个样本互相独立的样品。 3.6 标准空白 standard blank 标准系列中零浓度的响应值。 3.7 分析空白 analysis blank 在与样品分析全程一致的条件下，空白样品的测定结果。 3.8 校准曲线 calibration curve 国家质I技术监督局 1998一06一22批准 1999一01一01实施
GB17378.2-1998 样品中待测项目的量值(X)与仪表给出的信号值(Y)之间的相关曲线校准曲线分为标准曲线和工 作曲线 3.9工作曲线 working curve 标准系列的测定步骤与样品完全相同的校准曲线。 3.10标准曲线 standard curv 标准系列的测定步骤比样品有所简化的校准曲线。 3.11方法灵敏度 method sensibility 某方法对单位浓度或单位量待测物质变化所致的响应量变化的程度。 3.12检出限(XN) detection limit 分析方法的检出限是指95%概率,能定性区别于零的最低浓度或量。 3.13测定下限(XB) limit of determination 是具有给定的概率(如95%),在定量上可检出非零的最低浓度或量 3.14第一类错误(a错误) type I error( a error) 原假设为真而被拒绝,又称弃真。例如,被测物为零的假设原本是正确的,却被错误地拒绝,而误判 为检出,反之亦然。 3.15第二类错误(β错误) type I error(βeror) 原假设不真,但被接受,又称存伪。例如,被测物为零的假设,本是错误的,却被错误地接受,而判成 未检出,反之亦然。 3.16未检出 undetection 低于检出限XN的测定结果。 3.17精密度 precision 在规定条件下,相互独立的测试结果之间的一致程度 注:精密度仅依赖于随机误差,而与被测量的真值或其他约定值无关 3.18极差(R) range 样本中最大值与最小值之差。 3.19偏差(D) deviation 各个单次测定值与平均值之差 3.20相对偏差(RD) relative deviation 样本分量与样本均值之差再与样本均值之比 3.21标准偏差 standard deviation 样本分量与样本均值之差的平方和除以样本量减1的平方根 式中:S—标准偏差 X,——各次测定值; X——平均值; n—重复测定次数; 当n≥20时:8 ∑(x,-X)2 3.22相对标准偏差(RSD) relative standard deviation 样本标准偏差与样本均值之比。 3重复性 repeatability
GB 17378．2一 1998 样品中待测项目的量值（X）与仪表给出的信号值（Y）之间的相关曲线。校准曲线分为标准曲线和工 作曲线 。 3.9 工作曲线 working curve 标准系列的测定步骤与样品完全相同的校准曲线。 3.10 标准曲线 standard curve 标准系列的测定步骤比样品有所简化的校准曲线。 3.11 方法灵敏度 method sensibility 某方法对单位浓度或单位量待测物质变化所致的响应量变化的程度。 3.12 检出限（XN) detection limit 分析方法的检出限是指 95％概率，能定性区别于零的最低浓度或量。 3.13 测定下限（XB) limit of determination 是具有给定的概率（如 95％)，在定量上可检出非零的最低浓度或量。 3.14 第一类错误（a错误） type I error (a error) 原假设为真而被拒绝，又称弃真。例如，被测物为零的假设原本是正确的，却被错误地拒绝，而误判 为检出 ，反之亦然。 3.15 第二类错误（R错误） type I error (R error) 原假设不真，但被接受，又称存伪。例如，被测物为零的假设，本是错误的，却被错误地接受，而判成 未检出，反之亦然。 3.16 未检出 undetection 低于检出限XN的测定结果。 3.17 精密度 precision 在规定条件下，相互独立的测试结果之间的一致程度。 注：精密度仅依赖于随机误差，而与被测量的真值或其他约定值无关。 3.18 极差(R) range 样本中最大值与最小值之差。 3.19 偏差 （D) deviation 各个单次测定值与平均值之差。 3.20 相对偏差 （RD) relative deviation 样本分量与样本均值之差再与样本均值之比。 3.21 标准偏差 。tandard deviation 样本分量与样本均值之差的平方和除以样本量减 1的平方根： ｝ 1 合 ／，， 二、， 0 二 1一 一万 户 八人，一 人 ）“ -V n一 1忙片 式中：s— 标准偏差 ； x,— 各次测定值； x— 平均值； n— 重复测定次数； “n-2。时： “一丫青争X,一刀z。 3.22 相对标准偏差（RSD) relative standard deviation 样本标准偏差与样本均值之比。 3.23 重复性 repeatability
GB17378.2-1998 在重复性条件下,相互独立的测试结果之间的一致程度。 3.24重复性条件 repeatability condition 在同一实验室,由同一操作者使用相同的设备,按相同的测试程序在短时间内,对同一被测对象相 互独立进行的测试条件。 3.25再现性 reproducibility 在再现性条件下,测试结果之间的一致程度。 3.26再现性条件 reproducibility conditions 在进行测试的实验室,操作者,测试设备,测试程序(方法),测试时间有本质变化的情况下,对同 被测对象相互独立进行的测试条件 3.27准确度 accaracy 测试结果与被测量真值或约定真值间的一致程度。 3.28测试误差 error of a test 测试结果与被测量的真值(或约定真值)之差 测试误差包括系统误差和随机误差。 3.29系统误差 systematic error 在对同一被测量的多次测量中,它保持不变或按某种规律而变化 注:系统误差及其引起的原因可以是已知的,也可以是未知的 3.30随机误差 random error 在对同一被测量的多次测试中,它受偶然因素影响而以不可预知的方式变化。 注:偶然误差是不可能被修正的。 3.31统计量 statistic 样本的函数,它不依赖于未知参数。 4有关规定 4.1现场原始工作记录在指定的表格上用硬质铅笔书写、字迹端正,不得涂抹。需要改正错记时,在错 的数字上划一横线,将正确数字补写在其上方 4.2正确地记录与修约有效数字的位数,按5.1给出的方法记取,不得任意增减数字的位数,以保证数 据的精确度 4.3原始工作记录是重要的技术档案资料,应按其保存价值,分类规定出归档要求 4.4表示测试结果的量纲及其有效数字位数,应参照该分析方法中具体规定填报。若无此规定时,一般 性原则是:一个数据中只准许末尾一个数字是估计(可疑)值,其他各数字都是有效(可信)的,依此决定 整数及小数的有效位数。因量纲的变化不作小数取位的硬性规定,有关计算方法的细节,见第5章。 4.5低于检出限XN的测试结果,应报“未检出”,但在区域性监测检出率占样品频数的1/2以上(包括 1/2)或不足1/2时,未检出部分可分别取XN的1/2和1/4量参加统计运算 4.6未执行业务主管部门规定的质量控制程序所产生的数据视为可疑数据,可疑数据不得用于海洋 环境质量及海洋环境影响评价 4.7测试平行样品也是分析质量控制的方法之一。原则规定,不与内控样同步测定的项目,一律测试双 平行分析样,只有个别测项如溶解氧、水中油类等须测原始样双平行(此类不必测分析样双平行)。海水 双样的相对偏差允许值,若原方法无此规定,则按表1执行 沉积物和生物体双样相对偏差表见GB17378.5和GB17378.6
GB 17378．2一 1998 在重复性条件下，相互独立的测试结果之间的一致程度。 3.24 重复性条件 repeatability condition 在同一实验室 ，由同一操作者使用相同的设备 ，按相同的测试程序在短时间内，对同一被测对象相 互独立进行的测试条件。 3.25 再现性 reproducibility 在再现性条件下，测试结果之间的一致程度。 3.26 再现性条件 reproducibility conditions 在进行测试的实验室，操作者，测试设备，测试程序（方法），测试时间有本质变化的情况下，对同一 被测对象相互独立进行的测试条件。 3.27 准确度 accaracy 测试结果与被测量真值或约定真值间的一致程度。 3.28 测试误差 error of a test 测试结果与被测量的真值（或约定真值）之差。 测试误差包括系统误差和随机误差。 3.29 系统误差 systematio error 在对同一被测量的多次测量中，它保持不变或按某种规律而变化。 注：系统误差及其引起的原因可以是已知的，也可以是未知的。 3.30 随机误差 random error 在对同一被测量的多次测试中，它受偶然因素影响而以不可预知的方式变化。 注：偶然误差是不可能被修正的。 3.31 统计量 statistic 样本的函数，它不依赖于未知参数。 4 有关规定 4.1 现场原始工作记录在指定的表格上用硬质铅笔书写、字迹端正，不得涂抹。需要改正错记时，在错 的数字上划一横线，将正确数字补写在其上方。 4.2 正确地记录与修约有效数字的位数，按 5. 1给出的方法记取，不得任意增减数字的位数，以保证数 据的精确度。 4.3 原始工作记录是重要的技术档案资料，应按其保存价值，分类规定出归档要求。 4.4 表示测试结果的量纲及其有效数字位数，应参照该分析方法中具体规定填报。若无此规定时，一般 性原则是：一个数据中只准许末尾一个数字是估计（可疑）值，其他各数字都是有效（可信）的，依此决定 整数及小数的有效位数。因量纲的变化不作小数取位的硬性规定，有关计算方法的细节，见第 5章。 4.5 低于检出限Xr,的测试结果，应报“未检出”，但在区域性监测检出率占样品频数的 1/2以上（包括 1/2）或不足 1/2时，未检出部分可分别取 XN的 1/2和 1/4量参加统计运算。 4.6 未执行业务主管部门规定的质量控制程序所产生的数据，视为可疑数据，可疑数据不得用于海洋 环境质量及海洋环境影响评价。 4.7 测试平行样品也是分析质量控制的方法之一。原则规定，不与内控样同步测定的项目，一律测试双 平行分析样，只有个别测项如溶解氧、水中油类等须测原始样双平行（此类不必测分析样双平行）。海水 双样的相对偏差允许值，若原方法无此规定，则按表 1执行。 沉积物和生物体双样相对偏差表见GB 17378.5和GB 17378.6
GB17378.2—1998 表1海水平行双样相对偏差表 分析结果所在数量级10410:10610710610-10 相对偏差容许限,%1.02.55 10x:0计算左 ×100% 4.8天然样品加标回收率,不得越出方法给出范围值。若无此规定,参照表2。 表2回收率容许值表 浓度或含量范围,四g/L 收率,% 100 80~110 容量及重量 4.9在海洋监测中,若采用本规范以外的分析方法,必须按规定做方法对比验证工作,报请业务主管部 门批准备案。 5数据处理 5.1有效数字和数值修约 5.1.1有效数字 ,1,2,3,45,6,7,8,9这些数码叫数字,一个以上的数字组合构成一个数值。在一个数值中每个数 字所占位置叫数位,小数点后的第一位叫十分位,以下依次为百分位、千分位……;小数点前的第一位叫 个位,其前位依次为十位、百位、千位……。 个数值中每个数位上的数字都应是有效的,只有末位数字允许是估计数字,但其波动辐度不得大 于士1。例如末位数字为5时可能是4或6,而其余的各个数字都是可信的数字(定位0例外)。 表达一个数值中由几个数字组成的,叫有效数字位数。位数的多少,除了反映量值的大小之外,在分 析领域中还反映该数值的准确程度。例如0.6705g草酸钠,这一数值在量值上为0.6~0.7g之间,在 准确程度上,可信数字截取在千分位上的0,在万分位的数字5是可疑的,但其波动范围小于0.0002g 数码“0”的作用变化较多,一个数值中“0”是否为有效数字,要根据“0”的位置及其前后的数字状况 而定。常见的有以下四种情况 5.1.1.1位于非“0”数字之间的“0”,如2.005,1.025两个数值中的三个“0”都是有效数字 5.1.1.2位于非“0”数字后面的一切“0”都是有效数字(全整数尾部“0”例外)。如2.2500,1,0250。 5.1.1.3前面不具非零数字的“0”,如0.0025中的三个“0”都不是有效数字,只起定位作用。 5.1.1.4整数中最后的“0”,可以是有效数字,也可以不是。例如用普通天平称取1.5g试剂,若必须用 mg表示,则要写成1500mg,此数值中最后两个“0”从表观上是有效数字,但实际上不是,因为粗天平 不能达到如此高的准确程度。为了避免误解,可用指数形式表示,上例可记为1.5×103mg,或记为 1500mg±100mg这便明白地表示出只有两位有效数字 5.1.2数据的原始记录 数值的有效数字的位数是反映其准确程度的主要标志。为了确保数据应有的准确度,从正确地记录 原始数据开始,对任何一个有计算意义的数据都要审慎地估量正确地记载有效数值的位数。例如 50mL滴定管的最小分度值为0.1mL,又因为允许增加一位估计数字,可以记录到两位小数,如 12.34mL。记下这一数值表明十分位上的3是刻度指示值,确切可信;百分位上的4则是估计判读的, 是可疑数字,并知其波动范围为0.02mL,其相对误差为(0.02/12.34)×100%=0.16%。若在原始记录 中仅记为123mL,则表示可能产生1.6%的相对误差。由于原始记录不合理致使数据的准确度下降 个数量级。但也不可任意增加有效数字的位数。如前例记成12340则是明显失真,因为不可能估计出
GB 17378．2一 1998 表 1 海水平行双样相对偏差表 │分析结果所在数量级│ 10-0│ 10 5│ 10-s│ 10-7│ 10-e│ 10-9│ 10-10 │ │ │相对偏差容许限，％│ 1. 0│ 2. 5│ 5 │ 10 │ 20 │ 30 │ 50 │i-}算 IA-+BI X‘。。％ │ 4.8 天然样品加标回收率 ，不得越出方法给出范围值 。若无此规定 ，参照表 2a 表 2 回收率容许值表 │浓度或含量范围,pg/L │ 回收率，％│ │ 100 │ 80- 110 │ │> 1 000 │ 90- 110 │ │容量及重量法 │ 95^-105 │ 4.9 在海洋监测中，若采用本规范以外的分析方法，必须按规定做方法对比验证工作，报请业务主管部 「〕批准备案。 5 数据处理 5.1 有效数字和数值修约 5.1.1 有效数字 0,1,2,3,4,5,6,7,8,9这些数码叫数字，一个以上的数字组合构成一个数值。在一个数值中每个数 字所占位置叫数位，小数点后的第一位叫十分位，以下依次为百分位、千分位……；小数点前的第一位叫 个位 ，其前位依次为十位、百位、千位……。 一个数值中每个数位上的数字都应是有效的，只有末位数字允许是估计数字，但其波动辐度不得大 于士1。例如末位数字为 5时可能是 4或 6，而其余的各个数字都是可信的数字（定位 。例外）。 表达一个数值中由几个数字组成的，叫有效数字位数。位数的多少，除了反映量值的大小之外，在分 析领域中还反映该数值的准确程度。例如0. 670 5 g草酸钠，这一数值在量值上为0. 6-0. 7 g之间，在 准确程度上，可信数字截取在千分位上的。，在万分位的数字5是可疑的，但其波动范围小于。. 000 2 g , 数码“0”的作用变化较多，一个数值中“0”是否为有效数字，要根据“0”的位置及其前后的数字状况 而定。常见的有以下四种情况： 5.1.1.1 位于非“o"数字之间的“o，如 2.005,1.025两个数值中的三个“0”都是有效数字。 5.1.1.2 位于非“0”数字后面的一切“0”都是有效数字（全整数尾部“0”例外）。如 2. 250 0,1. 025 Oo 5.1.1.3 前面不具非零数字的“0"，如 。.002 5中的三个“。”都不是有效数字，只起定位作用。 5.1.1.4 整数中最后的“o"，可以是有效数字，也可以不是。例如用普通天平称取 1.5g试剂，若必须用 mg表示，则要写成1 500 mg，此数值中最后两个“0”从表观上是有效数字，但实际上不是，因为粗天平 不能达到如此高的准确程度。为了避免误解，可用指数形式表示，上例可记为1. 5 X 103 mg，或记为 1 500 mg士100 mg这便明白地表示出只有两位有效数字。 5.1.2 数据的原始记录 数值的有效数字的位数是反映其准确程度的主要标志。为了确保数据应有的准确度，从正确地记录 原始数据开始，对任何一个有计算意义的数据都要审慎地估量，正确地记载有效数值的位数。例如 50 mL滴定管的最小分度值为0. 1 mL，又因为允许增加一位估计数字，可以记录到两位小数，如 12. 34 mL。记下这一数值表明十分位上的 3是刻度指示值，确切可信；百分位上的 4则是估计判读的， 是可疑数字，并知其波动范围为0. 02 mL，其相对误差为（0. 02/12. 34)X1000,=0. 1600。若在原始记录 中仅记为 12.3 mL，则表示可能产生 1.6％的相对误差。由于原始记录不合理致使数据的准确度下降一 个数量级。但也不可任意增加有效数字的位数。如前例记成 12.340则是明显失真，因为不可能估计出
GB17378.2-1998 两位数字。原始记录的有效数字位数,既不可少,也不可多。记取的原则是根据仪器、仪表指示的最小分 度值如实记录并允许增记一位估计数字。 实验室通用的计量仪表可记取的位数如下 万分之一天平小数点后第四位即万分位 上皿天平小数点后第二位即百分位。 分光光度计吸光值记到小数点后第三位即千分位 玻璃量器记取的有效数字位数须根据量器的允许误差和读数误差决定 常见的一等量器准确容量的记录按表3和表4 表3一等无分度移液管准确容量的表示 容量示值 允许差 准确容量 ±0.006 3.00 ±0.01 5.00 10 ±0.03 ±0.04 ±0.08 100.0 表4一等量入式量瓶准确容量的表示 L 容量示值 允许差 准确容量 ±0.05 100.0 200 ±0. 200.0 ±0.10 250.0 ±0.15 500.0 1000 ±0.30 1000.0 ±0.50 2000.0 5.1.3近似计算规则 为了确保最终结果的数值中只包含有效数字(定位“0”例外),在运算中要遵守下列规则 5.1.3.1加减运算最终计算结果中保留的小数有效位数,应与参加运算的数值中小数位数最少者相 同。例: 11.14+5.91225=17.05225→17.05 11.14-5.91225=5.22775→5.23 上例最终结果只能保留两位小数,因为11.14的末位数字4本身就不可信,其后的数字则更不可 信 5.1.3.2乘除运算得数经修约后,保留的有效数字位数应与参加运算的几个数值中有效数字位数最
GB 17378．2一 1998 两位数字。原始记录的有效数字位数，既不可少，也不可多。记取的原则是根据仪器、仪表指示的最小分 度值如实记录并允许增记一位估计数字。 实验室通用的计量仪表可记取的位数如下： 万分之一天平 小数点后第四位即万分位。 上皿天平 小数点后第二位即百分位。 分光光度计 吸光值记到小数点后第三位即千分位。 玻璃量器 记取的有效数字位数须根据量器的允许误差和读数误差决定。 常见的一等量器准确容量的记录按表 3和表 40 表 3 一等无分度移液管准确容量的表示 mL │容量示值│ 允许差 │ 准确容量│ │2 │ 士 0.006 │ 2. 00 │ │3 │ 士 0. 006│ 3.00 │ │5 │ 士 0. 01 │ 5.00 │ │10 │ 士 0.02 │ 10.00 │ │15 │ 士 0. 03 │ 15.00 │ │20 │ 士 0.03 │ 20.00 │ │25 │ 士 0.04 │ 25. 00 │ │50 │ 士 0. 05 │ 50.00 │ │100 │ 士 0.08 │ 100. 0 │ 表 4 一等量入式量瓶准确容量的表示 ml- │容量示值│ 允许差 │ 准确容量│ │10 │ 士 0.02 │ 10. 00 │ │25 │ 士 0.03 │ 25. 00 │ │50 │ 士 0.05 │ 50.00 │ │100 │ 士 0.10 │ 100.0 │ │200 │ 士 0. 10 │ 200. 0 │ │250 │ 士 0. 10 │ 250.0 │ │500 │ 士 0. 15 │ 500. 0 │ │1 000 │ 士 0. 30 │ 1 000.0 │ │2 000 │ 士 0.50 │ 2 000.0 │ 5.1.3 近似计算规则 为了确保最终结果的数值中只包含有效数字（定位“0”例外），在运算中要遵守下列规则： 5.1.3.1 加减运算 最终计算结果中保留的小数有效位数，应与参加运算的数值中小数位数最少者相 同。例 ： 11.14十 5. 912 25＝ 17. 052 25” 17. 05 11.14一 5. 912 25＝ 5. 227 75一 5. 23 上例最终结果只能保留两位小数，因为 11. 14的末位数字 4本身就不可信，其后的数字则更不可 信。 5.1.3.2 乘除运算 得数经修约后，保留的有效数字位数应与参加运算的几个数值中有效数字位数最
GB17378.2—1998 少者相同。 5.1.3.3对数运算对数的有效数字位数应和原数(真数)的相同 5.1.3.4平方、立方、开方运算计算结果的有效数字位数应和原数的相同 513.5x、e和√2、√3、女等的有效位数,须参照与之相关的数据决定保留的位数。 5.1.3.6来自一个正态总体的一组数据,多于4个时,其平均值的有效数字位数可比原数的增加一位。 5.1.3.7用于表示方法或分析结果精密度的标准差,其有效数字的位数一般只取一位;当测定次数很 多时可取两位,且最多只能取两位。 5.1.3.8报告分析结果有效数字位数,应根据分析方法的精密度即标准差的大小决定。通常可取四分 之一个标准差的首数所在数位,定为分析结果的尾数例如某一测定结果为25.352,标准差为1.4,四分 之一标准差为0.35,其首位数字所在数位是十分位,即定为该结果的末位,可报为25.4 5.1.4数值修约 数值修约详见GB8170-87有关规定。 5.1.4.1在拟舍弃的数字中,若左边第一个数字小于5(不包括5)时则舍去,即拟保留的末位数字不 变 例如将14.2432修约到保留一位小数: 修约前 修约后 14.2432 14.2 5.1.4.2在拟舍弃的数字中,若左边第一个数字大于5(不包括5)时,则进一,即所拟保留的末位数字 加一。 例如将26.4843修约到只保留一位小数 修约前 修约后 26.4843 5.1.4.3在拟舍弃的数字中,若左边第一个数字等于5,其右边的数字并非全部为“0”时,则进一;若5 的右边皆为“0”,拟保留的末位数字若为奇数则进一,若为偶数(包括“0”)则不进 例如将下列数值修约到只保留一位小数 修约前 修约后 0.3500 0.4 51.4.4所拟舍弃的数字,若为两位以上数字时,不得连续进行多次修约,应根据所拟舍弃数字中左边 第一个数字的大小,按上述规定一次修约出结果。 例如将15.4546修约成整数。 正确的做法是: 修约前 修约后(结果) 15.4546 不正确的做法
GB 17378‘2一 1998 少者相同。 对数运算 对数的有效数字位数应和原数（真数）的相同。 平方、立方、开方运算 计算结果的有效数字位数应和原数的相同。 二、‘和V- -2 一, 、’/'-3 一,’粤3等’J的”J有’J效‘卜位一 数朴 ，’须产、参一 照”、、与带之～ 相’曰关尸、的”J数朴 据带目决，、定，～保r，、留囚 的”子位一数朴 。“ 来自一个正态总体的一组数据，多于 4个时，其平均值的有效数字位数可比原数的增加一位。 用于表示方法或分析结果精密度的标准差，其有效数字的位数一般只取一位，当测定次数很 I J 月 月 ‘ ︺ n卜 U 7 叮 ． ． … Q J 勺 口 O J 勺 J q J ． ． … 月 ． ． 月． ‘ 月 ． ． 月 ．． 月 ． ． ． ． … －﹄ ︺ ‘ J 工﹄d 只 口 尸卜﹂ 多时可取两位，且最多只能取两位。 5门.3.8 报告分析结果有效数字位数，应根据分析方法的精密度即标准差的大小决定。通常可取四分 之一个标准差的首数所在数位，定为分析结果的尾数。例如某一测定结果为 25.352，标准差为 1.4，四分 之一标准差为 0.35，其首位数字所在数位是十分位，即定为该结果的末位，可报为25.4. 5.1.4 数值修约 数值修约详见GB 8170-87有关规定。 5.1.4.1 在拟舍弃的数字中，若左边第一个数字小于 5(不包括 5)时则舍去，即拟保留的末位数字不 变。 例如将 14.2432修约到保留一位小数： 修约前 修约后 14.2432 14.2 5.1.4. 2 在拟舍弃的数字中，若左边第一个数字大于 5(不包括 5)时，则进一，即所拟保留的末位数字 力口一 。 例如将26.4843修约到只保留一位小数： 修约前 修约后 26.4843 26.5 5.1.4.3 在拟舍弃的数字中，若左边第一个数字等于 5，其右边的数字并非全部为“0”时，则进一；若 5 的右边皆为“0"，拟保留的末位数字若为奇数则进一，若为偶数（包括“0"）则不进。 例如将下列数值修约到只保留一位小数： 修约前 修约后 0.3500 0.4 0.4500 0.4 1.0500 1.0 5.1.4.4 所拟舍弃的数字，若为两位以上数字时，不得连续进行多次修约，应根据所拟舍弃数字中左边 第一个数字的大小，按上述规定一次修约出结果。 例如将 15.4546修约成整数。 正确的做法是： 修约前 修约后（结果） 15.4546 15 不正确的做法 ：
GB17378 1998 修约前 次修约 二次修约 15.4546 15.455 5.46 三次修约 四次修约(结果) 15.5 在修约计算过程中对中间结果不必修约将最终结果修约到预期位数 52异常值的统计检验 组(群)正常的测定数据,应是来自具有一定分布的同一总体;若分析条件发生显著变化,或在实 验操作中出现过失,将产生与正常数据有显著性差别的数据此类数据称为离群数据或异常值 仅怀疑某一数据可能会歪曲测定结果,但尚未经过检验判定为异常值时,称此数据为可疑数据。 5.2.1可疑数据的检验 剔除离群数据,会使测定结果更客观;若仅从良好愿望出发,任意删去一些表观差异较大并非离群 数据虽由此得到认为满意的数据但并不符合客观实际。因此,对可疑数据的取舍,必须参照下述原则 处理。 52.1.1仔细回顾和复查产生可疑值的试验过程如果是过失误差,则舍弃。 52.1.2如果未发现过失,则要按统计程序检验决定是否舍弃。 5.2.2异常值的判别准则 5.2.21计算的统计量不大于显著性水平a=0.05的临界值则可疑数据为正常数据,应保留。 5.22.2计算的统计量大于a=0.05的临界值但又不大于a=0.01的临界值,此可疑数据为偏离数 据,可以保留,取中位数代替平均数值。 5.2.2.3计算的统计量大于a=0.01的临界值,此可疑值为异常值,应予剔除,并对剩余数据继续检 验,直到数据中无异常值为止 5.23异常值的检验方法 常用的检验方法如下 5.2.3.1Dxon检验法 用于一组测定数据的一致性检验和剔除异常值检验。 步骤 a.将重复n次的测定值从小到大排列为X1、X2、X3…Kn; b.按表5列公式,求算Q值 c.根据选定的显著水平a和重复测定次数n,查表6得临界值Qn; d.按5.2.2条的判别准则,决定取舍。若Q>Q0,则可疑值为异常值,舍弃 若Qa0.597 Q>Q。01
Gs 17378．2一 1998 修约前 一次修约 二次修约 15.4546 15. 455 15.46 三次修约 四次修约（结果） 15.5 16 在修约计算过程中对中间结果不必修约，将最终结果修约到预期位数。 5．2 异常值的统计检验 一组（群）正常的测定数据，应是来自具有一定分布的同一总体；若分析条件发生显著变化，或在实 验操作中出现过失，将产生与正常数据有显著性差别的数据，此类数据称为离群数据或异常值。 仅怀疑某一数据可能会歪曲测定结果 ，但 尚未经过检验判定为异常值时，称此数据为可疑数据 。 5.2.1 可疑数据的检验 剔除离群数据，会使测定结果更客观；若仅从良好愿望出发，任意删去一些表观差异较大并非离群 数据，虽由此得到认为满意的数据，但并不符合客观实际。因此，对可疑数据的取舍，必须参照下述原则 处理。 5.2.1.1 仔细回顾和复查产生可疑值的试验过程，如果是过失误差，则舍弃。 5.2.1.2 如果未发现过失，则要按统计程序检验，决定是否舍弃。 5.2.2 异常值的判别准则 5.2.2.1 计算的统计量不大于显著性水平 a=o. 05的临界值，则可疑数据为正常数据，应保留。 5.2-2.2 计算的统计量大于 a=0. 05的临界值但又不大于 a=0. 01的临界值，此可疑数据为偏离数 据，可以保留，取中位数代替平均数值。 5.2-2.3 计算的统计量大于 a=o. 01的临界值，此可疑值为异常值，应予剔除，并对剩余数据继续检 验 ，直到数据中无异常值为止。 5.2.3 异常值的检验方法 常用的检验方法如下。 5.2.3.1 Dixon检验法 用于一组测定数据的一致性检验和剔除异常值检验。 步骤 ： a．将重复n次的测定值从小到大排列为X1,XZ.X,...... X}f b．按表 5列公式，求算 Q值； c．根据选定的显著水平 a和重复测定次数 n，查表 6得临界值Q.; d．按 5.2.2条的判别准则，决定取舍。若 Q>QO of，则可疑值为异常值，舍弃。 若 Qo. o5CQ<,Q" of，则可疑值为偏离值，可以保留，取中位数代替平均数值。 若QCQO。5，则可疑值为正常值，保留。 例：一组测定值按从小到大的顺序排列为 14.56,14.90,14.90,14.92,14.95,14.96,15.00,15-00, 15.01，15.02。 检验最小值 14.56是否为异常值。 可疑值为最小值 X，时，按下式计算统计量Q： X,一 X, X，一1一 X, 14. 90一 14.56 15.01一 14.56 ＝ 0. 755 当n=10，显著性水平 a=0. 01，查表 6临界值为 。 0. 755＞ 0. 62＞ Qa 597 597
GB17378.2-1998 判定最小值X1为异常值,应予剔除。 表5Dxon检验统计量(Q)计算公式 n值范围 可疑數值为最小值X时可疑数值为最大儐X时 3~7 Q x 8~10 x X 11~13 X3-X1 Q X。一 表6 Dixon检验临界值(Q)表 显著性水平(a) 显著性水平(a) 0.10 0.01 0.05 0.988 0.616 0.679 0,765 899 16 0.454 0.507 0.595 0.642 0.780 0.438 0,490 6 0.434 0.507 0.637 19 0.462 0.479 0,554 20 0.401 0,450 0.535 0,512 0.391 0.524 0.517 0,576 0.679 0.505 0.546 0.413 0.497 0.467 0.521 0.360 0.489 0.64 5.2.3.2 Grubbs检验法 用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内一系列单个测定值的 致性检验。 步骤: 设有L组数据,各组平均值分别为叉1,R2,……XL 1)将L个均值按大小顺序排列,最大均值记为Xmx,最小均值记为Xmn; 2)由L个均值(,)计算总均值Ⅹ和标准偏差s: X X) L 式中:x,—一代表各组均值 3)根据可疑值Xm或Xmn分别按下式计算统计量t1或t2; X-X 4)根据给定的显著性水平a和组数L查表7得临界值; 5)按5.2.2条的判别准则,决定取舍 6)若本法用于实验室内一组数据检验时,将组数L改为测定次数n将各组平均值X,改为单次测 定值X
GB 17378．2一 1998 判定最小值 X，为异常值，应予剔除。 表 5 Dixon检验统计量（Q）计算公式 │n值 范围 │ 可疑数值为最 小值 xl时│ 可疑 数值 为最大值 X。时 │ │3- 7 │ X，一 X, │ X．一 X_-, │ │ │ 6110 = },` │ Q10导 ，示一一戈乡＝ │ │ │ J、月一 n 1 │ 人 ”一 人 1 │ │8^ 10 │ ＿ X。一 X, │ ＿ X，一 X，-, │ │ │ Q11= v 一一一－v │ Q11＝，吞一一茂乡‘ │ │ │ n n-1一 A 1 │ 人 ”一 人 2 │ │11^-13 │ ＿ X，一 Xl │ ＿ X．一 X__> │ │ │ Q21 = v 一一－v │ 6121 = v 一一v 0 │ │ │ n n_1一 111 │ n 凡一 人 z │ │14^ 25 │ ＿ X。一X, │ ＿ X．一X__l │ │ │ Q22 - v～一一一一v │ Qzz- 一., │ │ │ 八 日一2一 A i │ 人 ．一 八 3 │ 表 6 Dixon检验临界值（Qa）表 │n │ 显 著 性 水 平 （a ) │ 一 │ 显 著 性 水 平 （a) │ │ │ 0.10 │ 0.05 │ 0.01 │ │ 0.10 │ 0.05 │ 0.01 │ │3 │ 0.886 │ 0.941 │ 0. 988│ 1- 11 │ 0.472 │ 0.525 │ 0. 616│ │4 │ 0.679 │ 0.765 │ 0.899 │ ｝ 16 │ 0.454 │ 0.507 │ 0. 595│ │5 │ 0.557 │ 0. 642│ 0.780 │ ｛ 17 │ 0. 438│ 0.490 │ 0.577 │ │6 │ 0.482 │ 0. 560│ 0. 698│ ｛ 18 │ 0.424 │ 0. 475│ 0.561 │ │7 │ 0.434 │ 0.507 │ 0.637 │ ｝ ’”│ 0.412 │ 0.462 │ 0. 547│ │8 │ 0.479 │ 0.554 │ 0.683 │ ├─┼───┼───┼───┤ ｛｛ 220 ‘ │ │ 00..43091 1 ││ 00..44540 0 ││ 00. .552354 ││ │9 │ 0.441 │ 0.512 │ 0. 635│ ｝ 22 │ 0. 382│ 0.430 │ 0. 514│ │10│ 0.409 │ 0.477 │ 0. 597│ ｛ 23 │ 0. 374│ 0.421 │ 0. 505│ ├─┼───┼───┼───┤ 一24 │ 0.367 │ 0. 413│ 0.497 │ │11│ 0.517 │ 0.576 │ 0.679 │ ｝ “5 │ 0. 360│ 0.406 │ 0.489 │ │12│ 0.490 │ 0.546 │ 0. 642│ │ │ │ │ │13│ 0.467 │ 0. 521│ 0.615 │ │ │ │ │ │14│ 0.492 │ 0.546 │ 0. 641│ │ │ │ │ 5.2.3.2 Grubbs检验法 用于多组测定均值的一致性检验和剔除离群值的检验。也适用于实验室内一系列单个测定值的一 致性检验 。 步骤 ： 设有L组数据，各组平均值分别为X X2....... XL. 1)将L个均值按大小顺序排列，最大均值记为Xmax，最小均值记为Xmm ; 2)由L个均值（又）计算总均值灭和标准偏差：： ＿X 二 止二 L 去 L ，一，s＝ 人 、I ｝ —}L( L X一：一1 二 式中：X,— 代表各组均值 3)根据可疑值Xm.、或X-分别按下式计算统计量t，或t2; t,一Xmax - X X一 X- 4)根据给定的显著性水平a和组数 L查表 7得临界值； 5)按5. 2.2条的判别准则，决定取舍； 6)若本法用于实验室内一组数据检验时，将组数L改为测定次数，，将各组平均值又，改为单次测， 定值 X o
GB17378.2-1998 例有10个实验室分析同一样品,其平均值分别为4.41,4.49,4.30,4.51,4.64,4,75,4 4.95,5,01,5,39,检验最大值5.39是否为离群值。 R 4.746=4.75 X,-又)2 0.3051=0,31 ≈又m,-R5.39-4.7=211 当L=10,a=0.05,查表7临界值(T)为2.18; 判定:2.11<2.18,t<Ta,最大值5.39为正常值 表7 Grubbs检验临界值(T)表 显著性水平(a) 显著性水平(a L 0.025 0.005 L 0.025 0.01 l.155 1.155 1.155 2.745 2.908 3.103 3.236 2.759 2.9243.1193.253 2.7732.938 1.8221.887 1.973 2.786 2.952 3.286 6789 33338378804245 2.9653 2.811 3.316 2.1102.215 2.8232.9913.1913,330 2.482 3.204 3.343 o12345 2.234 2.846 3.014 3.2163.356 2.412 2.857 0253.2283.369 2.331 2.462 2.699 2.866 3.036 3.240 3.381 2.3712.507 2.877 3.046 3.251 3.393 2.443 2.747 2.852 2.896 3.067 3.271 3.415 2.47 2.620 2.785 2.895 323.4 3.435 19 2.532 2.681 2.854 2.968 46 3.094 3.302 3.445 2.557 2.931 3.310 3.45 2.9403.1113.3193.464 2.758 2.9483.1203.3293.474 23 2.6242.781 3.087 50 3.128 3.336 3.483 3.199 3.411 3.560 082 3.4713 2.6812.8413.0293.157 80 3. 3.305 521 3.673 3.178 3.716 7142.8763.06 3.085 218 5.2.3.3 Cochran最大方差检验法 用于多组测定值的方差一致性检验和剔除离群方差检验 步骤 设有L组数据,每组测定n次,标准差分别为S1,S2,S3,…SL;
Gs 17378．2一 1998 例 4. 95，5. 有 10个实验室分析同一样品，其平均值分别为 4.41,4.49,4.30,4.51,4.64,4.75,4.81 01,5-39，检验最大值 5.39是否为离群值。 ＿ 万又 灭＝ ．导 二 4. 746＝ 4.75 lo E (Y,一X）2 10一 1 一 x ＝ 0. 3051＝ 0. 31 rlll月｜ we，别 湖 S －－ t，一X... 5. 39 一 4. 75 0.31 ＝ 2.11 当L=10,a=0.05，查表 7 1庙界值（To）为 2.18; 判定：2.11<2.18,t,<Ta，最大值 5. 39为正常值。 表 7 Grubbs检验 临界值（Ta）表 │ 显著性水平（(a) │ 一 ＿ 显著性水平（(a) │ │L 0.05 0.025 0.01 0.005 │ ｛ L 0.05 。·025 0. 01 0.005 │ │3 1.153 1.155 1.155 1.155│ 30 2.745 2.908 3.103 3.236│ │4 1.463 1.481 1.492 1.496│ 31 2.759 2.924 3.119 3.253│ │5 1.672 1.715 1.749 1.764│ 32 2.773 2.938 3.135 3.270│ │6 1.822 1.887 1.944 1.973│ 33 2.786 2.952 3.50 3.286│ │？ 1.938 2.020 2.097 2.139 │ 34 2.799 2.965 3.164 3.301│ │8 2.032 2.126 2.221 2.274│ 35 2.811 2.979 3.178 3.316│ │9 2.110 2.215 2.323 2.387│ 36 2.823 2.991 3.191 3.330│ │10 2.176 2.290 2.410 2.482│ 37 2.835 3.003 3.204 3.343│ │11 2.234 2.355 2.485 2.564│ 38 2.846 3.014 3.216 3.356│ │12 2.285 2.412 2.550 2.636│ 39 2.857 3.025 3.228 3.369│ │13 2.331 2.462 2.607 2.699│ 40 2.866 3.036 3.240 3.381│ │14 2.371 2.507 2.659 2.755│ 41 2.877 3.046 3.251 3.393│ │15 2.409 2.549 2.705 2.806│ 42 2.887 3.057 3.261 3.404│ │16 2.443 2.585 2.747 2.852│ 43 2.896 3.067 3.271 3.415│ │17 2.475 2.620 2.785 2.895│ 44 2.905 3.075 3.282 3.425│ │18 2.504 2.651 2.821 2.932│ 45 2.914 3.085 3.292 3.435│ │19 2.532 2.681 2.854 2.968│ 46 2.923 3.094 3.302 3.445│ │20 2.557 2.709 2.881 3.001│ 47 2.931 3.103 3.310 3.455│ │21 2.580 2.733 2.912 3.031│ 48 2.940 3.111 3.319 3.464│ │22 2.603 2.758 2.939 3.060│ 49 2.948 3.120 3.329 3.474│ │23 2.624 2.781 2.963 3.087│ 50 2.956 3.128 3.336 3.483│ │24 2.644 2.802 2.987 3.112│ 60 3.025 3.199 3.411 3.560│ │25 2.663 2.822 3.009 3.135│ 70 3.082 3.257 3.471 3.622│ │26 2.681 2.841 3.029 3.157│ 80 3.130 3.305 3.521 3.673│ │27 2.698 2.859 3.049 3.178│ 90 3.171 3.347 3.563 3.716│ │28 2.714 2.876 3.068 3.199│ 100 3.207 3.383 3.600 3.754│ │29 2.730 2.893 3.085 3.218│ │ 5.2.3.3 Cochran最大方差检验法 用于多组测定值的方差一致性检验和剔除离群方差检验。 步骤 ： 设有 L组数据，每组测定 n次，标准差分别为 S1,SZ,S3 f......SL f