0.059×370÷6 的结果如何修约间隔0.2(保留几位有效数字)

你了解检测结果有效数字及其运算么?
我的图书馆
你了解检测结果有效数字及其运算么?
有效数字及其有效数字的保留 1 .有效数字的定义我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。再如:&1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。&2 .有效数字的保留由于有效数字最末一位是可疑值,而不是准确值。因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。如:在标准的极限数值(或技术指标)的表示中,×× ≧95 &表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留一位。如,分析天平的分辨率为0.1mg(即我们常说的万分之一天平),如果我们称取的量是10.4320g,则实际的称取结果结果为10.2g(万分之一的天平误差)。如GB/T&601-2016《化学试剂 &标准滴定溶液的制备》,要求报出结果取4位有效数字,因此在标定计算结果中,应保留5位有效数字,最后再修约到4位有效数字(如果直接保留到4位有效数字,实际上是保留了三位有效数字,因最后一位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。 “0” 在数字中的作用 “0”作为一个特殊的数字,在数值的不同的位置,有着不同的作用,只有明确了“0”在数字中的作用,才能更好的掌握有效数字及其加减乘除的运算规则。“0”在数字中不同的位置,有不用的作用,根据“0”在数字的位置,起三种作用。即定位(无效)、定值(有效)及不确定作用。1 .定位(无效)当“0”在小数点后,又在数字之前(前提:小数点前为“0”)时,为定位。 如:0.0001(数字前4个零) &0.02040(数字前2个零)均为定位作用。2. 定值(有效)当“0”在小数点后的数值中间或数尾(前提:小数点前必为“0”)时。 如:0.020;当“0”在小数点后,而小数点前为非“0”时。 如1.000 1.0204,均为有效作用。2.3 不确定作用:当“0”在整数后。如:4500 有效数值是几位?回答是:不确定。将4500用三位有效数字表示:0.450×104&4.50×103 。将4500用四位有效数字表示:0.&、45.00×102。 数字修约规则(GB/T 8170) 1.数字修约规则“四舍五入法”是我们所熟悉的求近似数的方法。它深深地印在我们的脑海里,只要一遇到求近似数的问题,马上就会想到“四舍五入法”。可是,在实验中,经常要对大量的数据进行统计分析。如果仍用“四舍五入法”取近似值,就不够精确。世界上的许多国家已广泛采用“四舍六入法”。我国国家科委于1955年就作了推荐。“四舍六入法”可以概括为:“四舍六入五考虑,五后非零就进一,五后皆零看奇偶,五前为偶应舍去,五前为奇要进一。”就是说,如果省略的尾数最高位是4或小于4,就将尾数都舍去;如果省略的尾数最高位是6或大于6,去掉尾数后,要向它的前一位进1;如果省略的尾数最高位是5,那就要根据具体情况而定。如果5后不都是0,将尾数略去后要向它的前一位进1;如果5后面都是0,就看它的前一位是单数还是双数,5的前一位是双数,就将尾数舍去;5的前一位是单数,舍去尾数后要向它的前一位进1。&2 .检验结果的修约根据技术标准的指标要求,在原始记录中,通常检验计算的结果应比标准规定的位数要多保留一位,但被多保留的一位数值,应该体现出修约的情况,或一步修约到位,但不能存在连续修约的现象。&a)检验结果修约后,应体现出修约的情况。如:标准值 ×× 检测结果为:0.456, 第1步修约:0.46(-) (四舍六入),报出值:0.5(-) 判定:合格。如:标准值 ×× ≥15检测结果为:14.55,第1步修约:14.6(-), 报出值:15(-),按全数值比较法(15(-))判定不合格、按修约值比较法(15)判定合格。14.55(5后非零要进一。讲评:在拟舍弃的数字中即14.55的第一个“5”,虽然“5”前为偶数,但“5”后非“0”,所以要进一。)  如,若检验结果为:14.35,第1步修约:14.4(+) (修约原则,四舍六入) 报出结果:14。最终的报出结果只有修约到标准值上时,才用+、-表示。&b)一步修约到位 (这种修约更直接和更直观)。例题:将下列结果修约到整数位检测结果 & &报出值15.4546 & & & 1516.5203 & & & 1717.5000 & & & 1814.5500 & & & 1510.5020 & & & 11&c)不准连续修约。拟修约数字应在确定修约位数后,应一次修约获得结果,而不准多次修约即连续修约。如15.4546 一次修约结果为:15。※ 连续修约:15.455 — 15.46-15.5-16※ 按多保留一位的修约法: 15.5(-)因为.5(-),即修约后到5(-) ,但不足5( 数值的修约方法 1. 数值的修约方法有两种,即修约值比较法和全数值比较法&a)修约值比较法:数值修约后,体现不出数值的修约情况;b)全数值比较法:数值修约后,能够体现出数值的修约情况。&2 .如何选择修约值的方法&a)当检测项目牵涉到卫生指标、安全指标等,应首选用全数值比较法;b)只有当检测结果修约到标准值上时,方采用全数值比较法。由上表可以看出,一般情况下全数值比较法严与修约值比较法。加微信可加入微生物、理化检验技术交流群!
TA的最新馆藏[转]&[转]&
喜欢该文的人也喜欢文档分类:
分析化学习题精解..doc
下载后只包含 1 个 DOC 格式的文档,没有任何的图纸或源代码,
下载前请先预览,预览内容跟原文是一样的,在线预览图片经过高度压缩,下载原文更清晰。
您的浏览器不支持进度条
下载文档到电脑,查找使用更方便
还剩?页未读,继续阅读
该用户其他文档
下载所得到的文件列表分析化学习题精解..doc
文档介绍:
1《分析化学》习题选编上海师范大学化学实验教学示范中心日2第1章分析质量保证与控制一、选择题1下列数据中有效数字为四位的是(D)(A)0.060(B)0.0600(C)pH=6.009(D)0.60002下列数据中有效数字不是三位的是(C)(A)4.00×10-5(B)0.400(C)0.004(D)pKa=4.0083为了消除0.0002000kg中的非有效数字,应正确地表示为(D)(A)0.2g(B)0.20g(C)0.200g(D)0.2000g4下列数据中有效数字不是四位的是(B)(A)0.2500(B)0.0025(C)2.005(D)20.505下面数据中含有非有效数字的是(A)(1)0...000(4)20.00(A)1,2(B)3,4(C)1,3(D)2,46下列数据中为四位有效数字的是(C)(1)0.068(2)0...680(A)1,2(B)3,4(C)2,3(D)1,47在下列数据中,两位有效数字的是(B)(2)0.140(3)1.40(3)Ka=1.40×10-4(4)pH=1.40(A)1,2(B)3,4(C)1,4(D)2,38用50mL滴定管滴定,终点时正好消耗25mL滴定剂,正确的记录应为(C)(A)25mL(B)25.0mL(C)25.00mL(D)25.000mL9用25mL移液管移取溶液,其有效数字应为(C)(A)二位(B)三位(C)四位(D)五位10用分析天平准确称取0.2g试样,正确的记录应是(D)(A)0.2g(B)0.20g(C)0.200g(D)0.2000g11用分析天平称量试样时,在下列结果中不正确的表达是(A)(A)0.312g(B)0.0963g(C)0.2587g(D)0.3010g12已知某溶液的pH值为10.90,其氢离子浓度的正确值为(D)3(A)1×10-11mol·L-1(B)1.259×10-11mol·L-1(C)1.26×10-11mol·L-1(D)1.3×10-11mol·L-113醋酸的pKa=4.74,则Ka值为(A)(A)1.8×10-5(B)1.82×10-5(C)2×10-5(D)2.0×10-514下列数据中有效数字为二位的是(D)(A)[H+]=10-7.0(B)pH=7.0(C)lgK=27.9(D)lgK=27.9415按四舍六入五成双规则将下列数据修约为四位有效数字(0.2546)的是(C)(A)0.25454(B)0.254549(C)0.25465(D)0.下列四个数据中修改为四位有效数字后为0.2134的是(D)(1)0....213346(A)1,2(B)3,4(C)1,4(D)2,317以下计算式答案x应为(C)11.05+1.+25.0678=x(A)38.6581(B)38.64(C)38.66(D)38.6718下列算式的结果中x应为(C).8.0??x(A)0.14252(B)0.1425(C)0.143(D)0.14219测定试样CaCO3的质量分数,称取试样0.956g,滴定耗去EDTA标准溶液22.60mL,以下结果表示正确的是(C)(A)47.328%(B)47.33%(C)47.3%(D)47%20以下产生误差的四种表述中,属于随机误差的是(B)(1)试剂中含有待测物(2)移液管未校正(3)称量过程中天平零点稍有变动(4)滴定管读数最后一位估计不准(A)1,2(B)3,4(C)2,3(D)1,4二、填空题1以下各数的有效数字为几位:40.0060为二位;?为无限位;25为无限位;6.023×1023为四位;pH=9.26为二位。2将以下数修约为4位有效数字:0.0253541修约为0.3561修约为0..0253550修约为_0.3650修约为0.3651修约为_0.3549修约为0.02535。3测得某溶液pH值为3.005,该值具有三位有效数字,氢离子活度应表示为9.89×10-4mol·L-1;某溶液氢离子活度为2.5×10-4mol·L-1,其有效数字为二位,pH为3.60;已知HAc的pKa=4.74,则HAc的Ka值为1.8×10-5。4常量分析中,实验用的仪器是分析天平和50mL滴定管,某学生将称样和滴定的数据记为0.31g和20.5mL,正确的记录应为0.3100g和20.50mL。5消除该数值中不必要的非有效数字,请正确表示下列数值:0.0003459kg为0.00L为2.500×10-2L或25.00mL。6以下计算结果中各有几位有效数字(不必计算只说明几位)?,100%0..015..000.1000)1(??????xw二位,100%0..015..000.1000)21(??????xw三位7下列计算结果为:1.19%%.103.17)00..(NH???????w8某学生两次平行分析某试样结果为95.38%和95.03%,按有效数字规则其平均值应表示为95.2%。9由随机的因素造成的误差叫随机误差;由某种固定原因造成的使测定结果偏高所产生的误差属于系统误差。10滴定管读数小数点第二位估读不准确属于随机误差;天平砝码有轻微锈蚀所引起的误差属于系统误差;在重量分析中由于沉淀溶解损失引起的误差属于系统误差;试剂中有少量干扰测定的离子引起的误差属于系统误差;称量时读错数据属于过失误差;滴定管中气泡未赶出引起的误差属于过失误差;滴定时操作溶液溅出引起的误差属于过失误差。511准确度高低用误差衡量,它表示测定结果与真实值的接近程度。精密度高低用偏差衡量,它表示平行测定结果相互接近程度。12某标准样品的w=13.0%,三次分析结果为12.6%,13.0%,12.8%。则测定结果的绝对误差为-0.2(%),相对误差为-1.6%。13对某试样进行多次平行测定,各单次测定的偏差之和应为0;而平均偏差应不为0,这是因为平均偏差是各偏差绝对值之和除以测定次数。14对于一组测定,平均偏差与标准偏差相比,更能灵敏的反映较大偏差的是标准偏差。15当测定次数不多时,xs随测定次数增加而减小,也就是说平均值的精密度应比单次测定的精密度好(或高),即xs比s小。当测定次数大于10次时xs的变化就很小了。实际工作中,一般平行测定3~4__次即可。三、问答题1指出在下列情况下,各会引起哪种误差?如果是系统误差,应该采用什么方法减免?(1)砝码被腐蚀;(2)天平的两臂不等长;(3)容量瓶和移液管不配套;(4)试剂中含有微量的被测组分;(5)天平的零点有微小变动;(6)
内容来自淘豆网www.taodocs.com转载请标明出处.
文件大小:0 KB
下载次数:查看: 1562|回复: 17
按四舍六入五留双的规则进行有效数字修约
阅读权限30
在线时间 小时
如题,分享一个按四舍六入五留双的规则进行有效数字修约的自定义函数,献给广大的E友。
经本人测试,基本上达到完美的标准了。
补充内容 ( 20:58):
在7楼还有一个能自动设置格式的,给有需要的朋友们,希望多提反馈意见。
补充内容 ( 19:34):
13楼的附件是对7楼的改进,需要的朋友请直接到13楼下载。
19:54 上传
点击文件名下载附件
10.06 KB, 下载次数: 163
阅读权限20
在线时间 小时
精典的案例,谢谢分享!
阅读权限30
在线时间 小时
& & & & & & & &
怎么无法评分呢?
阅读权限50
在线时间 小时
Function Yround(c, Optional d% = 0)& && && && & '兼修约规则的四舍六入五成双法和数值修约截取位数的函数(特定场合法)
& & On Error Resume Next
& & If c = && Then Exit Function
& & c = CDec(c)
& & X = Abs(c) + 10 ^ -99
& & X = Int(-Log(X) / Log(10#))
& & d = d + X
& & m = 10 ^ d
& & Yround = Round(c, d)
& & Yround = Format(Yround, Left(0.1 / m, d + 2))
& & If d & 1 Then Yround = Round(c * m, 0) / m
& & If Mid(Yround, 3, 3) = &357& Then Yround = &参数溢出&
& & 'If c = && Then Yround = &&
End Function
阅读权限30
在线时间 小时
Function Yround(c, Optional d% = 0)& && && && & '兼修约规则的四舍六入五成双法和数值修约截 ...
不是很明白您的函数的用途,例如:Yround(10.85,3)返回的结果为10.81;Yround(10.85,4)返回的结果为10.851?
阅读权限50
在线时间 小时
现在上传文件,请老师测试
(14.13 KB, 下载次数: 29)
21:24 上传
点击文件名下载附件
阅读权限30
在线时间 小时
再分享一个能自动设置格式的。
20:51 上传
点击文件名下载附件
15.7 KB, 下载次数: 67
阅读权限30
在线时间 小时
& & & & & & & &
本帖最后由 三流高手 于
21:05 编辑
将代码拷贝到自己工作簿中的相应位置,就可以感受这个自定义函数的好处了。
有很多朋友都提出过类似的需求,即:既要四舍六入,舍入后遇到尾数为零的,还能自动以“0”补齐位数。
阅读权限20
在线时间 小时
将代码拷贝到自己工作簿中的相应位置,就可以感受这个自定义函数的好处了。
有很多朋友都提出过类似的需求 ...
据说银行有4舍6入5留双的需求.& & 您写的这函数,&&我对保留位数有疑问,比如保留4位& & 12.345的结果是12.34& && && && & 123.45的结果是123.4& & 结果都是4位数字& & 但是小数位一个是2位,一个是1位& &感觉保持小数位数一样是否更加合适?
阅读权限50
在线时间 小时
“四舍六入五留双”规则的目的是减少“四舍五入”的误差,和银行没有直接关系。
最新热点 /1
ExcelHome每周都有线上直播公开课,
国内一流讲师真身分享,高手贴身答疑,
赶不上直播还能看录像,
关键居然是免费的!
厚木哥们都已经这么努力了,
你还好意思说学不好Office。
玩命加载中,请稍候
玩命加载中,请稍候
Powered by
本论坛言论纯属发表者个人意见,任何违反国家相关法律的言论,本站将协助国家相关部门追究发言者责任! & & 本站特聘法律顾问:徐怀玉律师 李志群律师将7.63450修约为四位有效数字的结果是_百度知道
将7.63450修约为四位有效数字的结果是
将7.63450修约为四位有效数字的结果是
我有更好的答案
将7.63450修约为四位有效数字的结果是7.635
为您推荐:
其他类似问题
有效数字的相关知识
换一换
回答问题,赢新手礼包
个人、企业类
违法有害信息,请在下方选择后提交
色情、暴力
我们会通过消息、邮箱等方式尽快将举报结果通知您。结果保留几位有效数字,实验室一定要看
联系我们:
我们的服务:提供实验室认可(CNAS、CMA)咨询、实验室设计建设、实验室搬迁、实验室仪器、试剂、标准物质销售、仪器校准、实验室培训等实验室领域专业服务。致力于提供实验室整体解决方案,提高实验室质量水平!微信: 电话:186 ;点击标题下方蓝字“实验室ISO17025”关注我们
ISO17025公众号所有文章,汇编成书,书中集解答了实验室的几百个典型问题,是您做CMA和CNAS必不可少的帮手,详情点击本行蓝色的文字了解
售价128元,联系人张老师:(手机、微信)
导读:测量过程中的结果,保留几位有效数字,有效数字应该怎么保留,这都不问题。
1有效数字,有效位数的概念:
有效数字:是指如果测量结果经修约后的数值,其修约误差绝对值≤0.5(末位),则该数值称为有效数字,即从左起第一个非零的数字到最末一位数字止的所有数字都是有效数字。
有效位数:是指有效数字的位数。
如0.0025---2位有效数字;
1.001000----7位有效数字;
2.8×107---2位有效数字,
对于a×10n 形式表示的数值,其有效数字的位数由a中有效位数来决定。
从以上来看,“0” 这个数字在有效数字中起很大作用,处于第一个非零的有效数字以后的所有“0”都是有效数字。在有效数字位数中的“0”不能随意取舍,否则会改变有效数字的位数,影响其数据准确度。
2测量结果不确定度位数的保留
测量结果不确定度(扩展不确定度)的有效数字一般不超过2位,即只需要1~2位数字表达。但在合成之前的各个分量的标准不确定度可以保留多余的位数(《测量结果不确定度评定与表示指南》)。
当第一位非零有效数字大于或者等于3,可以只取1位有效数字;当第一位非零数字小于3,取2位有效数字。(在JJF上没有规定,因为这种比较适合用不确定度的位数来修约测量结果的位数,但通常我们都是用测量结果的位数来保留不确定度的位数)
3不确定度的数值的修约
有两种观点:一种是全进法;一种是“三分之一”准则。
全进法参考《JJF测量不确定度评定与表示》以及《计量基础知识》。全进法就是测量结果不确定度只进不舍,有效自由度采取只舍不进(全舍法)。
例如:10.47mg→11mg
有效自由度为11.97,则修约为:11.97 → 11
这种方法主要是依据保守原则,自由度越小,结果越不可靠;不确定度越大,包含真值的区间也越大(相对于同一合成标准不确定度和包含因子言)。
“三分之一”准则参考《误差理论与数据处理》。
所谓“三分之一”准则是指:先令测量估计值最末位的一个单位作为测量不确定度的基本单位,再将不确定度取到基本单位的整数位,其余位数可以按照微小误差舍取准则,若小于基本单位的1/3则舍去,若大于或者等于基本单位的1/3,舍去后将最末一位整数+1。这种修约方法得到的不确定度,对测量结果评定更加可靠。
例如:已知被测量的估计值为20.0005mm,
若有两种情况:U =0.00124mm;U =0.00123mm.要对U 进行修正。
根据被测量的估计值,取0.0001mm作为基本单位。
1.U =0.00124mm,其整数部分为12,小数部分为0.4,大于基本单位的1/3,故舍去后整数+1。修约后,U =0.0013mm 。
2.U =0.00123mm,整数部分也为12,小数部分为0.3,小于基本单位的1/3,故舍去。修约后 U =0.0012mm。
值得注意的是,微小误差舍去原则是被舍去的误差必须小于或者等于测量结果总标准差的1/3至1/10。满足此条件的微小误差在标准差的计算中的影响很小,这也是为什么选择高一级精度的标准器具时,其误差一般应为被检器具允许总误差的1/3—1/10的原因。
由于我们进行校准的时候主要是对仪器的示值误差进行校准,评定的标准也是用示值误差,对不确定度的要求不是以特别高,所以建议采用全进法,方便。如果特别要求准确评定不确定度时,可以考虑1/3准则。
4不确定度的数值与被测量的末位对齐
例如:M=(100.079)g
通常情况下都是按照测量结果的位数来确定不确定度的对齐位数。但在JJF中也这样说过:输入输出的估计值,应修约到与它们不确定度的位数一致。(测量结果位数按不确定度位数保留)但不管怎么说,当采用同一测量单位来表述测得值及其不确定度时,它们的有效位数末位应是对齐的。
5误差以及允许误差的位数保留
测得的误差有效位数末位数一般来说应该与测量值对齐,这里的所说的测量值有可能是真值也有可能是被校值。
例1:耐压机的报警电流
设定值(mA)
实测值(mA)
这里的测量值是2.092mA,是约定真值。
例2:推拉力计:
这里的测量值是50.2N,是被检表的示值。
这里的标准值的精度可以保证到千分之一(这个通常会在标准件的说明书给出),也就是小数点后三位。虽然50.05是测量值,但误差不应和它对齐,应该和精度高的标准值对齐。
在《误差理论与数据处理》一书中:测量结果的最末一位有效数字取到哪一位,是由测量精度来决定的。所用仪器的精度越高,测量结果的有效数字就会越多,所得到的误差有效数字也会越多。
我们可以这么说:标准值,被校值两者中,谁的有效位数多,误差的有效位数末位就应该与谁对齐。
值得注意的是:标准仪器的精度肯定比被校仪器的精度高,但我们在使用标准值的时候,往往取其名义值。例如:砝码 100g,量块41.2mm,没有说成砝码100.000g,量块41.200mm。这并不是说明他们的精度只到1或者0.1,在一定范围内,被校仪器的精度越高,这些标准值读出的为数也应该越多。
允许误差数值保留的有效位数也遵循以上原则。
注我们,微信公众号:实验室ISO17025
↑↑↑长按二维码,自动识别,
责任编辑:
声明:本文由入驻搜狐号的作者撰写,除搜狐官方账号外,观点仅代表作者本人,不代表搜狐立场。
今日搜狐热点

我要回帖

更多关于 修约至0.5 的文章

 

随机推荐