Excel在水文数据数字修约中的应用.pdf

Br?在水文数据型字修约中的地水
①马锋
1数字修整的目的与意义
公式:“=A1*2”则B1显示结果为2.2IN()函数
4.69。即引用的数值仍为原来的数值
INT()函数为将数字向下舍入到最
在测量和数字计算中,小数点后2.354,并非2.358但是如果按照四含六接近的整数。
应用几位数字来表示被测量或计算的入,逢五奇进偶不进修约规则,则应该
语法:INT( number), Number需要
结果,是一个很重要的问题。并不是一是2.34x2=4.68。两者显然有所差别。进行向下舍入取整的实数。
个数值中小数点后面的数愈多,这个
为了使水文数据在 Excel中的处
例1:同样的方法可对A1乘以
数值就愈精确;或者在计算结果中,保理符合水文规范要求,必须在 Excel I中100,向下取整,再除以100。将数值扩
此小利≌Z二+
留的位数愈多,这个数就愈精确。在保编辑函数公式,实现计算机计算代替大多少倍,处理后再缩小相应的倍数,
证精度的前提下,为了计算的方便,引手工计算。达到既髙效又精确的目的。这种思路在各种函数公式中都会用到。
进了有效数字的概念。水文测验中不
同的要素的观测值有不同的有效数字2水文数据处理常用函数简介
=INT(8.9)将8.9向下舍人到
取位,即便同一种要素,在不同的量级
最接近的整数(8)
时也会有不同的有效数字取位。
2.1IF()函数
=INT(-8.9)将8.9向下舍入到
与有效数字相配套的是数字的修F()函数根据对指定的条件计算最接近的整数(-9)
约,在许多领域,惯用四含五入法对多结果为TRUE(真)或 FALSE(假),返2.3MOD)函数
余的尾数进行修约。为了尽量减少数回不同的结果。可以使用F对数值和
返回两数相除的余数。结果的正
字修约造成的舍人误差,使水文测验、公式执行条件检测。
负号与除数相同
资料整编成果更加精确,水文测验和
语法:IF( logical_ test value
语法:MOD( numbe, divisor),即
资料整编规范对水文数据的修约作出IF-ume, value._F-alse,公式可这样理MOD(被除数,被除数
如下规定:四舍六入,逢五奇进偶不解F(条件,条件成立时返回的值,条
呀数MOD可以借用函数INT来
进。限于上述数字修约的规定,流量测件不成立时返回的值)。
表示:MODn,d=nーd*INT(n/d山)
验计算表等在每一步的计算过程都必
例1:在单元格B1中输入公式:
示例:
须人工修约,比较麻烦,而且容易出现=F(A1>=-60及格”不及格”)
=MOD(3,2)3/2的余数(1)
差错。计算机的应用,可以大幅度地减
此时条件为:A1>=60,如果单元格
MOD(3,-2)3/-2的余数,符号
少人工计算工作量。但是,使用AI的数值大于或等于60,说明条件成与除数的相同(-1)
Microsoft Excel计算时,其修约方式是立,B1单元格显示:“及格”,如果单元
=MOD(-3,2)-3/2的余数,符
四舍五入
格A1的数值小于60,说明条件不成号与除数的相同(1)
两种修约方法显然会使计算结果立,则返冋“不及格”,即B1单元格显
有所差别。在使用 Microsoft Excel计算示:“不及格”。
3数字修约
时,计算机会保留并记忆其计算结果。
例2
如果在单元格中设置其小数的位数,
图1为F()函数的嵌套使用,对B3.1四舍五人法
单元格会显示按照四舍五人的舍人结列复制公式,可对A列的分数评定成数字修约在 Excel中的应用,四舍
果,而在引用单元格数值时,数值仍为绩,当A2>=90时,返回“优"”否则进人五人法如图3所示。
原来的数据。例如:在单元格AI中输下一个F()函数,进行判断A22=80
公式解释:= INT(A1*10)10+IF(INT
人数值2345,设置单元格格式→数是否成立,成立“良”,不成立进人下一(MOD(A1+100100=5,0.1,0,将公式分
值→两位小数,则在单元格A1中显示个F()函数,直到条件A2>=60成立解为以下4部分:
CO
数字为2.35,如若在单元格B1中输入“及格”,不成立“不及格”。
①:MOD(A1*10010),A1-2.3
◆作者系延安水文水资源局助理工程师。
A1*100=232.4,MOD(232.4,10)=2.4(返回
:IF(INT(A]*100)<>A1*100,向下舍入为最接近的整数,就可以将误
232.4除以10的余数)。
0.1,②
差消除。
②:INT(①)①=2.4,INT(2.4)=2(将
④:IF(INT(MOD(A1*100,10)<5
保留一位小数的公式为:=INT
2.4下舍人到最接近的整数)
(A1*10/10+IF(INT(MOD(A1*100.10+0.
3):IF(2の>5,0.1)②=2IF(2>=50.1,0
⑤:IF(INT(MOD(A1*100,10)>5,000)5,0.1,IF( INT(MOD(A1*100,10)+0
=显然2>=5不成立,顾返回)
0.1,④)
0000)K5,0,IF(NT(A1*100)~<>A1*100,0.1,
④:INT(A1*10/10A1*10=2
整个公式为第①部分第⑤部分。IF( MOD(MOD(NT(A1*10,102,0.1,0))
324*10=23.24INT(23.24)/10=2.3
第①部分为,保留小数点后1位,舍
同样的方法,可设置保留两位小数
公式:=INT(A1*10/10+ F(INT MOD去小数点后1位以后的数字
三位小数及整数。
A1*100,10)>=5,0.1,0)
第⑤部分为,当A1的小数点后第二位
保留两位小数:=INT(A1*100)
2.3+0=2.3
>5,成立,则返回0.1,否则进入第④部分。/100+IF(INT(MOD(A1*1000100+0.000)
同样的方法,可设置保留两位小数
第④部分为,当A1的小数点后第二位>5,0.01,IF(INT(MOD(A1*1000100+0.
三位小数及整数
<5,成立,则返回0,否则进入第③部分
00001)K5,0,JF(INT(A1*1000~<>A1*1000
保留两位小数:=-INT(A1*+100y100+F第③部分是,判断A1*100向下取整0.01, IF MOD (MOD(NT(A1*100,1002),
( INTMOD(A1*1000,10)>=5,0.01,0
与A1*100是否相等(即A1的小数点后0.01,O
保留三位小数:=INT(A1*1000第2位之后是否有非零数字)如果不相
保留三位小数:
/1000E(INT(MOD(A1*10000-5,等,则返同0.1,相等进入第②部分。
=INT (A1*1000]1000+IF (NT (MOD
0.001,0)
第②部分是判断A1的小数点后一(A1*1000010+0.00005,0.001,F(INT
取整数:=INT(AI)+IF(INT(MOD位数字除以2有无余数,有