按所给数据求出该水池的容积为：
V*=V(L*,W*,H*)=L*W*H*=50?25?20=2500 （米3）
*?V*?e?V??e?L*???V*e?W*???V*e?H*?L?W?H??W*H*e?L*??L*H*e?W*??LW**e?H*????V*???V*?L??L*???V**?V*?W??W???H??H*??W*H*??L*??L*H*??W*??LW**??H*??25?20?0.01?50?20?0.01?50?20?0.01?27.50?米3???*?r?V????V*V*?27.502500?0.11%
故有绝对和相对误差限为27.50米3
和0.11%。
29
4. 计算机的舍入误差
计算机对x的舍入绝对误差和舍入相对误差有如下估计 1）
e?fl?x???x?fl(x)?0.5??x?fl(x)xc?t
2）er?fl?x???0.5??c?t1?t??0.5?? 0.1??c由此可知，计算机对任何实数的舍入相对误
差限与实数本身无关，只与计算机字长t有
1?t0.5??关，其值为。
因此常称eps?0.5??
30
1?t为计算机精度。
1.4有效数字
科学计算中常用有效数字来估计和处理误差，有效数字易算且与误差有密切关系。
*
定义1.5 若近似数x的误差限是其
*
某一位上数字的半个单位，就说近似数x准确到该位；由该位自右向左数到x* 的第一个非零数字若有n位，就称近似数x*有n位有效数字。
31
有效数字的数学描述 设
*mx??0.a1a2???ak?10
a1?0,al??0,1,2,???,9?，m为整数，k为不小于正整数n的整数。若有关系式
e?x*??x*?x?0.5?10m?n(1.4)
则称近似数x*有n位有效数字，此时x*有n
m?0.aa???a?10位有效数字的值可取为。 12n
32
相关推荐：
loading