1绪论-课件-11

2.计算机对数的接收与处理

? 计算机对数的接收

设非零实数x是计算机接收的实数，则计算机对其的处理为

（1）若x?F(?,t,L,U) 则原样接收x ； （2）若x?F(?,t,L,U)，m?x?M，则用F(?,t,L,U) 中最接近x的数fl(x)表示并记录x。

13

? 计算机对数的运算处理

两个数在计算机中参与运算的方式为：

（1） 加减法

先对阶，后运算，再舍入；（2） 乘除法

先运算，再舍入 14

例，某计算机的数系F（10, 4,－99,99）的

-12

两个数x1=0.2337×10 和x2＝0.3364×10 ，则运算过程如下

fl(x1?x2)?fl(0.2337?10?0.3364?10)对阶?12?fl(0.0002337?10?0.3364?10)fl(0.3366337?10)2222运算?舍入?0.3366?10

15

)?fl(0.2337?10?1?0.3364?102)运算?fl(0.7861668?100)舍入?0.7862?100?0.7862

16

fl(x1?x2