一、前言

  在大家的认知过程中可能会认为计算机是不会出现计算错误的,但是实际上,依然存在程序运行后无法得到正确数值的情况。其中,最经典的就是小数运算。(做金融的一定要小心!!!)
  
  二、引入

  在我们的世界里面,100个0.1相加就是10,这个是没有疑问的。但是当我们用程序来计算的时候,结果并非是10(不同语言计算的结果可能不同)。
  首先是一段计算代码:
  
int main(void) {
      float sum;
        int i;
        sum = 0;
        for (i=0 ;i<100;i++) {
            sum += 0.1;
        }
        printf("%f\n",sum);
}
  运行结果如下:
  10.000002
  计算机通过编译、链接、运行得到的结果是10.000002。程序没有错。现在让我们来看一下具体原因吧。
  三、计算机计算结果不正确的原因

  简单来说,就是无法表示正确的数值,导致计算出来的结果成了近似值。下面进一步剖析一下。
  首先,我们来看一下在计算机世界里面如何用二进制数表示小数:
  例如把1011.0011这个小数点的二进制数转成十进制数。(只需将各数位数值和位权相乘,然后将相乘的结果相加)
  也就是:1*2^3+0*2^2+1*2^1+1*2^0+0*2^(-1)+0*2^(-2)+1*2^(-3)+1*2^(-4) = 11.1875。
  了解了二进制表示的小数转十进制的方法后,计算出错的原因也就容易理解了。用小数点后4位用二进制表示时的数值范围为:0.0000~0.1111。因此,对应的十进制结果如下:
  
  从上面的对照表可以看出,0的下一位就是0.625。因此0~0.0625之间的数值计算机无法用小数点后4位数的二进制数表示。因此可以看出0.1无法用4位二进制数表示。就算增加二进制的位数,也无法得到2^(-x) =0.1 这个结果。
  实际上,十进制0.1转成二进制后,就变成了0.0001100110011……(1100循环)这样的循环小数。就像1/3是一个道理。因此100各0.1相加不等于10,而是等于近似值。
  ---------------------------------------------以上就能够回答标题的原因了---------------------------------------------
  四、What is 浮点数?

  其实像刚才那样的1011.0011这种表现形式完全是纸面上的二进制数表现形式,在计算机内部是无法使用的(计算机内部只是0101001……没有"."这个概念)。实际上,编程语言提供了双精度浮点数(double)和单精度浮点数(float)。双精度浮点数类型用64位、单精度浮点数用32位来表示全体小数。
  浮点数:就是用符号、尾数、基数和指数表示的小数。
  
  其中:±表示符号,m表示尾数,n表示基数,e表示指数。实际数据中不考虑基数。因此:
  
  其中:
  1、符号部分:1表示负、0表示正或者0。
  2、尾数部分用的是:将小数点前面的值固定位1的正则表达式。
  3、指数部分:用的是EXCESS系统表现。
  先看看尾数部分。对于十进制的0.75。我们有如下的表示方法:
  ①、0.75 = 0.75*10^0
  ②、0.75 = 75*10^(-2)
  ③、0.75 = 0.075*10^1
  十进制的表示正则为:小数点前面是0,小数点后面第一位不是0的规则表示。而对于二进制也是一样的道理,使用的是:将小数点前面的值固定为1的正则。也就是将二进制数表示的小数左移或右移(逻辑移位)数次后,整数部分的第一位变成1,第二位之后变成0.而且第1位的1在实际数据中不保存。
  例如1011.0011:
  移位变成0001.0110011,确保小数点后23位:0001.01100110000000000000000,仅保留小数点后面完成正则:01100110000000000000000。
  再看看指数部分。EXCESS系统表现:将指数部分表示范围的中间值设置为0,使得负数不需要用符号来表示。例如当指数部分是8为单精度浮点时,最大值11111111=225的1/2即01111111=127表示0。双精度类似。
  因此对于单精度浮点数的表现,其表示范围就是:00000000~11111111也就是-127~128。看下面例子:
  
int main(int argc, char *argv[]) {
    float data;
    unsigned long buff;
    int i;
    char n[34];
    //将0.75以单精度浮点数形式存储在data中
    data = (float)0.75;
  memcpy(&buff,&data,4); for (i=33;i>=0;i--) {     if(i==1 || i==10) {         n = '-';     }else {         if(buff%2==1) {             n = '1';         }else {             n='0';         }         buff/=2;     }      } n[33] = '\0'; printf("%s\n",n);  }
  运行结果:
  0-01111110-10000000000000000000000
其中01111110是126,EXCESS表示为-1。
  小数点前面的第一位是1。因此尾数就是:1.10000000000000000000000也就是1.5。
  也就是+1.5*2^(-1) = 0.75。
  五、如何避免小数计算出错导致的问题

  可以将小数替换成整数来计算。然后在缩小相应的倍数。
  来源:博客园 Kakarotto-卡卡罗特