C++ float、double判断是否等于0问题

目录
  • float、double判断是否等于0
  • float和double的比较

float、double判断是否等于0

如果是两个int类型的数据,想要判断他们是否相等,我们可以直接比较。

int a =11;
int b=11;
if(a==b)

答案是肯定的,BUT如果是float和double:

float是32位,double是64位。float32位中,有1位符号位,8位指数位,23位尾数位。double64位中,1位符号位,11位指数位,52位尾数位。

一般float型只能精确到小数到后六位即1e-6,将float型的数a的绝对值abs(a)与1e-6比较,如果abs(a)比1e-6还要小的话就可以认为a的值为零,因为小数六位以后是不精确的,是没有意义的。

比如数0.0000001虽然确实不等于零,但是第七位小数1是没有意义的就可以认为这个数等于0。

float,double分别遵循R32-24,R64-53的标准。所以float的精度误差在1e-6;double精度误差在1e-15,所以要判断一个单精度浮点数:则是if( abs(f) <= 1e-6);要判断一个双精度浮点数:则是if( abs(f) <= 1e-15 );若小于,为0,大于,不为0 。

代码如下:

#include <stdio.h>
#include <stdlib.h>
#include <math.h>  //必须加这个头文件
int main()
{
    float a = 0;
    if(fabs(a) < 1e-6) 
    {
        printf("%f\n",fabs(a));
        printf("float Equal 0!\n");
    }
    else
    {
        printf("%f\n",fabs(a));
        printf("float not Equal 0!\n");
    }
    
    double b = 0; 
    if(fabs(b) < 1e-15)
    {
        printf("%f\n",fabs(a));
        printf("double Equal 0!\n");
    }
    else
    {
        printf("%f\n",fabs(a));
        printf("double not Equal 0!\n");
    }
    
    return 0;
}

返回的都是相等!

float和double的比较

在c++开发中,double或者float类型判断相等性不能简单的用等于符号==进行,一般会采用如下方式进行判断

static inline bool DoubleEqual(double a, double b)
{
     return fabs(a - b) < std::numeric_limits<double>::epsilon();
}

为了验证这个说法,我在机器上写了如下一段代码, 结果竟然没有一次输出,貌似可以直接比较

double a = 0, b = 0;
for(int i = 0; i < 100000; i++) {
    a += i * 0.1;
    b += i * 0.1;
    if ( a != b) {
        printf("%f %f\n", a ,b);
    }
}

那么到底浮点数能不能比较?

#include<stdio.h>
int main()
{
    float x = 0.1;
    if (x == 0.1)
        printf("1");
    else if (x == 0.1f)
        printf("2");
    else
        printf("3");
}

这段代码输出2,这也就意味着 x == 0.1 返回了false。 x==0.1f 返回了true。

这又是为什么呢?先看一段代码

#include<stdio.h>
int main()
{
    float x = 0.1;
    printf("%d %d %d", sizeof(x), sizeof(0.1), sizeof(0.1f));
    return 0;
}

这段代码输出 4 8 4, 这也就说明代码中不加上f后缀,默认会采用double类型(sizeof(0.1)中的0.1作为常量默认是按照double存储的)。

前面的例子中 x == 0.1 导致了x 变量提升到double(因为右边的0.1是double类型,所以x要提升到double),double 位数比float要多,这时候就需要二进制补全(x进行了补全,只是把后面缺的近30位补成了0,而不是把x这个0.1重新按照double进行组织,也就是补全后的x虽然小数部分达到了52位,但是后面的29位都是0)。

0.1的二进制(double)表示为(0.00011001100110011…) 后面的...表示循环数。

由于float的位数(23)要小于double(52)的位数,在x变量提升到double后, 编译器会将多余的尾补全尾0。

0.00011001100110011001100 float 0.1

在和0.1比较时(0.1默认为double)时,x会被编译器进行变量提升,变成 0.00011001100110011001100000000000000000 (float 0.1 提升到double 0.1的二进制表示)

而double类型的0.1的表示为:

0.0001100110011001100110011001100110011001100110011001(原double 0.1的二进制表示)

上述结果就得到了解释,float提升到double后的二进制表示和double 0.1的二进制完全不一样。

难道所有的比较都会有这个问题吗?并不是。下面有个例子就不会产生问题比如

#include<stdio.h>
int main()
{
    float x = 0.5;
    if (x == 0.5)
        printf("1");
    else if (x == 0.5f)
        printf("2");
    else
        printf("3");
}

这个就输出了1,

0.5的二进制表示为0.100000…, 由此看见就算编译器在尾补上补充再多的0,也不会导致二进制表示不一样。

总结:同类型的比较不设计到变量提升或者截断,可以直接比较。当变量提升或者截断后,二进制没有循环模式的也是可以直接比较的。

以上为个人经验,希望能给大家一个参考,也希望大家多多支持我们。

(0)

相关推荐

  • 详谈浮点精度(float、double)运算不精确的原因

    目录 为什么浮点精度运算会有问题 精度运算丢失的解决办法 拓展:详解浮点型 为什么浮点精度运算会有问题 我们平常使用的编程语言大多都有一个问题--浮点型精度运算会不准确.比如 double num = 0.1 + 0.1 + 0.1; // 输出结果为 0.30000000000000004 double num2 = 0.65 - 0.6; // 输出结果为 0.05000000000000004 笔者在测试的时候发现 C/C++ 竟然不会出现这种问题,我最初以为是编译器优化,把这个问题解决了

  • 基于C++浮点数(float、double)类型数据比较与转换的详解

    浮点数在内存中的存储机制和整型数不同,其有舍入误差,在计算机中用近似表示任意某个实数.具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学记数法.所以浮点数在运算过程中通常伴随着因为无法精确表示而进行的近似或舍入.但是这种设计的好处是可以在固定的长度上存储更大范围的数.1.将字符串转换为float.double过程存在精度损失,只是float.double各自损失的精度不相同而已std::string str="8.2&

  • C++中double浮点数精度丢失的深入分析

    看了一篇关于C/C++浮点数的博文,在Win32下,把int, 指针地址,long等4字节整数赋给一个double后,再用该double数赋给原始类型的数,得到的结果于最初的数值一致,即不存在任何精度丢失.例如下面的结果将总是true: long a=123456; //assign any long number here double db=a; long b=db; printf("%s\n",a==b?"true":"false"); 但

  • C++ float、double判断是否等于0问题

    目录 float.double判断是否等于0 float和double的比较 float.double判断是否等于0 如果是两个int类型的数据,想要判断他们是否相等,我们可以直接比较. int a =11; int b=11; if(a==b) 答案是肯定的,BUT如果是float和double: float是32位,double是64位.float32位中,有1位符号位,8位指数位,23位尾数位.double64位中,1位符号位,11位指数位,52位尾数位. 一般float型只能精确到小数到

  • MySQL中Decimal类型和Float Double的区别(详解)

    MySQL中存在float,double等非标准数据类型,也有decimal这种标准数据类型. 其区别在于,float,double等非标准类型,在DB中保存的是近似值,而Decimal则以字符串的形式保存数值. float,double类型是可以存浮点数(即小数类型),但是float有个坏处,当你给定的数据是整数的时候,那么它就以整数给你处理.这样我们在存取货币值的时候自然遇到问题,我的default值为:0.00而实际存储是0,同样我存取货币为12.00,实际存储是12. 幸好mysql提供

  • 解决JavaScript中0.1+0.2不等于0.3问题

    console.log(0.1+0.2===0.3)// true or false?? 在正常的数学逻辑思维中,0.1+0.2=0.3这个逻辑是正确的,但是在JavaScript中0.1+0.2!==0.3,这是为什么呢?这个问题也会偶尔被用来当做面试题来考查面试者对JavaScript的数值的理解程度. 在JavaScript中的二进制的浮点数0.1和0.2并不是十分精确,在他们相加的结果并非正好等于0.3,而是一个比较接近的数字 0.30000000000000004 ,所以条件判断结果为

  • mybatis参数String与Integer类型的判断方式

    目录 String与Integer类型的判断 我们一般是这样写 使用<if>标签判断Integer类型的坑 没想到还有另外的问题 注意上面的第二个条件使用的单个等号 String与Integer类型的判断 mybatis写update时,正常是set了值才会进行update操作 我们一般是这样写 <if test="sampleBatchNo != null and sampleBatchNo != ''"> SAMPLE_BATCH_NO =#{sampleB

  • 一篇文章带你了解C语言浮点数之间的比较规则

    目录 你认为这段代码输出什么? 为什么不等于呢? 应该怎么解决? 那么怎么判断两个浮点数 f1 和 f2 相等呢. 伪代码 可以简化为 >> 怎么判断浮点数等于0? 还有一个问题 总结 你认为这段代码输出什么? int main() { float f1 = 1.1; float f2 = 2.2; if (f2 - 1.1 == f1) printf("等于"); else printf("不等于"); return 0; } 答案是不等于. 为什么不

  • mybatis使用Integer类型查询可能出现的问题

    目录 使用Integer类型查询出现的问题 当state这个值为0的时候 mybatis判断Integer遇到的bug 场景产出 我是这样写的 使用Integer类型查询出现的问题 mapper.xml : <select id="count" parameterType="com.pinyu.system.web.page.Page" resultType="java.lang.Integer">         select co

  • Java基本类型与包装类详细解析

    Java语言提供了八种基本类型.六种数字类型(四个整数型,两个浮点型),一种字符类型,还有一种布尔型. 1.整数:包括int,short,byte,long ,初始值为0 2.浮点型:float,double ,初始值为0.0 3.字符:char ,初始值为空格,即'' ",如果输出,在Console上是看不到效果的. 4.布尔:boolean ,初始值为false 基本型别 大小 最小值 最大值 boolean ----- ----- ------ char 16-bit Unicode 0

  • Java基本数据类型与对应的包装类(动力节点java学院整理)

    Java是面向对象的编程语言,包装类的出现更好的体现这一思想. 其次,包装类作为类是有属性有方法的,功能比基本数据类型要强大. Java语言提供了八种基本类型.六种数字类型(四个整数型,两个浮点型),一种字符类型,还有一种布尔型. 1.整数:包括int,short,byte,long ,初始值为0 2.浮点型:float,double ,初始值为0.0 3.字符:char ,初始值为空格,即'' ",如果输出,在Console上是看不到效果的. 4.布尔:boolean ,初始值为false 注

  • Python中关于浮点数的冷知识

    本周的PyCoder's Weekly 上分享了一篇小文章,它里面提到的冷知识很有意思,我稍作补充,分享给大家. 它提到的部分问题,读者们可以先思考下: 若两个元组相等,即 a==b 且 a is b,那么相同索引的元素(如 a[0] .b[0])是否必然相等呢? 若两个对象的 hash 结果相等,即 hash(a) == hash(b),那么它们是否必然相等呢? 答案当然都为否(不然就不叫冷知识了),大家可以先尝试回答一下,然后再往下看. -----思考分割线----- 好了,先来看看第一个问

  • iOS 使用UITextField自定义搜索框 实现用户输入完之后“实时搜索”功能

    注:CSDN的代码块有点捞,如果浏览器窗口较窄,一行代码占了两行的位置,后面的代码就看不到了,大家可以把浏览器窗口拉大一点 UI小姐姐设计的搜索框经常是五花八门,系统的搜索框经常不能满足我们的需求,需要我们特别定制一个.但是UITextField的诸多回调里面,没有一个是适合触发搜索时间的. UITextFieldTextDidChangeNotification调用过于频繁,每输入一个字符就调一次接口怕是不太合适. UITextFieldTextDidEndEditingNotificatio

随机推荐