C++ float转std::string 小数位数控制问题

目录
  • float转std::string 小数位数控制
    • std::stringstream 方式
    • sprintf 方式
  • string转float显示位数有误；cout 的 precision 成员函数
    • 问题描述
    • 问题分析

float转std::string 小数位数控制

std::stringstream 方式

    float a = 1122.334455;
    std::stringstream buf;
    buf.precision(2);//覆盖默认精度
    buf.setf(std::ios::fixed);//保留小数位
    buf << a << "文字";
    std::string str;
    str = buf.str();

sprintf 方式

    float a = 1122.334455;
    char* chCode;
    chCode = new(std::nothrow)char[20];
    sprintf(chCode, "%.2lf", a);// .2 是控制输出精度bai的，两位小数
    std::string strCode(chCode);
    delete []chCode;

string转float显示位数有误；cout 的 precision 成员函数

问题描述

在进行string转float过程中，发现有些数显示位数不同（存在数精度少了一位的情况，例如：0.1285354 转换后，显示 0.128535）

数据如下：

0.0281864
-0.0635702
0.0457153
0.1285354
-0.0254498
...

问题分析

后了解到 float 只显示有效位数 6 位， 而 double 显示有效位数 15 位

  • float有效数字位为6 – 7位，字节数为4，指数长度为8位，小数长度为23位。取值范围为 3.4E-38～3.4E+38。
  • double有效数字位为15 – 16位，字节数为8，指数长度为11位，小数长度为52位。取值范围为1.7E-308～1.7E+308。

随即思考，是不是转换后赋值到了float上，导致精度降低呢？

马上修改赋值到double类型上，然而任然显示有误。

这才想到会不会使 cout 输出精度的问题，搜索后发现 cout 需要调用 precision() 成员函数来设置显示精度，而 cout 默认精度为6位有效数字，哈哈真是凑巧，跟 float 精度一样。

修改后代码如下：

#include <iostream>
#include <string>
#include <string.h>
#include <stdlib.h>

using namespace std;

int main(int argc, char *argv[]) {
    const string tmp_str = "0.1285354";
    float tmp_f = 0;
    double tmp = 0;
    cout.precision(16);
    cout << sizeof(tmp_f) << "--" << sizeof(tmp) << endl;
    cout << stof(tmp_str) << endl;
    cout << stod(tmp_str) << endl;
    cout << stold(tmp_str) << endl;
    cout << strtod(tmp_str.c_str(), NULL) << endl;
    cout << atof(tmp_str.c_str()) << endl;
    tmp = 0.1234567890123456;
    cout << tmp << endl;
    return 0;
}

程序输出

nvidia@nx:~/pengjing/cuda$ ./location 
4--8
0.1285354048013687
0.1285354
0.1285354
0.1285354
0.1285354
0.1234567890123456

cout 设置浮点数输出精度方法

方法一（全局设置 cout 输出精度）

#include <iostream>
double tmp = 0.1234567890123456;
cout.precision(16);    //此处设置后，全局有效；cout浮点数输出精度均为16
cout << tmp << endl;

方法二（全局设置 cout 输出精度）

#include <iostream>
#include <iomanip>
double tmp = 0.1234567890123456;
cout << setprecision(16) << tmp << endl; //此处设置后，全局有效；后面cout浮点数输出精度均为16
cout << 0.1234567890123456 << endl;    // 0.1234567890123456

以上为个人经验，希望能给大家一个参考，也希望大家多多支持我们。

赞 (0)

相关推荐

  • C++数据精度问题(对浮点数保存指定位小数)

    1.背景 对浮点数保存指定位小数.比如, 1.123456. 要保存1位小数,,调用方法后, 保存的结果为: 1.1. 再比如,1.98765, 保存2位小数的结果为: 2.00. 2. 解决方案 A.添加头文件 #include <sstream> #include <iomanip> B.添加命名空间 using namespace std; C.添加函数 /* 函数名:round /* 函数功能:数据精度计算函数 /* 函数参数:float src:待求精度数 int bit

  • 基于C++浮点数(float、double)类型数据比较与转换的详解

    浮点数在内存中的存储机制和整型数不同,其有舍入误差,在计算机中用近似表示任意某个实数.具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学记数法.所以浮点数在运算过程中通常伴随着因为无法精确表示而进行的近似或舍入.但是这种设计的好处是可以在固定的长度上存储更大范围的数.1.将字符串转换为float.double过程存在精度损失,只是float.double各自损失的精度不相同而已std::string str="8.2&

  • C++数据精度问题的解决方案(对浮点数保存指定位小数)

     1.背景 对浮点数保存指定位小数.比如,  1.123456.   要保存1位小数,,调用方法后, 保存的结果为: 1.1. 再比如,1.98765,  保存2位小数的结果为: 2.00. 2. 解决方案 A.添加头文件 #include <sstream> #include <iomanip> B.添加命名空间 using namespace std; C.添加函数 /*******************************************************

  • C++ float、double判断是否等于0问题

    目录 float.double判断是否等于0 float和double的比较 float.double判断是否等于0 如果是两个int类型的数据,想要判断他们是否相等,我们可以直接比较. int a =11; int b=11; if(a==b) 答案是肯定的,BUT如果是float和double: float是32位,double是64位.float32位中,有1位符号位,8位指数位,23位尾数位.double64位中,1位符号位,11位指数位,52位尾数位. 一般float型只能精确到小数到

  • C++ float转std::string 小数位数控制问题

    目录 float转std::string 小数位数控制 std::stringstream 方式 sprintf 方式 string转float显示位数有误:cout 的 precision 成员函数 问题描述 问题分析 float转std::string 小数位数控制 std::stringstream 方式     float a = 1122.334455;     std::stringstream buf;     buf.precision(2);//覆盖默认精度     buf.s

  • JS 控制小数位数的实现代码

    昨天在用JS对前台浮点数进行合算时发现: 0.05+1.08=1.1300000000000001 上网查一查的确存在这种Bug,除了位数上控制之外也没什么也好的方法(希望高手能提出 其它思路). 于是自己编写一个控制小数位数的JS方法,解决开发燃眉之急 复制代码 代码如下: //小数位数控制,可以四舍五入 function Fractional(n) { //小数保留位数 var bit = 2; //加上小数点后要扩充1位 bit++; //数字转为字符串 n = n.toString();

  • 在JSP中使用formatNumber控制要显示的小数位数方法

    先引入标签库 <%@ taglib uri="http://java.sun.com/jsp/jstl/fmt" prefix="fmt" %> 比如保留小数点后两位小数: <fmt:formatNumber value="${xxx}" type="number" maxFractionDigits="2"/> 以上这篇在JSP中使用formatNumber控制要显示的小数位数方法

  • Java指定保留小数位数的方法

    今天项目中需要更改时长的显示方式,规定必须保留两位小数,刚才看简书的时候正好看到一个指定保留小数位数的工具类的文章,在此基础上,做了一点小修改,用起来更加方便了,有需要的朋友尽管撸走 DecimalUtils 类: import java.math.BigDecimal; import java.math.RoundingMode; import java.text.DecimalFormat; /** * Created by Sean on 17/3/10. */ public class

  • .net decimal保留指定的小数位数(不四舍五入)

    前言 项目中遇到分摊金额的情况,最后一条的金额=总金额-已经分摊金额的和. 这样可能导致最后一条分摊的时候是负数,所以自己写了一个保留指定位数小数的方法. 扩展方法的使用,使得调用起来很优雅. 示例代码 public static class DecimalExtension { /// <summary> /// decimal保留指定位数小数 /// </summary> /// <param name="num">原始数量</param&

  • C# 小数位数保留的方法集锦

    1.System.Globalization.NumberFormatInfo provider = new System.Globalization.NumberFormatInfo(); provider.NumberDecimalDigits =intDecLength; //要设定的小数位数 double strCashAmt=Convert.ToDouble(this.txtCashAmt.Text); //先把控件內的值转成double this.txtCashAmt.Text =

  • Android 限制edittext 整数和小数位数 过滤器(详解)

    写了一个过滤器,根据需要限制edittext输入的整数和小数位,如下代码: package allone.verbank.apad.client.component; import android.text.InputFilter; import android.text.Spanned; /** * * @Title: ComponentDigitCtrlFilter.java * @Package allone.verbank.apad.client.component * @Descrip

  • Java四舍五入时保留指定小数位数的五种方式

    方式一: double f = 3.1516; BigDecimal b = new BigDecimal(f); double f1 = b.setScale(2, BigDecimal.ROUND_HALF_UP).doubleValue(); 输出结果f1为 3.15: 源码解读: public BigDecimal setScale(int newScale, int roundingMode) //int newScale 为小数点后保留的位数, int roundingMode 为变

  • javascript中的toFixed固定小数位数 简单实例分享

    javascript中的toFixed固定小数位数 简单实例分享

    [code]<script> var a=4.2343; alert(a.toFixed(3)); </script> <script>var a=4.2343;alert(a.toFixed(3));</script>执行结果: toFixed方法将一个数字转换成一个拥有固定小数位数的字符串.

  • C# double和decimal数据类型以截断的方式保留指定的小数位数

    项目中要用到以截断的方式取小数点后两位,故写了以下方法: 复制代码 代码如下: /// <summary> /// 将小数值按指定的小数位数截断 /// </summary> /// <param name="d">要截断的小数</param> /// <param name="s">小数位数,s大于等于0,小于等于28</param> /// <returns></retur

随机推荐