解决Golang小数float64在实际工程中加减乘除的精度问题

GO语言的float64类型在做加减乘除时会出现一些问题

比如乘法运算，实例，将小数的元转换成整数的分：

发现将小数的元乘以100后强制转换为整数分，少了1分

解决办法：

var (
a, b float64
c int64
)
a = 2.55
b = 0.0
c = int64((a + b) * 100.0)
fmt.Printf("第1次 c=%d\n", c) //第1次 c=254
c = int64(a * 100.0)
fmt.Printf("第2次 c=%d\n", c) //第2次 c=254
fmt.Println(a * 100) //254.99999999999997
//发现将小数的元乘以100后强制转换为整数分，少了1分
//解决办发1：
tmpStr1 := fmt.Sprintf("%.2f", a)
tmpStr2 := fmt.Sprintf("%.2f", b)
tmpnum1, _ := strconv.ParseInt(strings.Replace(tmpStr1, ".", "", 1), 10, 64)
tmpnum2, _ := strconv.ParseInt(strings.Replace(tmpStr2, ".", "", 1), 10, 64)
c = tmpnum1 + tmpnum2
fmt.Printf("第3次 c=%d\n", c) //第3次 c=255

//方法2：

num3 := math.Ceil(a * 100.0)
fmt.Printf(“num3=%d\n”, int64(num3)) //num3=255
//方法3：
strFloat := strconv.FormatFloat(a*100, ‘f', 0, 64)
nInt64, err := strconv.ParseInt(strFloat, 10, 64)

补充：golang float64，in64相互转换精度控制

如下所示：

//将float64转成精确的int64
func Wrap(num float64, retain int) int64 {
 return int64(num * math.Pow10(retain))
}
//将int64恢复成正常的float64
func Unwrap(num int64, retain int) float64 {
 return float64(num) / math.Pow10(retain)
}
//精准float64
func WrapToFloat64(num float64, retain int) float64 {
 return num * math.Pow10(retain)
}
//精准int64
func UnwrapToInt64(num int64, retain int) int64 {
 return int64(Unwrap(num, retain))
}

以上为个人经验，希望能给大家一个参考，也希望大家多多支持我们。如有错误或未考虑完全的地方，望不吝赐教。

赞 (0)

相关推荐

  • golang监听文件变化的实例

    废话不多说,直接上官网demo package main import ( "log" "github.com/fsnotify/fsnotify" ) func main() { watcher, err := fsnotify.NewWatcher() if err != nil { log.Fatal(err) } defer watcher.Close() done := make(chan bool) go func() { for { select {

  • 完美解决go Fscanf 在读取文件时出现的问题

    完美解决go Fscanf 在读取文件时出现的问题

    先要明白Fscanf的工作原理 Fscanf在遇到\n才结束 遇到\r时就会把\r替换成0 这就有个问题,要注意自己的文本换行符是什么,在Windows下就是\r\n,在Linux,Mac下就是\n,也就是说这里有个坑, 代码在Linux和Mac下读取数据文件是正常的,在Windows下就会遇到各种行末尾有个0,网上办法用什么替换啊,用什么自定义Scan函数啊,太麻烦了,直接使用自带IDE将打开的数据文件集换行符改成LF(Linux,Mac换行符)就行了 如下图Idea 文件右下角LF点击就可以

  • Go语言string，int，int64 ,float之间类型转换方法

    (1)int转string s := strconv.Itoa(i) 等价于s := strconv.FormatInt(int64(i), 10) (2)int64转string i := int64(123) s := strconv.FormatInt(i, 10) 第二个参数为基数,可选2~36 注:对于无符号整形,可以使用FormatUint(i uint64, base int) (3)string转int i, err := strconv.Atoi(s) (4)string转in

  • Golang 并发以及通道的使用方式

    Golang最擅长的就是并发编程,使用Golang可以很方便的进行并发编程.先看一段普通的代码 package main import ( "fmt" "time" ) func Foo(i int) { fmt.Printf("%d will sleep\n", i) time.Sleep(5 * time.Second) fmt.Printf("%d wake up\n", i) } func main() { for i

  • golang int 转float 强转和高精度转操作

    golang int 转float 方法一: 强转: 代码如下: import "fmt" func main() { var money int money = 1 fmt.Println(float64(money) / float64(100)) } 输出结果:0.01 方法二: 高精度转: 代码如下: import ( "fmt" "math/big" "strconv" ) func main() { totalAm

  • golang strings包的Replace的使用说明

    函数声明: func Trim(s string, cutset string) string 官方描述: 返回将 s 前后端所有 cutset 包含的 utf-8 码值都去掉的字符串. 示例代码: package main import ( "fmt" "strings" _ "test/subpac" ) func main(){ fmt.Println("[ !!! Achtung! Achtung! !!! ]:[]:[&quo

  • golang 中signal包的Notify用法说明

    函数声明为: func Notify(c chan<- os.Signal, sig ...os.Signal) 官方描述: Notify函数让signal包将输入信号转发到c.如果没有列出要传递的信号,会将所有输入信号传递到c:否则只传递列出的输入信号. signal包不会为了向c发送信息而阻塞(就是说如果发送时c阻塞了,signal包会直接放弃):调用者应该保证c有足够的缓存空间可以跟上期望的信号频率.对使用单一信号用于通知的通道,缓存为1就足够了. 示例代码: ch := make(cha

  • Golang Printf,Sprintf,Fprintf 格式化详解

    1.`Sprintf` 则格式化并返回一个字 符串而不带任何输出. s := fmt.Sprintf("是字符串 %s ","string") 2. fmt.Println(s) // 是字符串 %s 对应 是字符串 string 3.可以使用 `Fprintf` 来格式化并输出 fmt.Fprintf(os.Stderr, "格式化 %s\n", "error") 顺带说一下格式化的符号: /* %v 输出结构体 {10 3

  • golang 中strings包的Replace的使用说明

    函数声明为: func Replace(s, old, new string, n int) string 官方描述为: 返回将s中前n个不重叠old子串都替换为new的新字符串,如果n<0会替换所有old子串. 示例代码为,每行的结果见每行上面的注释部分: func main() { // non-overlapping: "123" repeat 6 times in s s := "123lafaldsjglad123lkfasdf123djfal123lkdjg

  • 解决Golang小数float64在实际工程中加减乘除的精度问题

    解决Golang小数float64在实际工程中加减乘除的精度问题

    GO语言的float64类型在做加减乘除时会出现一些问题 比如乘法运算,实例,将小数的元转换成整数的分: 发现将小数的元乘以100后强制转换为整数分,少了1分 解决办法: var ( a, b float64 c int64 ) a = 2.55 b = 0.0 c = int64((a + b) * 100.0) fmt.Printf("第1次 c=%d\n", c) //第1次 c=254 c = int64(a * 100.0) fmt.Printf("第2次 c=%d

  • 过滤Android工程中多余资源文件的解决方法

    本文以实例讲述了过滤Android工程中多余资源文件的解决方法,很有实用价值!具体描述如下: 很多开发人员在Android项目开发过程中经常会遇到这样的情况:界面开发人员发布了一个新版本的资源包,不过有的图片名称改了,有的图片删掉了,可是在实现的时候开发人员只是把新的资源覆盖到原来的资源文件夹中,随着版本的发布,在drawable或values中积累的无用资源越来越多,直到最后发布正式版的时候再想要删除这些多余的文件,于是不得不一个一个文件检查看是否有用,再决定要不要删除之. 有鉴于此,很有必要

  • VC6.0打开文件以及向工程中添加文件时程序崩溃自动退出解决方法

    换了一台电脑,vc6.0程序中,点击打开文件以及向工程中添加文件时,程序竟然崩溃自动退出了. 不知什么原因,安装相同的vc程序,本本竟然出现此缘故.但是这个操作又是自己经常用到的,所以不得不解决. 与上一台电脑不同的是,此电脑是win7系统,而上一个则是xp系统.此电脑office是2010版本,而上一个则是WPS:于是乎,在网上查资料,来解决. 看到网上也有类似的问题,有的说是win7系统原因,有的说是office2007版本缘故,有的说是viso缘故.总之,这几种说法,我都符合.win7系统

  • iOS 11更新后及iPhone X推出后工程中遇到的问题及适配方法

    1.UITableView滑动时右侧的滑动条忽长忽短的乱跳以及MJRefresh上拉刷新死循环 这是因为tableView在iOS11默认使用Self-Sizing,tableView的estimatedRowHeight.estimatedSectionHeaderHeight.estimatedSectionFooterHeight三个高度估算属性由默认的0变成了UITableViewAutomaticDimension,MJRefresh的KVO会监听错误的contentoffset,造成

  • Android在高jar包版本的工程中修改方法

    android的应用程序安装包APK如果是在高版本的android jar上开发的是无法在低版本的android SDK上跑的,所以我们需要将我们已经开发好的应用程序换上低版本的android jar包重新编译一个APK,那么如何简单的在高版本的工程中直接修改呢: 1. eclipse中点击工程->Properties-> Android 在右侧的界面中选中Android 2.2即可(前提是你的android sdk中同时包含这两个版本的android jar包) 或者 打开default.p

  • Android APP瘦身（清除工程中没用到的资源）详解

    清除Android工程中没用到的资源 项目需求一改再改,UI一调再调,结果就是项目中一堆已经用不到但却没有清理的垃圾资源,不说工程大小问题,对新进入项目的人或看其他模块的代码的人来说,这些没清理的资源可能也可能会带来困扰,所以最好还是清理掉这些垃圾,对于一个稍微大一点的工程来说,手工清理明显是不现实的,这就需要一个方法做这些事情. 清理资源文件 要清理没用的资源,首要的工作当然是找到他们,我们知道Anroid SDK中有一个工具叫lint,可以帮助我们查看工程中存在的问题,其中有一项功能就是查找

  • 解决 Golang VS Code 插件下载安装失败的问题

    最近开始学Go语言,但是在使用VS Code 编写Go的时候出现了插件无法下载的问题.最初我的解决办法也是从github下载再安装,但是我并不喜欢这种做法,因为我要在多台pc上使用VS Code编写Go,所以我觉要重复多次很麻烦,而且插件的安装也非常麻烦,我曾经一度想放弃学习Go语言,没错因为安装插件很麻烦.在经过我多次的查找最终找到了http://goproxy.cn/,这是Go的国内镜像,使用了这个就可以结局Go插件无法下载的问题. (http://goproxy.cn/ 文档简介,方便以后

  • maven工程中jar包瘦身的五种方法

    java项目中常用maven工具来进行工程管理,但经常遇到的一个问题是生成的jar包越来越大,编译一次工程越来越慢.怎么有效地去除冗余依赖,给jar包进行瘦身,是一项必备技能.下面介绍在maven工程中jar包瘦身五大法: 一.将环境中已包含的依赖包的scope设置为provided pom中依赖的部分包可能在你程序运行环境中已经包含,此时应该将依赖包的scope设置为provided.如protobuf包如在环境中已包含,则应设置为: <dependency> <groupId>

  • Golang小数操作指南之判断小数点位数与四舍五入

    Golang小数操作指南之判断小数点位数与四舍五入

    目录 一.判断几位小数点 1.判断几位小数点 二.四舍五入 1.fmt.Sprintf 2.math.Round(result*pow) 总结 一.判断几位小数点 1.判断几位小数点 加载 cast 包 go get github.com/spf13/cast 代码如下(示例): package main import ( "fmt" "github.com/spf13/cast" "math" "regexp" "

  • Android开发工程中集成mob短信验证码功能的方法

    Android开发工程中集成mob短信验证码功能的方法

    一.前言 现在的app基本上都需要用到短信功能,注册时或者有消息通知时需要给用户发送一条短信,但是对于个人开发者来说,去买第三方的短信服务实在是有点奢侈,很好的是mob为我们提供了免费的短信验证码服务功能,我不是打广告,的确觉得这项服务很不错.那么下面就简单讲一下如何在自己的工程里集成mob的短信功能,其实整个流程并不复杂,只是个人觉得mob的官方文档有点小乱,官方Demo也有点小复杂,同时有一些细节地方容易被忽视,也会导致一些问题. PS:太喜欢mob的logo了. 二.实现过程 本篇只涉及A

随机推荐