Mysql 乘法除法精度不一致问题(除法后四位小数)

问题

今天在写项目功能的时候，有一个统计金额的情况，然后需要进行单位转换，所以写下了大概如下功能的语句，但得到的数据为小数点后4位精度，正常我们只需要2位就足够。

select total_fee / 100 from orders

继续排查寻找资料，进行精度转换，找了一圈的资料都不太满意，继续进行测试

测试

测试bug和未知情况，我们一定要 最小复现，精简测试 ，防止其他语句对结果产生干扰。

select 1 / 100;
// 得到 0.0100
select 1 * 0.01;
// 得到 0.01

并且在3/4台设备上运行，不同mysql版本环境都是这样子的结果。

所以初步得知 Mysql中，乘法和除法对小数点后的精度不一致

在国内的论坛中没有找到合适的资料，于是到国外论坛寻找，提问，交流。

答案

首先感谢其他前辈对问题的解答和指点，我们也将尽量详细地记录问题的排查。

文明之所以能延续，是因为它们有记忆。希望文章也能帮到更多的朋友。

  • 除法的精度默认是小数点后4位
  • 乘法的精度使用 操作数的精度和 的方式来判断，如例子中的 1*0.01 精度分别是小数点后0位和2位，那么就是 0+2 =2 结果也将使用2位精度

测试

select 1.00 * 0.01;
// 结果 0.0100

符合上诉结论。感谢国外前辈指教。

除法使用2位精度

那么我们的问题 如果是要坚持用除法解决，我们可以使用函数来进行转换精度，

CAST( @x / @y AS DECIMAL(m,n) )

DECIMAL的参数可以百度看这个，基本创建过表结构的都能明白。

@x和@y就是除数和被除数。

同时我还提出疑问，是否能在mysql里设置默认除法精度，我们就可以不用每次sql都使用函数计算了。

前辈回复：如果你不想有时候出现出乎意料的情况，那么需要每次都强制使用类型转换。

mysql相关说明文献

https://dev.mysql.com/doc/refman/8.0/en/arithmetic-functions.html

In division performed with /, the scale of the result when using two exact-value operands is the scale of the first operand plus the value of the div_precision_increment system variable (which is 4 by default). For example, the result of the expression 5.05 / 0.014 has a scale of six decimal places (360.714286).

除法的精度规则

由上面引用的文献可知：当使用两个数值进行计算时，结果的精度由 第一个操作数的精度 + 系统变量div_precision_increment的值决定 ，如我们例子中的1 精度是0，系统变量精度是4位默认，所以得到的结果是4位精度

set div_precision_increment = 2;
// 再运行select 1 / 100; 得到 0.01 符合想要的结果

所以我们还可以通过修改默认变量，来改变除法的默认精度。

此时我们再测试

select 1.0 / 100;
// 结果 0.010 符合上文所述结论

总结

到此这篇关于Mysql 乘法除法精度不一致，除法后四位小数的文章就介绍到这了,更多相关mysql 乘法除法精度内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们！

赞 (0)

相关推荐

  • 一起因MySQL时间戳精度引发的血案分析

    写在前面 最近工作中遇到两例mysql时间戳相关的问题,一个是mysql-connector-java和msyql的精度不一致导致数据查不到:另一例是应用服务器时区错误导致数据查询不到.通过这篇文章,希望能够解答关于mysql中时间戳的几个问题: mysql中的DATETIME精度为什么只支持到秒? mysql中的DATETIME类型跟时区有关吗? mysql设计表的时候,表示时间的字段改如何选择? 案例分析 DATETIME的精度问题 前段时间,将负责的应用的mysql-connector-j

  • Mysql 乘法除法精度不一致问题(除法后四位小数)

    问题 今天在写项目功能的时候,有一个统计金额的情况,然后需要进行单位转换,所以写下了大概如下功能的语句,但得到的数据为小数点后4位精度,正常我们只需要2位就足够. select total_fee / 100 from orders 继续排查寻找资料,进行精度转换,找了一圈的资料都不太满意,继续进行测试 测试 测试bug和未知情况,我们一定要 最小复现,精简测试 ,防止其他语句对结果产生干扰. select 1 / 100; // 得到 0.0100 select 1 * 0.01; // 得到

  • Java BigDecimal除法精度和格式化输出方式

    目录 BigDecimal除法精度和格式化输出 答案 BigDecimal的用法详解 保留两位小数,四舍五入,数字格式化,科学计数法转数字,数字里的逗号处理 构造器描述 方法描述 常用方法 BigDecimal除法精度和格式化输出 import java.math.BigDecimal; import java.math.MathContext; import java.math.RoundingMode; import java.text.DecimalFormat; public class

  • MySQL GTID主备不一致的修复方案

    目录 方案一:重建 Replicas 前提条件 优点 缺点 操作步骤 Master Slave 方案二:使用percona-toolkit进行数据修复 前提条件 优点 缺点 操作步骤 背景示例 校验一致性 方案一:重建 Replicas MySQL 5.6及以上版在复制中引入了新的全局事务ID(GTID)支持. 在启用了GTID模式的情况下执行MySQL和MySQL 5.7的备份时,Percona XtraBackup会自动将GTID值存储在xtrabackup_binlog_info中. 该信

  • Mysql和redis缓存不一致问题的解决方案

    Mysql和redis缓存不一致问题的解决方案

    目录 一.问题描述 二.解决方案 1.给缓存数据设置过期时间 2.缓存延时双删 3.删除缓存重试机制 4.读取biglog异步删除缓存 三.总结 一.问题描述 redis.mysql双写缓存不一致: 在更新缓存方面,对于更新完数据库,是更新缓存呢,还是删除缓存.又或者是先删除缓存,再更新数据库,其实大家存在很大的争议.于是博主战战兢兢,写了这篇文章. 二.解决方案 1.给缓存数据设置过期时间 先做一个说明,从理论上来说,给缓存设置过期时间,是保证最终一致性的解决方案.这种方案下,我们可以对存入缓

  • mysql免安装版步骤解压后找不到密码处理方法

    1.解压mysql-8.0.21-winx64 2.配置环境变量,地址写到bin文件夹下 3.创建配置文件,命名为 my.ini,内容如下 [mysql] # 设置mysql客户端默认字符集 default-character-set=utf8 [mysqld] interactive_timeout=28800000 wait_timeout=28800000 # 设置3306端口 port = 3306 # 设置mysql的安装目录 basedir=D:\ProgramFiles\mysql

  • IDEA链接MySQL报错08001和连接成功后不显示表的问题及解决方法

    报错Connection to blog0@localhost failed. [08001] Could not create connection to database server. Attempted reconnect 3 times. Giving up. 解决办法:在url后面拼接?serverTimezone=UTC 连接成功后数据库不显示表 通过设置解决: scheme选择当前使用的数据库 到此这篇关于IDEA链接MySQL报错08001和连接成功后不显示表的问题及解决方法的

  • MySQL使用MRG_MyISAM(MERGE)实现分表后查询的示例

    数据库大数据量优化是一门很大的学问,也是做为一名开发者需要掌握的专业技能. MySQL分表方式分为垂直分表和水平分表,这两种分表形式都比较简单,简单理解垂直分表指的是:表的记录并不多,但是字段却很长,表占用空间很大,检索表的时候需要执行大量的IO,严重降低了性能.这时需要把大的字段拆分到另一个表,并且该表与原表是一对一的关系.而水平分表则是在同一个数据库内,把同一个表的数据按一定规则拆到多个表中,目的是优化单一表数据量过大而产生的性能问题,避免IO争抢并减少锁表的几率. 实现分表很简单,复杂的是

  • matlab中乘法“*”和点乘“.*”；除法“/”和点除“./”的联系和区别

    一,*和.*的联系和区别. 1,在进行数值运行和数值乘矩阵,这两种没有区别,例如:a*b=a.*b; a*B=a.*B; B*a=B.*a (其中小写字母表示数值,大写字母表示矩阵,下同). 2,在处理矩阵乘矩阵时,*表示普通的矩阵乘法,要求前面矩阵的列数等于后面矩阵的行数:.*表示两个矩阵对应元素相乘,要求两个矩阵行数列数都相等.例如: >> [1,2,3]*[1,2;3,4;5,6] % 矩阵乘法 ans = 22 28 >> [1,2,3].*[4,5,6] % 矩阵点乘 a

  • MySQL 自动备份与数据库被破坏后的恢复方法第1/2页

    一.前言: 当数据库服务器建立好以后,我们首先要做的不是考虑要在这个支持数据库的服务器运行哪些受MySQL提携的程序,而是当数据库遭到破坏后,怎样安然恢复到最后一次正常的状态,使得数据的损失达到最小. 或者说,仅仅是数据库服务器的建立,只能说明它能做些什么,并不代表它能稳定的做些什么.灾难恢复的效率及全面性,也是系统的稳定性的一个准因素,尤其对于一个服务器系统. 这一节,介绍数据库自动备份以及数据库被破坏后的恢复的方法.在这里,我们使用mysqlhotcopy,并且定义一段Shell脚本来实现数

  • mysql实现向某个字段前或后添加字符

    mysql实现向某个字段前或后添加字符

    目录 mysql向某个字段前或后添加字符 mysql更新字段时,在末尾添加新字符串 使用concat函数 使用IFNULL函数 补充其他concat的函数 mysql向某个字段前或后添加字符 使用concat 方法即可.可以先尝试使用时请带上where id=** 测试,否则将是全表修改哦. UPDATE optional_product SET cate_path = concat('|',cate_path,'|') 效果: 如果需要批量替换某个字段,请参考本人另一篇文章: Mysql中批量

随机推荐