详细分析sqlserver中的小数类型（float和decimal）

在SQL Server中实际上只有两种小数数值类型，分别是float（近似数值）和decimal（精确数值），这两种类型能表示所有的小数数值类型。

float（近似数值类型）

float表示的是近似数值，存在一定的精度缺失。

float(n)

这里的n是以科学计数法存储浮点数尾数的位数，因此此参数决定了精度和存储的大小。其是可选的，默认值是53，即float等价于float(53)，占用8bytes。如果指定了n，则它必须是介于1至53之间的值。实际上，虽然n的取值范围定义是1至53，但实际上float只能表示float(53)和float(24)两种类型，分别占用8bytes和4bytes。

n的范围 精度 存储大小
1-24（都视为24） 7位小数 4bytes
25-53（都视为53） 15位小数 8bytes 

使用近似数值要格外注意尽量避免相等比较，因为比如1可以被存储为1.000000056，也可以被存储为1.00000000672，进行相等比较会得到意料之外的结果。

decimal（精确数值类型）

decimal表示的是精确数值类型。不存在精度损失，别名是numeric。

decimal(p, s)
-- 等价于
numeric(p, s)

精确数值类型需要分别指定小数的最大位数（p）和小数位的数量（s）：

  • p（precision）：指定小数的最大位数，小数点的左侧和右侧的数字的总数量不能超过p，p的取值范围是从1到38，默认值为18。
  • s（scale）：指定在小数点右侧的小数位数，p-s是小数点左边的最大位数。s必须是从0到p的值，只有在指定了精度的情况下才能指定s，s的默认值是0，因此，0 <= s <= p。

p的大小也同时决定了存储位数的大小：

精度大小 存储位数
1-9 5
10-19 9
20-28 13
29-38 17

因为p和s必须遵守规则：0 <= s <= p <= 38，所以decimal(p, s)实际上能够表示的有效值是从-10^38+1到10^38-1。这就意味着，decimal数据类型的最大精度是38，即最多可以存储38位数字，所有这些数字均可位于小数点后面。decimal数据类型存储精确的数字表示形式，没有近似值。

小数的除法

小数的除法实际上是近似运算，因此在使用除法的时候SQL Server会自动将小数的类型提升为float类型（隐式数据类型升级）。

小数常量的默认数据类型是decimal，但是float类型的优先级比decimal类型要高。在默认的情况下，SQL Server会将小数数值的常量自动转换为decimal数据类型（常态下），而在进行小数的除法运算的时候，则会就近进行数据类型的升级，转换为float(24)或float(53)数据类型（运算时）。

简单举个例子，常量12.345在常态下会被解析并转换为numeric(5, 3)的数值类型，即使用最小精度5和最小小数位数3；而在运算除法时，比如12.345/2则会被解析并转换为float(24)，即最小精度的近似数值类型。

小数转为字符串

相比cast(float_expression as float(24/53))，使用str()函数更能够有效控制近似数值的小数位数，因为str()函数获取的是近似数值。

str(float_expression [ , length [ , decimal ] ])

str()函数可以接受length、decimal两个参数，皆是可选的。

  • length是小数的总位数，包含正负符号，小数点，小数点左边和右边数字个数之和；
  • decimal是小数位的数量（小数点右边数字个数），小数位最大为16位，不能超过16，否则，会被截断为16位。如果小数位没有decimal多，那么右边补0。
  • 返回值是varchar类型。

将decimal常量转换为varchar类型：

select str(123.45, 10, 2); -- 123.45

将float表达式的值转换为varchar类型（位数不足自动补0）：

select str(1.0/3, 10, 8); -- 0.33333300

对小数常量转换为varchar类型，减少小数位的数量，由2位减少为1位（会自动进行四舍五入运算）：

select str(123.45, 6, 1); -- 123.5

使用函数str或cast将float和decimal强制转换为varchar类型时，返回的数值可能是不相同的：

select str(56.64564684439527, 38, 20); -- 56.64564684438742000000
select cast(56.64564684439527 as varchar(100)); -- 56.64564684439527

这是因为两种函数的处理方式的不同导致的：str()函数会对小数数值先取近似值；而cast()函数则是返回与原始值数据类型相同的值（decimal返回精确值，float返回近似值）。

以上就是详细分析sqlserver中的小数类型（float和decimal）的详细内容，更多关于sqlserver 小数类型的资料请关注我们其它相关文章！

赞 (0)

相关推荐

  • Sqlserver 表类型和表变量介绍

    表类型可以用在存储过程中,用于批量增加表类型定义: 复制代码 代码如下: CREATE TYPE dbo.SubCardTable as table  (       [SC_ID] [varchar](50),       [ZhuKaInfo_ID] [varchar](50),       [Project_KeyName] [varchar](50),       [SC_CardNumber] [varchar](50),       [Statues] [int] DEFAULT 0

  • 浅谈sqlserver下float的不确定性

    很多时候,大家都知道,浮点型这个东西,本身存储就是一个不确定的数值,你永远无法知道,它是 0 = 0.00000000000000123 还是 0 = 0.00000000000999这样的东西.也许一开始使用的时候没有问题,但是有时候做统计的时候,就会看出端倪 简单的举个例子,就知道统计的时候,有可能出现意外的效果,导致可能需要存储过程或者接收程序的代码左额外的取舍数位的处理,所以在此其实我是推荐使用Numeric来替代float进行一个替代使用,避免一个sum ,然后明明明细看每一条数据都是

  • SQLSERVER 中datetime 和 smalldatetime类型分析说明

    datetime 和 smalldatetime 代表日期和一天内的时间的日期和时间数据类型. Microsoft SQL Server 用两个 4 字节的整数内部存储 datetime 数据类型的值.第一个 4 字节存储 base date (即 1900 年 1 月 1 日)之前或之后的天数.基础日期是系统参考日期.不允许早于 1753 年 1 月 1 日的 datetime 值.第一个4 字节:1900 年1 月1 日当日为0 :之前的日期是负数:之后日期是正数.另外一个 4 字节存储以午

  • SQLserver查询数据类型为ntext是空或NULL值的方法

    复制代码 代码如下: --为空的值text ntext select * from lf_newsNg_utf where datalength(newsContentE)=0 or datalength(newsContentE) is null

  • sqlserver中将varchar类型转换为int型再进行排序的方法

    sqlserver中将varchar类型转换为int型再进行排序的方法

    如果我们数据库的ID设置为varchar型的 在查询的时候order by id的话我们是不希望看到如下情况的. 我们可以把varchar转换为int 然后进行排序 一. 复制代码 代码如下: select * from yourtable order by cast(yourcol as int); 适用于SQLServer Oracle 二. 复制代码 代码如下: select * from yourtable order by convert(int,yourcol); 仅适用于SQLSe

  • java sqlserver text 类型字段读取方法

    有这样一个需求,需要将原本存储在数据库中的文档转存至文件系统中,于是写了一个简单的程序完成此功能,代码如下: Java代码 复制代码 代码如下: import java.io.BufferedOutputStream; import java.io.File; import java.io.FileOutputStream; import java.io.IOException; import java.sql.Connection; import java.sql.DriverManager;

  • 详细分析sqlserver中的小数类型（float和decimal）

    在SQL Server中实际上只有两种小数数值类型,分别是float(近似数值)和decimal(精确数值),这两种类型能表示所有的小数数值类型. float(近似数值类型) float表示的是近似数值,存在一定的精度缺失. float(n) 这里的n是以科学计数法存储浮点数尾数的位数,因此此参数决定了精度和存储的大小.其是可选的,默认值是53,即float等价于float(53),占用8bytes.如果指定了n,则它必须是介于1至53之间的值.实际上,虽然n的取值范围定义是1至53,但实际上f

  • 详细分析Android中onTouch事件传递机制

    详细分析Android中onTouch事件传递机制

    onTach介绍 ontach是Android系统中整个事件机制的基础.Android中的其他事件,如onClick.onLongClick等都是以onTach为基础的. onTach包括从手指按下到离开手机屏幕的整个过程,在微观形式上,具体表现为action_down.action_move和action_up等过程. onTach两种主要定义形式如下: 1.在自定义控件中,常见的有重写onTouchEvent(MotionEvent ev)方法.如在开发中经常可以看到重写的onTouchEv

  • 详细分析JavaScript中的深浅拷贝

    在说JS中深浅拷贝之前,我们需要对JS中的数据类型有所了解,分为基本数据类型与引用数据类型,对于基本数据类型并没有深浅拷贝的说法,深浅拷贝主要针对引用数据类型. 一.浅拷贝 浅拷贝只复制了引用,并没有复制值.在JS中最简单的浅拷贝就是利用"="赋值操作符来实现. var obj1 = { a:1, b:[2,3,4], c:{name:'tanj'}, fun:function(){ console.log('fun') } } var obj2 = obj1 obj2.a = 666

  • 详细分析Javascript中创建对象的四种方式

    前言 使用Javascript创建对象的方式有很多,现在就来列举一下其中的四种方式,并且罗列出了每种方式的优缺点,可以让大家进行选择使用,下面来看看. 工厂模式 function createPerson(name, age){ var obj = new Object(); obj.name = name; obj.age = age; return obj; //一定要返回,否则打印undefined:undefined } var person1 = new createPerson('Y

  • 详细分析Android中实现Zygote的源码

    概述 在Android系统中,所有的应用程序进程,以及用来运行系统关键服务的System进程都是由zygote进程负责创建的.因此,我们将它称为进程孵化器.zygote进程是通过复制自身的方式来创建System进程和应用程序进程的.由于zygote进程在启动时会在内部创建一个虚拟机实例,因此,通过复制zygote进程而得到的System进程和应用程序进程可以快速地在内部获得一个虚拟机实例拷贝. zygote进程在启动完成之后,会马上将System进程启动起来,以便它可以将系统的关键服务启动起来.

  • 详细分析Java中String、StringBuffer、StringBuilder类的性能

    我们先要记住三者的特征: String 字符串常量 StringBuffer 字符串变量(线程安全) StringBuilder 字符串变量(非线程安全) 一.定义 查看API会发现,String.StringBuffer.StringBuilder都实现了 CharSequence接口,虽然它们都与字符串相关,但是其处理机制不同. String:是不可改变的量,也就是创建后就不能在修改了. StringBuffer:是一个可变字符串序列,它与String一样,在内存中保存的都是一个有序的字符串

  • C语言详细分析不同类型数据在内存中的存储

    C语言详细分析不同类型数据在内存中的存储

    目录 数据类型的介绍 类型的基本归类 整形在内存中的存储 大小端介绍 一道笔试题 浮点数在内存中的存储 浮点数存储规则 剖析题目 数据类型的介绍 在我们之前的学习当中我们已经介绍了基本的内置类型 char 字符数据类型 short 短整型 int 整形 long 长整型 long long 更长的整形 float 单精度浮点数 double 双精度浮点数 这些类型的意义是: 1.使用这个类型开辟内存空间的大小,大小决定了使用范围 2.如何看待内存空间的视角. 类型的基本归类 整形 整形中分为有符

  • C语言详细分析浮点数在内存中的储存

    C语言详细分析浮点数在内存中的储存

    目录 浮点数的储存格式 初步了解 深入探究 E不全为0或不全为1 E全为0 E全为1 浮点数的储存格式 初步了解 首先让我们通过一段代码来认识一下浮点型和整型的区别: int main() { int n = 9;//将整型9存储到n中 float* pFloat = (float*)&n; printf("n的值为:%d\n", n); printf("*pFloat的值为:%f\n", *pFloat); *pFloat = 9.0;//将浮点型9.0存

  • C语言详细分析贪心策略中最小生成树的Prime算法设计与实现

    C语言详细分析贪心策略中最小生成树的Prime算法设计与实现

    目录 浅析最小生成树 Prime算法思想 此算法核心部分 结构体的选择 实现思路 构造实例 构造过程 代码详解 调试结果 总结 浅析最小生成树 设G=(V,E)是无向连通带权图.E中每条边(v,w)的权为c[v][w]. 生成树:如果G的子图G’是一棵包含G的所有顶点的树,则称G’为G的生成树. 耗费:生成树上各边权的总和 最小生成树:在G的所有生成树中,耗费最小的生成树最小生成树在实际中有广泛应用. 例如,在设计通信网络时,用图的顶点表示城市,用边(v,w)的权c[v][w]表示建立城市v和城

  • mysql中binlog_format模式与配置详细分析

    mysql复制主要有三种方式:基于SQL语句的复制(statement-based replication, SBR),基于行的复制(row-based replication, RBR),混合模式复制(mixed-based replication, MBR).对应的,binlog的格式也有三种:STATEMENT,ROW,MIXED. ① STATEMENT模式(SBR) 每一条会修改数据的sql语句会记录到binlog中.优点是并不需要记录每一条sql语句和每一行的数据变化,减少了binl

随机推荐