sqlserver中的⼩数类型(float和decimal)
在SQL Server中实际上只有两种⼩数数值类型,分别是float(近似数值)和decimal(精确数值),这两种类型能表⽰所有的⼩数数值类型。
float(近似数值类型)
float表⽰的是近似数值,存在⼀定的精度缺失。
float(n)
这⾥的n是以科学计数法存储浮点数尾数的位数,因此此参数决定了精度和存储的⼤⼩。其是可选的,默认值是53,即float等价于float(53),占⽤8bytes。如果指定了n,则它必须是介于1⾄53之间的值。实际上,虽然n的取值范围定义是1⾄53,但实际上float只能表⽰float(53)和float(24)两种类型,分别占⽤8bytes和
4bytes。
n的范围精度存储⼤⼩
1-24(都视为24)7位⼩数4bytes
25-53(都视为53)15位⼩数8bytes
使⽤近似数值要格外注意尽量避免相等⽐较,因为⽐如1可以被存储为1.000000056,也可以被存储为1.00000000672,进⾏相等⽐较会得到意料之外的结果。decimal(精确数值类型)
decimal表⽰的是精确数值类型。不存在精度损失,别名是numeric。
decimal(p, s)
-- 等价于
numeric(p, s)
精确数值类型需要分别指定⼩数的最⼤位数(p)和⼩数位的数量(s):
p(precision):指定⼩数的最⼤位数,⼩数点的左侧和右侧的数字的总数量不能超过p,p的取值范围是从1到38,默认值为18。
s(scale):指定在⼩数点右侧的⼩数位数,p-s是⼩数点左边的最⼤位数。s必须是从0到p的值,只有在指定了精度的情况下才能指定s,s的默认值是0,因此,0 <= s <= p。
decimal是整数数据类型
p的⼤⼩也同时决定了存储位数的⼤⼩:
精度⼤⼩存储位数
存储位数
精度⼤⼩
1-95
10-199
20-2813
29-3817
因为p和s必须遵守规则:0 <= s <= p <= 38,所以decimal(p, s)实际上能够表⽰的有效值是从-10^38+1到10^38-1。这就意味着,decimal数据类型的最⼤精度
是38,即最多可以存储38位数字,所有这些数字均可位于⼩数点后⾯。decimal数据类型存储精确的数字表⽰形式,没有近似值。
⼩数的除法
⼩数的除法实际上是近似运算,因此在使⽤除法的时候SQL Server会⾃动将⼩数的类型提升为float类型(隐式数据类型升级)。
⼩数常量的默认数据类型是decimal,但是float类型的优先级⽐decimal类型要⾼。在默认的情况下,SQL Server会将⼩数数值的常量⾃动转换为decimal数据类
型(常态下),⽽在进⾏⼩数的除法运算的时候,则会就近进⾏数据类型的升级,转换为float(24)或float(53)数据类型(运算时)。
简单举个例⼦,常量12.345在常态下会被解析并转换为numeric(5, 3)的数值类型,即使⽤最⼩精度5和最⼩⼩数位数3;⽽在运算除法时,⽐如12.345/2则会被
解析并转换为float(24),即最⼩精度的近似数值类型。
⼩数转为字符串
相⽐cast(float_expression as float(24/53)),使⽤str()函数更能够有效控制近似数值的⼩数位数,因为str()函数获取的是近似数值。
str(float_expression [ , length [ , decimal ] ])
str()函数可以接受length、decimal两个参数,皆是可选的。
length是⼩数的总位数,包含正负符号,⼩数点,⼩数点左边和右边数字个数之和;
decimal是⼩数位的数量(⼩数点右边数字个数),⼩数位最⼤为16位,不能超过16,否则,会被截断为16位。如果⼩数位没有decimal多,那么右边补0。
返回值是varchar类型。
将decimal常量转换为varchar类型:
select str(123.45, 10, 2); -- 123.45
将float表达式的值转换为varchar类型(位数不⾜⾃动补0):
select str(1.0/3, 10, 8); -- 0.33333300
对⼩数常量转换为varchar类型,减少⼩数位的数量,由2位减少为1位(会⾃动进⾏四舍五⼊运算):
select str(123.45, 6, 1); -- 123.5
使⽤函数str或cast将float和decimal强制转换为varchar类型时,返回的数值可能是不相同的:
select str(56.64564684439527, 38, 20); -- 56.64564684438742000000
select cast(56.64564684439527as varchar(100)); -- 56.64564684439527
这是因为两种函数的处理⽅式的不同导致的:str()函数会对⼩数数值先取近似值;⽽cast()函数则是返回与原始值数据类型相同的值(decimal返回精确值,float
返回近似值)。
"我终于没能留下你渐⾏渐远的脚步。"
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论