mysql/ target=_blank class=infotextkey>mysql数据库中float、decimal类型精确度比较
有关float、decimal类型的综合建议:
float、double容易产生误差,对精确度要求比较高时,建议使用decimal来存,decimal在mysql内存是以字符串存储的,用于定义货币要求精确度高的数据。在数据迁移中,float(M,D)是非标准定义,最好不要这样使用。M为精度,D为标度。
例子:
复制代码 代码示例:
mysql> create table t1(c1 float(10,2), c2 decimal(10,2),c3 float); // 10不包括小数点
mysql> insert into t1 values(1234567.23, 1234567.23,1234567.23);
mysql> select * from t1;
数据显示与所用的客户端工具有关。
1、在Toad for MySQL中的显示为
c1 c2 c3
1234567 1234567.23 1234570
2、在MySQL Query Browser中的显示为
c1 c2 c3
1234567.25 1234567.23 1.23457e+006
3、程序中取出数据
1234567 1234567.23 1234570
mysql> insert into t1 values(9876543.21, 9876543.12,9876543.21);
1、在Toad for MySQL中的显示为
c1 c2 c3
9876543 9876543.129876540
2、在MySQL Query Browser中的显示为
c1 c2 c3
9876543.00 9876543.12 9.87654e+006
3、程序中取出数据
9876543 9876543.12 9876540
mysql> insert into t1 values(1.21, 1.12,1.21);
1、在Toad for MySQL中的显示为
c1 c2 c3
1.21 1.12 1.21
2、在MySQL Query Browser中的显示为
c1 c2 c3
1.21 1.12 1.21
3.程序中取出数据
1.21 1.121.21
mysql> insert into t1 values(1.2, 1.2,1.2);
1.在Toad for MySQL中的显示为
c1 c2 c3
1.21.201.2
2.在MySQL Query Browser中的显示为
c1 c2 c3
1.20 1.20 1.2
3.程序中取出数据
1.2 1.201.2
mysql> insert into t1 values(9876543.216, 9876543.126,9876543.216);
1.在Toad for MySQL中的显示为
c1 c2 c3
9876543 9876543.13 9876540
2.在MySQL Query Browser中的显示为
c1 c2 c3
9876543.00 9876543.13 9.87654e+006
3.程序中取出数据
9876543 9876543.13 9876540
mysql> insert into t1 values(1.216, 1.126,1.216);
1.在Toad for MySQL中的显示为
c1 c2 c3
1.22 1.131.216
2.在MySQL Query Browser中的显示为
c1 c2 c3
1.22 1.131.216
3.程序中取出数据
1.22 1.131.216
不定义fload, double的精度和标度时,存储按给出的数值存储,这于OS和当前的硬件有关。
decimal默认为decimal(10,0)
因为误差问题,在程序中,少用浮点数做=比较,可以做range比较。如果数值比较,最好使用decimal类型。
精度中,符号不算在内:
复制代码 代码示例:
mysql> insert into t1 values(-98765430.21, -98765430.12);
mysql> select * from t1;
c1c2
-98765432.00 -98765430.12