mysql下float类型一些误差详解

我想很多朋友都不怎么会在mysql中使用float类型，特别是用到金钱时我们可能会用双精度来做，我们知道mysql的float类型是单精度浮点类型不小心就会导致数据误差

单精度浮点数用4字节（32bit）表示浮点数,采用IEEE754标准的计算机浮点数，在内部是用二进制表示的,如:7.22用32位二进制是表示不下的,所以就不精确了。

mysql中float数据类型的问题总结

对于单精度浮点数Float:当数据范围在±131072（65536×2）以内的时候，float数据精度是正确的，但是超出这个范围的数据就不稳定，没有发现有相关的参数设置建议：将float改成double或者decimal，两者的差别是double是浮点计算，decimal是定点计算，会得到更精确的数据。

1.float类型

float列类型默认长度查不到结果,必须指定精度,比如 num float, insert into table (num) values (0.12); select * from table where num=0.12的话，empty set,代码如下:

1. numfloat(9,7),insertintotable(num)values(0.12);select*fromtablewherenum=0.12的话会查到这条记录。
3. mysql>createtablett
4. ->(
5. ->numfloat(9,3)
6. ->);
7. QueryOK,0rowsaffected(0.03sec)
9. mysql>insertintott(num)values(1234567.8);
10. ERROR1264(22003):Outofrangevalueforcolumn'num'atrow1

注:超出字段范围,无法插入,代码如下:

1. mysql>insertintott(num)values(123456.8);
2. QueryOK,1rowaffected(0.00sec)
4. mysql>select*fromtt;
5. +------------+
6. |num|
7. +------------+
8. |123456.797|
9. +------------+
10. 1rowinset(0.00sec)

注:小数位数不够,自动补齐,但是存在一个问题就是如上的近似值,代码如下:

1. mysql>insertintott(num)values(123456.867);
2. QueryOK,1rowaffected(0.04sec)
4. mysql>select*fromtt;
5. +------------+
6. |num|
7. +------------+
8. |123456.797|
9. |123456.797|
10. |123456.867|
11. +------------+
12. 3rowsinset(0.00sec)
14. mysql>select*fromttwherenum=123456.867;
15. +------------+
16. |num|
17. +------------+
18. |123456.867|
19. +------------+
20. 1rowinset(0.00sec)
22. mysql>insertintott(num)values(2.8);
23. QueryOK,1rowaffected(0.04sec)
25. mysql>select*fromtt;
26. +------------+
27. |num|
28. +------------+
29. |123456.797|
30. |123456.797|
31. |123456.867|
32. |2.800|
33. +------------+
34. 4rowsinset(0.00sec)
36. mysql>select*fromttwherenum=2.8;
37. +-------+
38. |num|
39. +-------+
40. |2.800|
41. +-------+
42. 1rowinset(0.00sec)
44. mysql>insertintott(num)values(2.888888);
45. QueryOK,1rowaffected(0.00sec)
46. --phpfensi.com
47. mysql>select*fromtt;
48. +------------+
49. |num|
50. +------------+
51. |123456.797|
52. |123456.797|
53. |123456.867|
54. |2.800|
55. |2.889|
56. +------------+
57. 5rowsinset(0.00sec)

注:小数位数超了,自动取近似值.

一、浮点数的概念及误差问题

浮点数是用来表示实数的一种方法,它用 M(尾数) * B( 基数)的E(指数）次方来表示实数,相对于定点数来说,在长度一定的情况下,具有表示数据范围大的特点,但同时也存在误差问题,这就是著名的浮点数精度问题,浮点数有多种实现方法,计算机中浮点数的实现大都遵从 IEEE754 标准，IEEE754 规定了单精度浮点数和双精度浮点数两种规格，单精度浮点数用4字节（32bit）表示浮点数,格式是:1位符号位 8位表示指数 23位表示尾数,双精度浮点数8字节（64bit）表示实数，格式是：1位符号位 11位表示指数 52位表示尾数.

上一页 1 2 下一页