mysql下float类型一些误差详解

SEO探索者团队 SEO服务&网站优化

我想很多朋友都不怎么会在mysql中使用float类型,特别是用到金钱时我们可能会用双精度来做,我们知道mysql的float类型是单精度浮点类型不小心就会导致数据误差

单精度浮点数用4字节(32bit)表示浮点数,采用IEEE754标准的计算机浮点数,在内部是用二进制表示的,如:7.22用32位二进制是表示不下的,所以就不精确了。

mysql中float数据类型的问题总结

对于单精度浮点数Float:当数据范围在±131072(65536×2)以内的时候,float数据精度是正确的,但是超出这个范围的数据就不稳定,没有发现有相关的参数设置建议:将float改成double或者decimal,两者的差别是double是浮点计算,decimal是定点计算,会得到更精确的数据。

1.float类型

float列类型默认长度查不到结果,必须指定精度,比如 num float, insert into table (num) values (0.12); select * from table where num=0.12的话,empty set,代码如下:

  1. numfloat(9,7),insertintotable(num)values(0.12);select*fromtablewherenum=0.12的话会查到这条记录。
  2. mysql>createtablett
  3. ->(
  4. ->numfloat(9,3)
  5. ->);
  6. QueryOK,0rowsaffected(0.03sec)
  7. mysql>insertintott(num)values(1234567.8);
  8. ERROR1264(22003):Outofrangevalueforcolumn'num'atrow1

注:超出字段范围,无法插入,代码如下:

  1. mysql>insertintott(num)values(123456.8);
  2. QueryOK,1rowaffected(0.00sec)
  3. mysql>select*fromtt;
  4. +------------+
  5. |num|
  6. +------------+
  7. |123456.797|
  8. +------------+
  9. 1rowinset(0.00sec)

注:小数位数不够,自动补齐,但是存在一个问题就是如上的近似值,代码如下:

  1. mysql>insertintott(num)values(123456.867);
  2. QueryOK,1rowaffected(0.04sec)
  3. mysql>select*fromtt;
  4. +------------+
  5. |num|
  6. +------------+
  7. |123456.797|
  8. |123456.797|
  9. |123456.867|
  10. +------------+
  11. 3rowsinset(0.00sec)
  12. mysql>select*fromttwherenum=123456.867;
  13. +------------+
  14. |num|
  15. +------------+
  16. |123456.867|
  17. +------------+
  18. 1rowinset(0.00sec)
  19. mysql>insertintott(num)values(2.8);
  20. QueryOK,1rowaffected(0.04sec)
  21. mysql>select*fromtt;
  22. +------------+
  23. |num|
  24. +------------+
  25. |123456.797|
  26. |123456.797|
  27. |123456.867|
  28. |2.800|
  29. +------------+
  30. 4rowsinset(0.00sec)
  31. mysql>select*fromttwherenum=2.8;
  32. +-------+
  33. |num|
  34. +-------+
  35. |2.800|
  36. +-------+
  37. 1rowinset(0.00sec)
  38. mysql>insertintott(num)values(2.888888);
  39. QueryOK,1rowaffected(0.00sec)
  40. --phpfensi.com
  41. mysql>select*fromtt;
  42. +------------+
  43. |num|
  44. +------------+
  45. |123456.797|
  46. |123456.797|
  47. |123456.867|
  48. |2.800|
  49. |2.889|
  50. +------------+
  51. 5rowsinset(0.00sec)

注:小数位数超了,自动取近似值.

一、浮点数的概念及误差问题

浮点数是用来表示实数的一种方法,它用 M(尾数) * B( 基数)的E(指数)次方来表示实数,相对于定点数来说,在长度一定的情况下,具有表示数据范围大的特点,但同时也存在误差问题,这就是著名的浮点数精度问题,浮点数有多种实现方法,计算机中浮点数的实现大都遵从 IEEE754 标准,IEEE754 规定了单精度浮点数和双精度浮点数两种规格,单精度浮点数用4字节(32bit)表示浮点数,格式是:1位符号位 8位表示指数 23位表示尾数,双精度浮点数8字节(64bit)表示实数,格式是:1位符号位 11位表示指数 52位表示尾数.

上一页 1 2 下一页

相关广告
  • mysql下float类型一些误差详解 mysql下float类型一些误差详解 mysql下float类型一些误差详解
相关阅读

mysql下float类型一些误差详解

2019/10/10 17:33:54 | 谷歌SEO算法 | SEO知识