在一个订单系统中，需要限制下单数量不能超过库存的百分比，比如一个商品库存是20吨，在配置单次不能大于库存的30%，解题思路是下单数/库存总数与配置做对比。但是除法运算可能会出现除不尽的情况，比如1/3= 0.3333333…..,对于除法需要保留小数点后的数字。
当时我在计算的时候保留了两位小数，
- 使用 （5.99/20 = 0.29） < 0.3,可以成功。
- 使用 （6.01/20 = 0.30）= 0.3，这就有问题了。
问题原因
因为涉及到保留小数，6.01/20 = 0.3005，就转成了 0.30，所以就判断错误了。
解决方案一：小数位保留4位小数
如果和两位小数的做对比，相除的结果需要保留两倍的小数，也就是四位小数。
解决方案二： 改成乘法运算。
方案一不足在于，需要根据对比数的小数点更新保留的小数位数，不是很通用。我们需要将除法改成乘法，因为程序不会涉及小数保留，
再回到订单系统的计算，库存是20吨，下单限制不能大于30%，所以每次下单数量不能大于 20 * 30% = 6,再将下单数和 6 比较即可。
总结
- 除法需要保留精度，就会存在精度缺失，所以需要多保留几位小数。
- 除法可以转成乘法，使用乘法后的结果做对比即可。
如果觉得文章对你有帮助的话，请点个推荐吧!
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 举报，一经查实，本站将立刻删除。
文章由极客之音整理，本文链接：https://www.bmabk.com/index.php/post/14978.html
