对于浮点数相减,我们若直接进行相减会造成误差,如图:
可以看到,3.14 减去 1.56 的结果应该是 1.58 ,而得出的结果与我们期望的结果存在一定误差,虽然这个误差很小,但是作为理工科出身,我们要本着是1就是1,是2就是2的原则严谨态度去看待。
解决方法:先将浮点数转为整数进行计算,得出结果后再转为原先的浮点数,修改后的代码如下
尽量将浮点数相减转化为整数相减,运行结果正确:
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/204374.html