房天下问答 >业主生活>其他> 问题详情

excel问题,这是cpu的bug吗?

在excel中,偶然得出下面问题,前两列数据为手工输入,C列从第二格开始为公式:c2=c1+a2-b2,c3=c2+a3-b3,公式往下拖。结果c10不等于0,如果把b列小数改为整数,结果正常。一模一样的公式在其他表中又正常(AB列数据不同)。在WPS表格中也是这样。cpu问题? A B C80000 80000 27517... 展开
zhfsgpp|2010-12-30 12:20

其他答案

taiheguoyi

这是Excel中浮点运算的机制问题简单一点说,在Excel中,数字的运算都是先转换成二进制运算后,再转换回十进制的。碰巧有小数后是1的,比如0.1,0.51,……转换成二进制后是无限循环的,因此,运算的结果再换回十进制后就不是整数,而是带一个无限不循环的小数。要解决此类问题,应该在有浮点运算的地方使用精度控制函数,如Round()等,关于浮点运算的成因及解决方法,详可参考如下参考资料参考文献:
2010-12-30 13:28
来自北京市

免责声明:问答内容均来源于互联网用户,房天下对其内容不负责任,如有版权或其他问题可以联系房天下进行删除。

关于我们网站合作联系我们招聘信息房天下家族网站地图意见反馈手机房天下开放平台服务声明加盟房天下
Copyright © 北京搜房科技发展有限公司
Beijing SouFun Science&Technology Development Co.,Ltd 版权所有
违法信息举报邮箱:jubao@fang.com
返回顶部
意见反馈