excel问题,这是cpu的bug吗?
在excel中,偶然得出下面问题,前两列数据为手工输入,C列从第二格开始为公式:c2=c1+a2-b2,c3=c2+a3-b3,公式往下拖。结果c10不等于0,如果把b列小数改为整数,结果正常。一模一样的公式在其他表中又正常(AB列数据不同)。在WPS表格中也是这样。cpu问题? A B C80000 80000 27517... 展开
其他答案
这是Excel中浮点运算的机制问题简单一点说,在Excel中,数字的运算都是先转换成二进制运算后,再转换回十进制的。碰巧有小数后是1的,比如0.1,0.51,……转换成二进制后是无限循环的,因此,运算的结果再换回十进制后就不是整数,而是带一个无限不循环的小数。要解决此类问题,应该在有浮点运算的地方使用精度控制函数,如Round()等,关于浮点运算的成因及解决方法,详可参考如下参考资料参考文献:
2010-12-30 13:28
来自北京市
赞(0)点赞赞(0)举报
免责声明:问答内容均来源于互联网用户,房天下对其内容不负责任,如有版权或其他问题可以联系房天下进行删除。




