房天下问答 >业主生活>其他> 问题详情

关于实型变量有效数字

float的有效数字一般为7是吧............但为什么书上的有效数字范围是6至7类?
wsjmdcl|2011-02-11 21:57

其他答案

yoyorave

尾数23,2^23=8388608,所以有效数字是七位,但是只能保证6位,因为7位表示不了全部。C++ primer也是这样说的,float只能保证6位有效数字,double保证10位(第四版P32)。
2011-02-12 01:24
来自北京市

免责声明:问答内容均来源于互联网用户,房天下对其内容不负责任,如有版权或其他问题可以联系房天下进行删除。

关于我们网站合作联系我们招聘信息房天下家族网站地图意见反馈手机房天下开放平台服务声明加盟房天下
Copyright © 北京搜房科技发展有限公司
Beijing SouFun Science&Technology Development Co.,Ltd 版权所有
违法信息举报邮箱:jubao@fang.com
返回顶部
意见反馈