游戏开发论坛

 找回密码
 立即注册
搜索
查看: 1522|回复: 3

关于一调试时监视值的问题,,请赐教.

[复制链接]

30

主题

126

帖子

126

积分

注册会员

Rank: 2

积分
126
发表于 2007-1-21 11:33:00 | 显示全部楼层 |阅读模式
这是一个简短的程序:
#include "stdio.h"
main()
{
        float i=0.001;
        i=i+0.001;
        printf("i=%f",i);
        return 0;
}
提问:
我在return 0;处设了一个断点,运行之后,在监视框中输入了一个i,但奇怪的是i的值竟是0.0020000001,请问那多的0.0000000001是哪里来的?

调试环境:VS2003+winXP

8

主题

716

帖子

716

积分

高级会员

Rank: 4

积分
716
发表于 2007-1-21 17:13:00 | 显示全部楼层

Re:关于一调试时监视值的问题,,请赐教.

这是浮点精度和显示上的问题,不用care~

30

主题

126

帖子

126

积分

注册会员

Rank: 2

积分
126
 楼主| 发表于 2007-1-21 18:12:00 | 显示全部楼层

Re:关于一调试时监视值的问题,,请赐教.

能不能给个详细点的说法啊...

121

主题

2029

帖子

2034

积分

金牌会员

Rank: 6Rank: 6

积分
2034
QQ
发表于 2007-1-21 18:19:00 | 显示全部楼层

Re:关于一调试时监视值的问题,,请赐教.

精度问题。详细请参见IEEE文档。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

作品发布|文章投稿|广告合作|关于本站|游戏开发论坛 ( 闽ICP备17032699号-3 )

GMT+8, 2026-1-26 06:56

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表