傻子网

Sucirst 眼中的IT世界

   注册   登录

5 Responsed

Subsribes to this post Comment Rss or TrackBack URL
mygif
Sucirst Yie says,
in 9-26-2007 @ 23:05:35    

发现有人说这个和CPU还有关系(个人倾向认同是在2进制计算上出了问题)

有人说部分AMD CPU上不会出现该现象。目前我暂时没有条件测试。

mygif
Sucirst Yie says,
in 9-26-2007 @ 23:21:37    

仔细总结一下,似乎现在有3条假设一定要成立才行:
1.必定至少有一个乘数是小数
2.把所有乘数先当作整数处理,则必定有一个乘数能被17整除且该乘数做整数看一定大于等于51。(即X>17×2)
3.至少要有一个为小数的乘数,尾数不能为5.

mygif
yksoft1 says,
in 9-27-2007 @ 00:46:54    

估计是浮点转换的函数出了问题,而且受i387 FPU影响
这个错误结果+1变成100001,-1变成65534
会被错误输出到CSV文件

mygif
XLérateur » Bug de calcul dans Excel 2007 says,
in 9-27-2007 @ 09:49:15    

[...] Il y a d’autres manières de retomber sur ces “bad numbers” : =5,1*12850 =10,2*6425 =20,4*3212.5 =40,8*1606.25 =77,1*850 =154,2*425 =212,5*308,4 =308,4*212,5 =425*154,2 (tiré d’un site dont je n’ai compris que les nombres : http://www.sucirst.com/index.php/news/36 [...]

mygif
Sucirst Yie says,
in 9-27-2007 @ 15:39:10    

Leave Comments Below

Please enjoy your stay and feel free to comments below

 username (*required)

 mailing (*private)

 website (optional)

Please note: Comment moderation is enabled and may delay your comment. There is no need to resubmit your comment.