当前位置: 首页 > >

double转int精度丢失问题

发布时间:

在做学校的acm题时遇到这么一个问题,多余部分已省去,问题部分为:


输入正整数n,取2的n次方的最高位。




由M=2^n,两边取以10为底的对数,logM=nlog2=y


则pow(10,y的小数部分)即为所求。


于是有如下代码:



#include
#include
#include
using namespace std;
int high(long long int x)
{
double y;
y = x*log10(2);
y -= (int)y;
return pow(10,y);
}
int main()
{
long long int n;
cin >> n;
cout << high(n) << endl;
return 0;
}






可是输入3时得到的答案为7!(2^3=8)

如果把high()的返回值改为double,则输入3时可得到8。




通过搜索,发现double由于计算机的二进制实现,许多数无法精确表示,如2.0-1.1=0.899999999999999,而不是0.9


所以才会出现上面的问题。




为了省事,索性加了一条判断语句if (x == 3) return 8; 竟然通过了oj,可是理论上来说,总有数字是会遇到相同问题的,还好测试数据没有到这个问题。


double和int的转换 要注意细节。



友情链接: