感觉 double 精度不够用啊

查看 136|回复 12
cy18   
0.0000610/(830776.16442871094*430600.56744384766)=1.705 182 951 × 10^(−16),对应倒数在 2^52 跟 2^53 之间,double 的有效位数刚好 2^52 位。
cy18   
错了...应当是-0.0000118/(830776.16442871094*430600.56744384766)=3.298 552 355 × 10^(−17),对应精度 54 位半。
shenjinpeng   
建议除了 整形(加减乘余) 计算外的所有涉及到小数计算的都用高精度库来处理
您需要登录后才可以回帖 登录 | 立即注册

返回顶部