杭州交通信息网张江社区医院建小卡:两个不同的数……
来源：百度文库 编辑：杭州交通信息网 时间：2024/04/28 01:47:18
用信利107A计算器：
811/255的结果开20次方，得到1.059946863
而
811/255的结果开20次方，减1，得到0.059946862
最后一位一个是3，一个是2？
811/255的结果开20次方，得到1.059946863
而
811/255的结果开20次方，减1，得到0.059946862
最后一位一个是3，一个是2？
下面是33精度的计算结果。
811/255的结果开20次方=
1.059556289256788370282261652764
811/255的结果开20次方，减1
0.059556289256788370282261652763988
用信利107A计算器的计算精度为9位。
四舍五入嘛
是计算器程序的问题
我的CASIO fx-991ms 得到的是 1.059556289
我的ENKO KK-105B得到的是 1.059556289