一个带小数的十进制转二进制,要求转换为误差不大于2的负7次方的二进制数。这个2的负7次方什么意思??
我知道啊 这跟精度有什么关系
误差不大于2^(-7),也就是误差不大于二进制数0.0000001b,那就需要至少保留小数点后面的7位小数位才能满足精度要求。