程序开发 · 2023年10月7日

uint32 转 float32 后为何不相等?

GOLANG小白一枚,正在不断学习积累知识,现将学习到的知识记录一下,也是将我的所得分享给大家!而今天这篇文章《uint32 转 float32 后为何不相等?》带大家来了解一下##content_title##,希望对大家的知识积累有所帮助,从而弥补自己的不足,助力实战开发!,

,
,
uint32 转 float32 后不相等的解析,当将 uint32 整形变量转为 float32 时,会因为浮点数的精度限制导致转后的结果不准确,具体表现为:,
1. 整数部分与原值不一致,浮点数的格式是由尾数与指数组成,其中尾数表示小数位,指数表示整数位。由于 float32 的精度只有约 6 位十进制数,而 uint32 的整数位可能远超这个范围,因此在转换过程中尾数会保留有限小数位,而整数位则会取整。,
2. 相差大于 1,float32 的取整方式是向“最接近的”偶数取整。如果该偶数与原始整数的差值大于 0.5,则最终结果会与原值相差大于 1。,
造成差异的示例,以下示例展示了上述情况:,程序输出结果为:,分析数字的二进制表示:,可以看到,bb 的二进制结果中后 8 位为 0,且倒数第 9 位进位,这正是浮点数取整后向偶数(0)靠拢的结果。,
为什么 float64 转换没有问题?,float64 的精度比 float32 高,可以表示约 15 位十进制数,因此即使 uint32 的值很大,float64 仍然可以准确地表示其整数部分。,今天关于《uint32 转 float32 后为何不相等?》的内容介绍就到此结束,如果有什么疑问或者建议,可以在GOLANG公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!,GOLANG小白一枚,正在不断学习积累知识,现将学习到的知识记录一下,也是将我的所得分享给大家!而今天这篇文章《uint32 转 float32 后为何不相等?》带大家来了解一下##content_title##,希望对大家的知识积累有所帮助,从而弥补自己的不足,助力实战开发!,

当前位置: > > > > uint32 转 float32 后为何不相等?

uint32 转 float32 后为何不相等?

2024-11-11 21:04:03
0浏览
收藏

GOLANG小白一枚,正在不断学习积累知识,现将学习到的知识记录一下,也是将我的所得分享给大家!而今天这篇文章《uint32 转 float32 后为何不相等?》带大家来了解一下##content_title##,希望对大家的知识积累有所帮助,从而弥补自己的不足,助力实战开发!

uint32 转 float32 后不相等的解析

当将 uint32 整形变量转为 float32 时,会因为浮点数的精度限制导致转后的结果不准确,具体表现为:

1. 整数部分与原值不一致

浮点数的格式是由尾数与指数组成,其中尾数表示小数位,指数表示整数位。由于 float32 的精度只有约 6 位十进制数,而 uint32 的整数位可能远超这个范围,因此在转换过程中尾数会保留有限小数位,而整数位则会取整。

2. 相差大于 1

float32 的取整方式是向“最接近的”偶数取整。如果该偶数与原始整数的差值大于 0.5,则最终结果会与原值相差大于 1。

造成差异的示例

以下示例展示了上述情况:

import (
    "fmt"
)

const (
    deadbeef = 0xdeadbeef
    aa       = uint32(deadbeef)
    bb       = float32(deadbeef)
)

func main() {
    fmt.println(aa)
    fmt.printf("%f\n", bb)
}

程序输出结果为:

3735928559
3735928576.000000

分析数字的二进制表示:

3735928559: 1101 1110 1010 1101 1011 1110 1110 1111
3735928576: 1101 1110 1010 1101 1011 1111 0000 0000

可以看到,bb 的二进制结果中后 8 位为 0,且倒数第 9 位进位,这正是浮点数取整后向偶数(0)靠拢的结果。

为什么 float64 转换没有问题?

float64 的精度比 float32 高,可以表示约 15 位十进制数,因此即使 uint32 的值很大,float64 仍然可以准确地表示其整数部分。

今天关于《uint32 转 float32 后为何不相等?》的内容介绍就到此结束,如果有什么疑问或者建议,可以在GOLANG公众号下多多回复交流;文中若有不正之处,也希望回复留言以告知!

为什么我的电脑老是掉线?如何解决网络连接问题?
Vue 首次登录成功后,为什么在方法中无法获取 Store 值?