当前位置:网站首页>为什么四个字节的float表示的范围比八个字节的long要广
为什么四个字节的float表示的范围比八个字节的long要广
2022-08-02 03:01:00 【随性.533】
数据范围和字节数不一定是正相关(列如:float4字节比long8字节数值范围广)
long 8字节 取值范围 2^63-----2^63-1
float(单精度) 4字节
取值范围-3.4028234*10…^38-----(1.4E-45~~~3.4028235E38)
因为整数与小数的底层存储有点不同。
相同点:它们都是用二进制存储的
不同点:
小数先转成二进制,然后处理,然后存储。
浮点数的32位不是简单的直接表示大小,而是按照一定的标准分配的。
其中第1位,符号位
接下来的8位,指数域
剩下的23位,小数域取值范围为[1,2)或[0,1)。
也就是说,浮点数在内存中的二进制值不是直接转换为十进制数值的,而是按照上述公式计算而来,通过这个公式,虽然只用到了4个字节,但是浮点数却比长整型的最大值要大。
边栏推荐
- cadence landscape bindkey
- (一)Redis: 基于 Key-Value 的存储系统
- 精益思想如何加速企业的全局价值流动?
- svm.SVC application practice 1--Breast cancer detection
- JDBC--Druid数据库连接池以及Template基本用法
- Common SQL interview questions: 50 classic examples
- PHP WebShell 免杀
- 【LeetCode】20. Valid parentheses
- Duplicate entry ‘XXX‘ for key ‘XXX.PRIMARY‘解决方案。
- 7-43 字符串关键字的散列映射 (25 分) 谜之测试点
猜你喜欢

I will give you a chance to interview in a big factory. Can you interview?Come in and see!

Go语学习笔记 - gorm使用 - 原生sql、命名参数、Rows、ToSQL Web框架Gin(九)

analog IC layout-Design for reliability

MySQL八股文背诵版

MySQL六脉神剑,SQL通关大总结

消息队列经典十连问

MySQL函数(经典收藏)

“带薪划水”偷刷阿里老哥的面经宝典,三次挑战字节,终成正果

Chapter 10_Index Optimization and Query Optimization

PHP WebShell Free Kill
随机推荐
MySQL8.0.26安装配置教程(windows 64位)
MySQL索引优化实战
- daily a LeetCode 】 【 9. Palindrome
MySQL八股文背诵版
MySQL中的时间函数
"Paid paddling" stealthily brushes Brother Ali's face scriptures, challenges bytes three times, and finally achieves positive results
Go语学习笔记 - gorm使用 - 表增删改查 Web框架Gin(八)
aws s3 upload file
启发式合并、DSU on Tree
I will give you a chance to interview in a big factory. Can you interview?Come in and see!
WebShell特征值汇总与检测工具
Nacos源码分析专题(一)-环境准备
DVWA之SQL注入
7-44 基于词频的文件相似度 (30 分)
7-43 字符串关键字的散列映射 (25 分) 谜之测试点
dropout
Invalid bound statement (not found)出现的原因和解决方法
JSP Webshell 免杀
* 比较版本号
第一章——线性表(顺序表和链表)