当前位置:网站首页>为什么四个字节的float表示的范围比八个字节的long要广
为什么四个字节的float表示的范围比八个字节的long要广
2022-08-02 03:01:00 【随性.533】
数据范围和字节数不一定是正相关(列如:float4字节比long8字节数值范围广)
long 8字节 取值范围 2^63-----2^63-1
float(单精度) 4字节
取值范围-3.4028234*10…^38-----(1.4E-45~~~3.4028235E38)
因为整数与小数的底层存储有点不同。
相同点:它们都是用二进制存储的
不同点:
小数先转成二进制,然后处理,然后存储。
浮点数的32位不是简单的直接表示大小,而是按照一定的标准分配的。
其中第1位,符号位
接下来的8位,指数域
剩下的23位,小数域取值范围为[1,2)或[0,1)。
也就是说,浮点数在内存中的二进制值不是直接转换为十进制数值的,而是按照上述公式计算而来,通过这个公式,虽然只用到了4个字节,但是浮点数却比长整型的最大值要大。
边栏推荐
猜你喜欢
Heuristic merge, DSU on Tree
第11章_数据库的设计规范
Hit the programmer interview scene: What did Baidu interviewers ask me?
Heao Technology Network Interview (with reference answers)
消息队列经典十连问
MySQL修改最大连接数限制
2W字!梳理50道经典计算机网络面试题(收藏版)
MySQL中的存储过程(详细篇)
Tree Chain Segmentation-
Chapter 10_Index Optimization and Query Optimization
随机推荐
01-Node-Express系统框架搭建(express-generator)
Go语学习笔记 - gorm使用 - 原生sql、命名参数、Rows、ToSQL Web框架Gin(九)
VPS8504C 微功率隔离电源隔离芯片 VPSC源特科技
7-40 奥运排行榜 (25 分)多项排序
MySQL8--Windows下使用msi(图形界面)安装的方法
【LeetCode】1374. 生成每种字符都是奇数个的字符串
MySQL函数(经典收藏)
(1) Redis: Key-Value based storage system
剑指 Offer 14- I. 剪绳子
第二章——堆栈、队列
7-42 整型关键字的散列映射 (25 分)
Go语学习笔记 - gorm使用 - gorm处理错误 Web框架Gin(十)
PyTorch(六)——PyTorch可视化
aws s3 upload file
MySQL8.0.28安装教程
【LeetCode】144. Preorder Traversal of Binary Tree
因为WiFi原因navicat 无法连接数据库Mysql
Hit the programmer interview scene: What did Baidu interviewers ask me?
ROS2自学笔记:launch文件完整编写流程
Chrome浏览器无法加载已解压的.crx文件的解决办法