当前位置:网站首页>为什么四个字节的float表示的范围比八个字节的long要广
为什么四个字节的float表示的范围比八个字节的long要广
2022-08-02 03:01:00 【随性.533】
数据范围和字节数不一定是正相关(列如:float4字节比long8字节数值范围广)
long 8字节 取值范围 2^63-----2^63-1
float(单精度) 4字节
取值范围-3.4028234*10…^38-----(1.4E-45~~~3.4028235E38)
因为整数与小数的底层存储有点不同。
相同点:它们都是用二进制存储的
不同点:
小数先转成二进制,然后处理,然后存储。
浮点数的32位不是简单的直接表示大小,而是按照一定的标准分配的。
其中第1位,符号位
接下来的8位,指数域
剩下的23位,小数域取值范围为[1,2)或[0,1)。
也就是说,浮点数在内存中的二进制值不是直接转换为十进制数值的,而是按照上述公式计算而来,通过这个公式,虽然只用到了4个字节,但是浮点数却比长整型的最大值要大。
边栏推荐
猜你喜欢

2W字!梳理50道经典计算机网络面试题(收藏版)

WebShell connection tools (Chinese kitchen knife, WeBaCoo, Weevely) use

MySQL修改最大连接数限制

知识体系树

Webshell上传方式

analog IC layout-Parasitic effects

Go语学习笔记 - gorm使用 - 表增删改查 Web框架Gin(八)

分布式事务解决方案模型

MySQL8 -- use msi (graphical user interface) under Windows installation method

PHP WebShell Free Kill
随机推荐
【LeetCode】104. Maximum depth of binary tree
MySQL八股文背诵版
leetcode 143. 重排链表
MySql中的like和in走不走索引
svm.SVC application practice 1--Breast cancer detection
树链剖分-
暴力破解全攻略
analog IC layout-Design for reliability
* 比较版本号
Tree Chain Segmentation-
IPIDEA的使用方式
2W字!详解20道Redis经典面试题!(珍藏版)
MySQL修改最大连接数限制
Nacos source code analysis topic (2) - service registration
关于#sql#的问题:该怎么写sql语句,
JSP Webshell free kill
三维数字孪生引擎与实景互动,案例解析
PHP WebShell Free Kill
I will give you a chance to interview in a big factory. Can you interview?Come in and see!
Week 304 Dunk