当前位置:网站首页>释放数据力量的Ceph-尚文网络xUP楠哥
释放数据力量的Ceph-尚文网络xUP楠哥
2022-07-03 03:30:00 【尚文网络】
进Q群11372462领取专属报名福利!
#说在前面
小时候,特别希望自己能够变身"绿巨人",释放无穷的力量;长大后,参加了工作,投身于IT行业,在探索和前进的过程中,发现身边有这么一位可靠的伙伴,能够为我们提供关于数据存储的多种形式的融合架构,提供极致的性能,并且支持多种业务,释放数据能量;俨然实现了小时候我们希望自己变成绿巨人,释放力量的梦想;这位可靠的伙伴,就是来自于红帽的开源分布式存储解决方案Ceph!
(图片摘自网络)
近几年,随着云计算诞生、企业上云、DevOPS、数字化转型等关键名词的出现,使得整个IT业界发生快速的变化,导致数据存储类型也变得更加的丰富多样,数据量也变得更加的庞大;什么块存储、文件存储、对象存储包括对接公有云上各类的存储服务等,也就是说,分布式存储技术的需求越来越多,此时我们需要的是能够和存储设备硬件实现松耦合的软件定义存储相关的解决方案,能够将以上提到的各类数据存储类型整合,实现统一的存储管理和监控平台。
(图片摘自网络)
红帽的Ceph就是侧重于基于块、对象和文件的数据提供统一存储和管理这样的解决方案。接下来我们就要唠一下Ceph的定义、它在分布式存储软件定义方向中占有绝对的Leader地位。
#什么是Ceph
Ceph是开源的分布式存储系统,用于块数据、对象等。通过原生API中AWS S3或者OpenStack swfit API方式进行访问。基于块存储访问通过块协议以及iscsi提供。
Ceph的官方文档地址:
https://docs.ceph.com/en/pacific/
#Ceph的架构
(图片摘自网络)
Ceph应用到不同的场景中,如对象存储是通过RADOSGW来进行数据存储的,能够提供亚马逊AWS中的S3风格以及红帽OpenStack云平台架构中的Swift风格所对应的接口;块存储的话,是通过RBD将块设备映射给主机或者虚拟机中,作为持久化的块设备(磁盘)进行关联使用;另外,文件存储方式提供了客户端Linux内核级别和FUSE级别的访问方式。组后,LIBRADOS库是可以直接支持原生访问存储,通过Go、C、C++、Python等语言调用访问存储。
#Ceph的组成
- pCeph OSDs:
Ceph OSD 守护进程( Ceph OSD )的功能是存储数据,处理数据的复制、恢复、回填、再均衡,并通过检查其他OSD 守护进程的心跳来向 Ceph Monitors提供一些监控信息。当 Ceph存储集群设定为有2个副本时,至少需要2个 OSD 守护进程,集群才能达到 active+clean状态(Ceph默认有3个副本,可以调整副本数)。 - pMonitors: Ceph
Monitor维护着展示集群状态的各种图表,包括监视器图、 OSD 图、归置组( PG )图、和 CRUSH 图。
Ceph保存着发生在Monitors 、 OSD 和 PG上的每一次状态变更的历史信息(称为 epoch )。 - pManager:管理器:
Ceph管理器守护程序(Cephmgr)负责跟踪运行时指标和Ceph群集的当前状态,包括存储利用率、当前性能指标和系统负载。Ceph管理器守护进程还托管基于python的模块,以管理和公开Ceph集群信息,包括基于web的Ceph仪表板和Restful
APT。高可用性通常需要至少两个管理器。 - pMDSs: Ceph元数据服务器( MDS )
为Ceph文件系统存储元数据(也就是说,Ceph块设备和 Ceph对象存储不使用MDS )。元数据服务器使得 POSIX文件系统的用户们,可以在不对 Ceph存储集群造成负担的前提下,执行诸如 ls、find 等基本命令。
#Ceph的数据写入流程
以上是Ceph的存储和读写的流程图,从图中可以看出,Ceph保存的都一些对象,每一个对象都会有自己的id叫做oid,之后装载到类似存放对象的文件夹PGs,通过hash+掩码运算oid的方式产生pgid,表明对象所在的PG中。
再通过CRUSH算法分别放到对应的Ceph集群节点中对应的OSD,算法不同,落到OSD的位置也是不同,即产生副本。可以按照机架Rack 主机host等作为算法的依据分布不同的OSD。
#说在最后
正是因为Ceph具备了开源和完善存储的功能,国内不少做分布式存储的大厂都在借鉴Ceph的技术,加以功能扩展化。
举几个国内厂商的产品案例。其中,国内安全厂商深信服的企业级分布式存储产品EDS,可以看出其支持的存储协议完全都是借鉴Ceph所支持的功能。
另外就是xsky星辰天合,发布各类型的存储,也是在Ceph的基础之上进行自定义扩展。
国家在"十四五"规划中提出将开源列入数字经济发展的计划中,相信在国家政策支持开源的的大好环境下,开源系列的Ceph一定会成为分布式存储解决方案的半壁江山。UP楠哥先帮小伙伴们支棱到这里,后面通过大家伙使用的反馈,我再进行其它工具的详细分解。欢迎小伙伴们加群11372462,交流IT行业发展和知识,感觉这篇文章有用,也可以求个关注CSDN或者是扫描二维码,关注UPWEN的公众号。UP楠哥持续输出最纯粹的IT行业发展和知识!
边栏推荐
- 【AI实战】应用xgboost.XGBRegressor搭建空气质量预测模型(一)
- 为什么线程崩溃不会导致 JVM 崩溃
- 解决高並發下System.currentTimeMillis卡頓
- 递归使用和多维数组对象变一维数组对象
- Open Visual Studio 2010 hangs when opening a SQL file sql file
- MySQL practice 45 lecture [row lock]
- Solve high and send system Currenttimemillis Caton
- On the adjacency matrix and adjacency table of graph storage
- The idea setting code is in UTF-8 idea Properties configuration file Chinese garbled
- Summary of determinant knowledge points in Chapter 1 of Linear Algebra (Jeff's self perception)
猜你喜欢
Hi3536c v100r001c02spc040 cross compiler installation
Vs 2019 installation and configuration opencv
FileZilla Client下載安裝
渤、黄海的潮汐特征
Spark on yarn resource optimization ideas notes
Gavin teacher's perception of transformer live class - rasa project's actual banking financial BOT Intelligent Business Dialogue robot architecture, process and phenomenon decryption through rasa inte
[pyg] understand the messagepassing process, GCN demo details
Pytoch configuration
ffmpeg录制屏幕和截屏
VS 2019 配置tensorRT生成engine
随机推荐
[leetcode question brushing day 34] 540 Unique element in array, 384 Disrupt array, 202 Happy number, 149 Maximum number of points on a line
PAT乙级常用函数用法总结
900w+ data, from 17s to 300ms, how to operate
Elsevier latex 提交文章 pdftex.def Error: File `thumbnails/cas-email.jpeg‘ not found: using draf
leetcode:动态规划模板
Gavin teacher's perception of transformer live class - rasa project's actual banking financial BOT Intelligent Business Dialogue robot architecture, process and phenomenon decryption through rasa inte
[combinatorics] number of solutions of indefinite equations (number of combinations of multiple sets R | number of non negative integer solutions of indefinite equations | number of integer solutions
[algebraic structure] group (definition of group | basic properties of group | proof method of group | commutative group)
机械臂速成小指南(八):运动学建模(标准DH法)
403 error displayed when vs cloning
[pyg] understand the messagepassing process, GCN demo details
Elsevier latex submitted the article pdftex def Error: File `thumbnails/cas-email. jpeg‘ not found: using draf
ffmpeg之 一张/多张图片合成视频
Hutool动态添加定时任务
简易版 微信小程序开发之for指令、上传图片及展示效果优化
FileZilla client download and installation
MySQL practice 45 lecture [transaction isolation]
On the adjacency matrix and adjacency table of graph storage
Stop using system Currenttimemillis() takes too long to count. It's too low. Stopwatch is easy to use!
shardingsphere动态数据源