当前位置:网站首页>释放数据力量的Ceph-尚文网络xUP楠哥
释放数据力量的Ceph-尚文网络xUP楠哥
2022-07-03 03:30:00 【尚文网络】
进Q群11372462领取专属报名福利!
#说在前面
小时候,特别希望自己能够变身"绿巨人",释放无穷的力量;长大后,参加了工作,投身于IT行业,在探索和前进的过程中,发现身边有这么一位可靠的伙伴,能够为我们提供关于数据存储的多种形式的融合架构,提供极致的性能,并且支持多种业务,释放数据能量;俨然实现了小时候我们希望自己变成绿巨人,释放力量的梦想;这位可靠的伙伴,就是来自于红帽的开源分布式存储解决方案Ceph!
(图片摘自网络)
近几年,随着云计算诞生、企业上云、DevOPS、数字化转型等关键名词的出现,使得整个IT业界发生快速的变化,导致数据存储类型也变得更加的丰富多样,数据量也变得更加的庞大;什么块存储、文件存储、对象存储包括对接公有云上各类的存储服务等,也就是说,分布式存储技术的需求越来越多,此时我们需要的是能够和存储设备硬件实现松耦合的软件定义存储相关的解决方案,能够将以上提到的各类数据存储类型整合,实现统一的存储管理和监控平台。
(图片摘自网络)
红帽的Ceph就是侧重于基于块、对象和文件的数据提供统一存储和管理这样的解决方案。接下来我们就要唠一下Ceph的定义、它在分布式存储软件定义方向中占有绝对的Leader地位。
#什么是Ceph
Ceph是开源的分布式存储系统,用于块数据、对象等。通过原生API中AWS S3或者OpenStack swfit API方式进行访问。基于块存储访问通过块协议以及iscsi提供。
Ceph的官方文档地址:
https://docs.ceph.com/en/pacific/
#Ceph的架构
(图片摘自网络)
Ceph应用到不同的场景中,如对象存储是通过RADOSGW来进行数据存储的,能够提供亚马逊AWS中的S3风格以及红帽OpenStack云平台架构中的Swift风格所对应的接口;块存储的话,是通过RBD将块设备映射给主机或者虚拟机中,作为持久化的块设备(磁盘)进行关联使用;另外,文件存储方式提供了客户端Linux内核级别和FUSE级别的访问方式。组后,LIBRADOS库是可以直接支持原生访问存储,通过Go、C、C++、Python等语言调用访问存储。
#Ceph的组成

- pCeph OSDs:
Ceph OSD 守护进程( Ceph OSD )的功能是存储数据,处理数据的复制、恢复、回填、再均衡,并通过检查其他OSD 守护进程的心跳来向 Ceph Monitors提供一些监控信息。当 Ceph存储集群设定为有2个副本时,至少需要2个 OSD 守护进程,集群才能达到 active+clean状态(Ceph默认有3个副本,可以调整副本数)。 - pMonitors: Ceph
Monitor维护着展示集群状态的各种图表,包括监视器图、 OSD 图、归置组( PG )图、和 CRUSH 图。
Ceph保存着发生在Monitors 、 OSD 和 PG上的每一次状态变更的历史信息(称为 epoch )。 - pManager:管理器:
Ceph管理器守护程序(Cephmgr)负责跟踪运行时指标和Ceph群集的当前状态,包括存储利用率、当前性能指标和系统负载。Ceph管理器守护进程还托管基于python的模块,以管理和公开Ceph集群信息,包括基于web的Ceph仪表板和Restful
APT。高可用性通常需要至少两个管理器。 - pMDSs: Ceph元数据服务器( MDS )
为Ceph文件系统存储元数据(也就是说,Ceph块设备和 Ceph对象存储不使用MDS )。元数据服务器使得 POSIX文件系统的用户们,可以在不对 Ceph存储集群造成负担的前提下,执行诸如 ls、find 等基本命令。
#Ceph的数据写入流程

以上是Ceph的存储和读写的流程图,从图中可以看出,Ceph保存的都一些对象,每一个对象都会有自己的id叫做oid,之后装载到类似存放对象的文件夹PGs,通过hash+掩码运算oid的方式产生pgid,表明对象所在的PG中。
再通过CRUSH算法分别放到对应的Ceph集群节点中对应的OSD,算法不同,落到OSD的位置也是不同,即产生副本。可以按照机架Rack 主机host等作为算法的依据分布不同的OSD。
#说在最后
正是因为Ceph具备了开源和完善存储的功能,国内不少做分布式存储的大厂都在借鉴Ceph的技术,加以功能扩展化。
举几个国内厂商的产品案例。其中,国内安全厂商深信服的企业级分布式存储产品EDS,可以看出其支持的存储协议完全都是借鉴Ceph所支持的功能。
另外就是xsky星辰天合,发布各类型的存储,也是在Ceph的基础之上进行自定义扩展。
国家在"十四五"规划中提出将开源列入数字经济发展的计划中,相信在国家政策支持开源的的大好环境下,开源系列的Ceph一定会成为分布式存储解决方案的半壁江山。UP楠哥先帮小伙伴们支棱到这里,后面通过大家伙使用的反馈,我再进行其它工具的详细分解。欢迎小伙伴们加群11372462,交流IT行业发展和知识,感觉这篇文章有用,也可以求个关注CSDN或者是扫描二维码,关注UPWEN的公众号。UP楠哥持续输出最纯粹的IT行业发展和知识!
边栏推荐
- Summary of electromagnetic spectrum
- Ffmpeg one / more pictures synthetic video
- 别再用 System.currentTimeMillis() 统计耗时了,太 Low,StopWatch 好用到爆!
- Open Visual Studio 2010 hangs when opening a SQL file sql file
- [mathematical logic] propositional logic (propositional and connective review | propositional formula | connective priority | truth table satisfiable contradiction tautology)
- Tidal characteristics of the Bohai Sea and the Yellow Sea
- LVGL使用心得
- C # webrequest post mode, based on "basic auth" password authentication mode, uploads files and submits other data using multipart / form data mode
- [combinatorics] number of solutions of indefinite equations (number of combinations of multiple sets R | number of non negative integer solutions of indefinite equations | number of integer solutions
- Positioning (relative positioning, absolute positioning, fixed positioning, Z-index) 2022-2-11
猜你喜欢

用Three.js做一個簡單的3D場景

900w+ data, from 17s to 300ms, how to operate

Use three JS make a simple 3D scene

The series of hyperbolic function in daily problem

FileZilla Client下载安装

Some preliminary preparations for QQ applet development: make an appointment for a development account, download and install developer tools, and create QQ applet

FileZilla Client下載安裝

别再用 System.currentTimeMillis() 统计耗时了,太 Low,StopWatch 好用到爆!
![[embedded module] OLED display module](/img/c4/474f5ee580d132654fbd1a4cd53bab.jpg)
[embedded module] OLED display module

Limit of one question per day
随机推荐
[leetcode question brushing day 34] 540 Unique element in array, 384 Disrupt array, 202 Happy number, 149 Maximum number of points on a line
Limit of one question per day
动态规划:最长公共子串和最长公共子序列
C # webrequest post mode, based on "basic auth" password authentication mode, uploads files and submits other data using multipart / form data mode
redis高级应用【密码防护、数据持久化、主从同步、哨兵模式、事务】【暂未完成(半成品)】
Nce detail of softmax approximation
Elsevier latex submitted the article pdftex def Error: File `thumbnails/cas-email. jpeg‘ not found: using draf
[combinatorics] number of solutions of indefinite equations (number of combinations of multiple sets R | number of non negative integer solutions of indefinite equations | number of integer solutions
[mathematical logic] propositions and connectives (propositions | propositional symbolization | truth connectives | no | conjunction | disjunction | non truth connectives | implication | equivalence)
Pytorch multi card distributed training distributeddataparallel usage
Numpy warning visibledeprecationwarning: creating an ndarray from ragged needed sequences
leetcode:动态规划模板
Summary of determinant knowledge points in Chapter 1 of Linear Algebra (Jeff's self perception)
C# WebRequest POST模式 ,基于“Basic Auth”口令认证模式,使用multipart/form-data方式上传文件及提交其他数据
MongoDB主配置文件
用Three.js做一个简单的3D场景
Convert binary stream to byte array
[algebraic structure] group (definition of group | basic properties of group | proof method of group | commutative group)
Idea set method call ignore case
解决高並發下System.currentTimeMillis卡頓