三种存储类型和三种存储方式-程序员宅基地

技术标签: 运维  计算机专业课知识  linux  服务器  

 

三种存储方式:DAS、SAN、NAS
三种存储类型:块存储、文件存储、对象存储

块存储和文件存储是我们比较熟悉的两种主流的存储类型,而对象存储(Object-based Storage)是一种新的网络存储架构,基于对象存储技术的设备就是对象存储设备(Object-based Storage Device)简称OSD。

本质是一样的,底层都是块存储,只是在对外接口上表现不一致,分别应用于不同的业务场景。

分布式存储的应用场景相对于其存储接口,现在流行分为三种:

对象存储: 也就是通常意义的键值存储,其接口就是简单的GET、PUT、DEL和其他扩展,如七牛、又拍、Swift、S3。

块存储: 这种接口通常以QEMU Driver或者Kernel Module的方式存在,这种接口需要实现Linux的Block Device的接口或者QEMU提供的Block Driver接口,如Sheepdog,AWS的EBS,青云的云硬盘和阿里云的盘古系统,还有Ceph的RBD(RBD是Ceph面向块存储的接口)。

文件存储: 通常意义是支持POSIX接口,它跟传统的文件系统如Ext4是一个类型的,但区别在于分布式存储提供了并行化的能力,如Ceph的CephFS(CephFS是Ceph面向文件存储的接口),但是有时候又会把GFS,HDFS这种非POSIX接口的类文件存储接口归入此类。

块存储

在这里插入图片描述
以下列出的两种存储方式都是块存储类型:

  • DAS(Direct Attach STorage):是直接连接于主机服务器的一种储存方式,每一台主机服务器有独立的储存设备,每台主机服务器的储存设备无法互通,需要跨主机存取资料时,必须经过相对复杂的设定,若主机服务器分属不同的操作系统,要存取彼此的资料,更是复杂,有些系统甚至不能存取。通常用在单一网络环境下且数据交换量不大,性能要求不高的环境下,可以说是一种应用较为早的技术实现。
  • SAN(Storage Area Network):是一种用高速(光纤)网络联接专业主机服务器的一种储存方式,此系统会位于主机群的后端,它使用高速I/O 联结方式, 如 SCSI, ESCON 及 Fibre- Channels。一般而言,SAN应用在对网络速度要求高、对数据的可靠性和安全性要求高、对数据共享的性能要求高的应用环境中,特点是代价高,性能好。例如电信、银行的大数据量关键应用。它采用SCSI 块I/O的命令集,通过在磁盘或FC(Fiber Channel)级的数据访问提供高性能的随机I/O和数据吞吐率,它具有高带宽、低延迟的优势,在高性能计算中占有一席之地,但是由于SAN系统的价格较高,且可扩展性较差,已不能满足成千上万个CPU规模的系统。

典型设备:磁盘阵列、硬盘
块存储主要是将裸磁盘空间整个映射给主机使用的。块存储就是在物理层这个层面对外提供服务,使用它的系统,有用自己的文件系统格式化。这样一旦被一个系统使用,就独占了。
就是说例如:磁盘阵列里面有5块硬盘,然后可以通过划逻辑盘、做Raid、或者LVM等方式逻辑划分出N个逻辑的硬盘。但是逻辑盘和物理盘是两个完全不同的概念。假设每个硬盘100G,共有5个硬盘,划分为逻辑盘也为5个,每个100G,但是这5个逻辑盘和原来的5个物理盘意义完全不同了。例如第一个逻辑盘第一个20G可能来自物理盘1,第二个20G来自物理盘2,所以逻辑盘是多个物理盘逻辑虚构出来的硬盘。
接着块存储会采用映射的方式将这几个逻辑盘映射给主机,主机上面的操作系统会识别到有5块硬盘,但是操作系统是无法区分到底是物理盘还是逻辑盘,它一概就认为只是5块裸的物理硬盘而已,跟直接拿一块物理硬盘挂载到操作系统没区别,至少操作系统感知上没有区别的。
在此方式下,操作系统还需要对挂载的裸硬盘进行分区、格式化后,才能使用,与平常主机内置的硬盘无差异。

优点
(1)这种方式的好处当然是因为通过了Raid与LVM等手段,对数据提供了保护;
(2)可以将多块廉价的硬盘组合起来,称为一个大容量的逻辑盘对外提供服务,提高了容量;
(3)写入数据时,由于是多块磁盘组合出来的逻辑盘,所以几块硬盘可以并行写入的,提升了读写效率;
(4)很多时候块存储采用SAN架构组网,传输速度以及封装协议的原因,使得传输速度和读写效率得到提升

缺点
(1)采用SAN架构组网时,需要额外为主机购买光纤通道卡,还要购买光纤交换机,造价成本高;
(2)主机之间数据无法共享,在服务器不做集群的情况下,块存储裸盘映射给主机,在格式化使用后,对于主机来说相当于本地盘,那么主机A的本地盘根本不能给主机B去使用,无法共享数据
(3)不利于不同操作系统主机间的数据共享:因为操作系统使用不同的文件系统,格式化后,不同的文件系统间的数据是共享不了的。 例如一台win7,文件系统是FAT32/NTFS,而linux是EXT4,EXT4是无法识别NTFS的文件系统的

使用场景
docker容器、虚拟机磁盘存储分配。
日志存储。
文件存储。

文件存储

在这里插入图片描述
通常,NAS产品都是
文件级存储
NAS(Network Attached Storage):是一套网络储存设备,通常是直接连在网络上并提供资料存取服务,一套 NAS 储存设备就如同一个提供数据文件服务的系统,特点是性价比高。例如教育、政府、企业等数据存储应用。
它采用
NFS或CIFS命令集访问数据,以文件为传输协议,通过TCP/IP实现网络化存储,可扩展性好、价格便宜、用户易管理,如目前在集群计算中应用较多的NFS文件系统,但由于NAS的协议开销高、带宽低、延迟大,不利于在高性能集群中应用。

典型设备:FTP、NFS服务器
为了克服文件无法共享的问题,所以有了文件存储。
文件存储,就是在文件系统一层对外提供服务,系统只用访问文件系统一级就可以,各个系统都可以根据接口取访问。
文件存储也有软硬一体化的设备,但是其实一台普通的PC机,只要装上合适的操作系统和软件,就可以假设FTP与NFS服务了,架上该类服务之后的服务器,就是文件存储的一种了。
主机A可以直接对文件存储进行文件的上传和下载,与块存储不同,主机A是不需要再对文件存储进行格式化的,因为文件管理功能已经由文件存储自己搞定了。

优点
(1)造价低:随便一台机器就可以,另外普通的以太网就可以,根本不需要专用的SAN网络,所以造价低
(2)方便文件共享

缺点
(1)读写速率低,传输速率慢:以太网,上传下载速度较慢,另外所有读写都要1台服务器里面的硬盘来承受,相比起磁盘阵列动不动就十几上百块硬盘同时读写,速率慢了许多。

使用场景
日志存储。
有目录结构的文件存储。

对象存储

在这里插入图片描述
典型设备:内置大容量硬盘的分布式服务器

对象存储最常用的方案,就是多台服务器内置大容量硬盘,再装上对象存储软件,然后再额外搞几台服务作为管理节点,安装上对象存储管理软件。管理节点可以管理其他服务器对外提供读写访问功能。

之所以出现对象存储这种东西,是为了克服块存储与文件存储各自的缺点,发扬各自的优点。简单来说块存储读写快,不利于共享,文件存储读写慢,利于共享。能否弄一个读写块,利于共享的存储出来呢?于是就有了对象存储。

首先,一个文件包含了属性(术语:metadata,元数据,例如该文件的大小、修改时间、存储路径等)以及内容(数据)。

像FAT32这种文件系统,是直接将一份文件与metadata一起存储的,存储过程先将文件按照文件系统的最小块大小来打散(例如4M的文件,假设文件系统要求一个块4K,那么就将文件打散称为1000个小块),再写进硬盘里,过程中没有区分数据和metadata的。而每个块最后会告知你下一个要读取的块地址,然后一直这样顺序的按图索骥,最后完成整份文件的所有块的读取。
这种情况下读写速率很慢,因为就算你有100个机械臂在读写,但是由于你只有读取到第一个块,才能知道下一个块在哪里,其实相当于只能有1个机械臂在实际工作。

而对象存储则将元数据独立出来了,控制节点叫元数据服务器(服务器+对象存储管理软件),里面主要负责存储对象的属性(主要是对象的数据被打散存放到了那几台分布式服务器中的信息)而其他负责存储数据的分布式服务器叫做OSD,主要负责存储文件的数据部分。当用户访问对象,会先访问元数据服务器,元数据服务器只负责反馈对象存储在哪里OSD,假设反馈文件A存储在B、C、D三台OSD,那么用户就会再次直接访问3台OSD服务器去读取数据。
这时候由于是3台OSD同时对外传输数据,所以传输的速度就会加快了,当OSD服务器数量越多,这种读写速度的提升就越大,通过此种方式,实现了读写快的目的。

另一方面,对象存储软件是有专门的文件系统的,所以OSD对外又相当于文件服务器,那么就不存在共享方面的困难了,也解决了文件共享方面的问题。所以对象存储的出现,很好的结合了块存储和文件存储的优点。

关键技术

对象存储文件系统的关键技术是什么?
(1)分布元数据
(2)并发数据访问,对象存储体系结构定义了一个新的、更加智能化的磁盘接口OSD

什么是OSD?

存储局域网(SAN)和网络附加存储(NAS)是我们比较熟悉的两种主流网络存储架构,而对象存储是一种新的网络存储架构,基于对象存储技术的设备就是对象存储设备,简称:OSD

在存储对象中通过什么对象方式访问对象?

在存储设备中,所有对象都有一个对象标识,通过对象标识OSD命令访问对象

OSD的主要功能是什么?
(1)数据存储。OSD管理对象数据,并将它们放置在标准的磁盘系统上,OSD不提供块接口访问方式,Client请求数据时用对象ID、偏移进行数据读写;
(2)智能分布。OSD用其自身的CPU和内存优化数据分布,并支持数据的预取。由于OSD可以智能的支持对象的预取,从而可以优化磁盘的性能
(3)每个对象元数据的管理。OSD管理存储在其上对象的元数据,该元数据与传统的inode元数据相似,通常包括对象的数据块和对象的长度。

优点
具备块存储的读写高速。
具备文件存储的共享等特性。

使用场景: (适合更新变动较少的数据)
图片存储。
视频存储。

为什么对象存储兼具块存储和文件存储的好处,还要使用块存储和文件存储呢?
(1)有一类应用是需要存储直接裸盘映射的,例如数据库。
因为数据需要存储裸盘映射给自己后,再根据自己的数据库文件系统来对裸盘进行格式化的,所以是不能够采用其他已经被格式化为某种文件系统的存储的。此类应用更合适使用块存储。
(2)对象存储的成本比起普通的文件存储还要较高,需要购买专门的对象存储软件以及大容量硬盘。如果对数据量要求不是海量,只是为了做文件共享的时候,直接用文件存储的形式好了,性价比高。

三种存储类型差异

在这里插入图片描述

三种存储方式差异

在这里插入图片描述
在这里插入图片描述
参考资料:
块存储、文件存储、对象存储意义及差异 - hukey - 博客园
Ceph介绍及原理架构分享
块存储、文件存储、对象存储这三者的本质差别是什么?_xiaoliuliu2050的专栏-程序员宅基地_块存储协议

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/u013185349/article/details/123257689

智能推荐

IntelliJ IDEA 中自动生成 serialVersionUID 的方法_idea自动生成serialversionuid-程序员宅基地

文章浏览阅读2.2k次。幸运的是,IntelliJ IDEA 提供了一种自动生成 serialVersionUID 的方法,可以帮助我们简化这个过程。通过使用 IntelliJ IDEA 的自动生成功能,我们在类的定义行上右键单击并选择 “Generate”,然后选择 “Serializable class”,IntelliJ IDEA 将自动生成 serialVersionUID 字段。生成的 serialVersionUID 是基于类的结构和成员的哈希值计算得出的,因此在类的结构发生变化时,生成的值也会相应地发生变化。_idea自动生成serialversionuid

java智慧导诊系统源码,可应用于微信线上挂号、互联网医院、区域平台-程序员宅基地

文章浏览阅读85次。智慧导诊针对具体医院业务场景可接入科室介绍,专家介绍,门诊安排,就诊需知, 科室位置等,患者选择科室后可直接完成挂号。智慧导诊系统按照人体的性别差异,设计了男性/女性两种3D立体模型,用于病症库与自助导诊之间数据信息的读取与交互,在软件病症库中,将不同患者的常见病症进行分类整合,患者可通过人体画像选择症状部位,了解对应病症信息和推荐就医科室,为患者提供直观就医指导,减少导诊台工作量。4、根据患者提供的信息,会根据情况提供相关建议,并最终推荐就诊的科室。1)实现患者自助、正确的导诊,提高挂号窗口的速度;

设置vim 显示行号及快速定位_vim显示行号-程序员宅基地

文章浏览阅读990次。【代码】设置vim 显示行号及快速定位。_vim显示行号

MATLAB——生成周期序列_用 matlab 绘制周期矩阵序列,周期为 n ,每个周期内非零值点数为2m+1-程序员宅基地

文章浏览阅读1.2k次,点赞2次,收藏7次。MATLAB——绘制离散周期信号_用 matlab 绘制周期矩阵序列,周期为 n ,每个周期内非零值点数为2m+1

在ncnn上把玩mobileNet_ncnn mobilenet-程序员宅基地

文章浏览阅读1.6w次。ncnn是腾讯优图最近开源的适合移动端的深度学习框架。mobileNet是谷歌在2017年4月份发表的论文MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications中提出的网络。_ncnn mobilenet

网络分层及三次握手-程序员宅基地

文章浏览阅读386次,点赞9次,收藏7次。在传输数据层要先建立连接 websocket:双工。通信过程中链路会发生转换,但是网络层寻址是不变的。2个地址:ip:逻辑地址;真正一帧的内容:1460,tcp就要分段。20个头部 1500个字节-20-20。cdn&dns(包括cdn)的原理。tcp:安全 udp:快 丢就丢了。,dhcp:动态主机分配协议。具体的seq ack 及过程。每层协议指的就是约定和规范。数据传输 服务器如何响应。ip地址不变,mac会变。传输层:tcp/udp。tcp3次握手4次挥手。

随便推点

ultralytics的YOLOv8改为自用版本_from ultralytics.utils.plotting import annotator, -程序员宅基地

文章浏览阅读944次。由于需要用pyqt给yolov8做一个界面,而ultralytics一层嵌一层,不是很好用,所以对它的这个源码进行精简,具体代码我放到了这里,ultralytics使用的版本是8.0.54。具体代码如下,需要根据自己的情况来修改data的配置文件以及权值文件,在代码的49和50行。_from ultralytics.utils.plotting import annotator, colors, save_one_box modul

c++陈维兴第三版3.35_C++面向对象程序设计教程第3版—陈维兴,林小茶课后习题答案...-程序员宅基地

文章浏览阅读1.1k次。C++面向对象程序设计教程课后题答案1、1什么就是面向对象程序设计?面向对象程序设计就是一种新的程序设计范型、这种范型的主要特征就是:程序=对象+消息面向对象程序的基本元素就是对象。主要结构特点就是:第一,程序一般由类的定义与类的使用两部分组成;第二,程序中的一切操作都就是通过向对象发送消息来实现的。1、2什么就是对象?什么就是类?对象与类之间的关系就是什么?对象就是描述其属性的数据以及对这些数据..._c++面向对象程序设计 陈维兴,林小茶课后习题

uniapp怎么引入css_uni-app关于自定义iconfont 本地引入 和 线上引入的两种方式-程序员宅基地

文章浏览阅读993次。前言写这个文章原因就是 要考虑uni-app打包成ios或android -app调试离线情况下线上引入icon无法显示的原因;就是uni-app iconfont离线引入本地引入一、自定义iconfont阿里巴巴矢量图标库https://www.iconfont.cn,创建项目,查找图标加入购物车后添加进自建项目内二、线上引用 先点刷新提示红字后刷新在线代码,然后将代码复..._uniapp加载在线css

如何 vscode 文件标签栏多行显示?_vscode标签页多行-程序员宅基地

文章浏览阅读2.5k次,点赞4次,收藏8次。如何 vscode 文件标签栏多行显示?步骤:ctrl + shift + p输入:open workspace settings搜索:wrap勾选:wrap tabs设置之后 第二次打开vscode 还是回一行文件名显示解决办法是:将这个设置写入配置json文件ctrl + shift + p输入:open workspace settings(JSON)添加配置,配置可通过配置界面操作得到{ // add at end "workbench.editor_vscode标签页多行

列表是不是python数据类型的是_在Python中,一个列表中的数据类型是否可以不相同?(回答可以or不可以)...-程序员宅基地

文章浏览阅读299次。【单选题】Western Nebraska generally receives less snow than _______ Eastern Nebraska.【论述题】请同学们录制一段1分钟左右的课文朗读(中英文均可),给这段声音配上适合的背景音乐,将这两段音乐合成后保存为MP3格式,以学号后五位+姓名命名,以附件形式上传。【简答题】请把上面这首诗翻译成一首现代诗。注意从音韵、措辞、修辞手法等..._some students prefer to spend their time taking part time jobs

PyTorch: 点燃深度学习革新之火

PyTorch是一个开源的机器学习库,由Facebook的人工智能研究团队开发。它不仅支持强大的计算能力,而且提供了极大的灵活性和速度,这使得它非常适合进行研究原型的开发和生产部署。PyTorch的核心是提供了一个高度灵活的张量(Tensor)库,这与Numpy中的多维数组非常相似,但它可以在GPU上运行以加速计算。此外,PyTorch还提供了自动微分技术,即所谓的自动梯度计算,这对于深度学习模型的训练至关重要。随着深度学习技术的不断进步,对于专业性和高效性的需求也在不断提高。

推荐文章

热门文章

相关标签