什么是对象存储

什么是对象存储,第1张

对象存储,也叫做基于对象的存储,是用来描述解决和处理离散单元的方法的通用术语,这些离散单元被称作为对象。

存储局域网(SAN)和网络附加存储(NAS)是目前两种主流网络存储架构,而对象存储(Object-based Storage)是一种新的网络存储架构,基于对象存储技术的设备就是对象存储设备(Object-based Storage Device)简称OSD。1999年成立的全球网络存储工业协会(SNIA)的对象存储设备工作组发布了ANSI的X3T10标准。总体上来讲,对象存储综合了NAS和SAN的优点,同时具有SAN的高速直接访问和NAS的分布式数据共享等优势,提供了具有高性能、高可靠性、跨平台以及安全的数据共享的存储体系结构。

大数据时代下的三种存储架构_数据分析师考试

大数据时代,移动互联、社交网络、数据分析、云服务等应用的迅速普及,对数据中心提出革命性的需求,存储基础架构已经成为IT核心之一。政府、军队军工、科研院所、航空航天、大型商业连锁、医疗、金融、新媒体、广电等各个领域新兴应用层出不穷。数据的价值日益凸显,数据已经成为不可或缺的资产。作为数据载体和驱动力量,存储系统成为大数据基础架构中最为关键的核心。

  传统的数据中心无论是在性能、效率,还是在投资收益、安全,已经远远不能满足新兴应用的需求,数据中心业务急需新型大数据处理中心来支撑。除了传统的高可靠、高冗余、绿色节能之外,新型的大数据中心还需具备虚拟化、模块化、d性扩展、自动化等一系列特征,才能满足具备大数据特征的应用需求。这些史无前例的需求,让存储系统的架构和功能都发生了前所未有的变化。

  基于大数据应用需求,“应用定义存储”概念被提出。存储系统作为数据中心最核心的数据基础,不再仅是传统分散的、单一的底层设备。除了要具备高性能、高安全、高可靠等特征之外,还要有虚拟化、并行分布、自动分层、d性扩展、异构资源整合、全局缓存加速等多方面的特点,才能满足具备大数据特征的业务应用需求。

  尤其在云安防概念被热炒的时代,随着高清技术的普及,720P、1080P随处可见,智能和高清的双向需求、动辄500W、800W甚至上千万更高分辨率的摄像机面市,大数据对存储设备的容量、读写性能、可靠性、扩展性等都提出了更高的要求,需要充分考虑功能集成度、数据安全性、数据稳定性,系统可扩展性、性能及成本各方面因素。

  目前市场上的存储架构如下:

  (1)基于嵌入式架构的存储系统

  节点NVR架构主要面向小型高清监控系统,高清前端数量一般在几十路以内。系统建设中没有大型的存储监控中心机房,存储容量相对较小,用户体验度、系统功能集成度要求较高。在市场应用层面,超市、店铺、小型企业、政法行业中基本管理单元等应用较为广泛。

  (2)基于X86架构的存储系统

  平台SAN架构主要面向中大型高清监控系统,前端路数成百上千甚至上万。一般多采用IPSAN或FCSAN搭建高清视频存储系统。作为监控平台的重要组成部分,前端监控数据通过录像存储管理模块存储到SAN中。

  此种架构接入高清前端路数相对节点NVR有了较高提升,具备快捷便利的可扩展性,技术成熟。对于IPSAN而言,虽然在ISCSI环节数据并发读写传输速率有所消耗,但其凭借扩展性良好、硬件平台通用、海量数据可充分共享等优点,仍然得到很多客户的青睐。FCSAN在行业用户、封闭存储系统中应用较多,比如县级或地级市高清监控项目,大数据量的并发读写对千兆网络交换提出了较大的挑战,但应用FCSAN构建相对独立的存储子系统,可以有效解决上述问题。

  面对视频监控系统大文件、随机读写的特点,平台SAN架构系统不同存储单元之间的数据共享冗余方面还有待提高;从高性能服务器转发视频数据到存储空间的策略,从系统架构而言也增加了隐患故障点、ISCSI带宽瓶颈导致无法充分利用硬件数据并发性能、接入前端数据较少。上述问题催生了平台NVR架构解决方案。

  该方案在系统架构上省去了存储服务器,消除了上文提到的性能瓶颈和单点故障隐患。大幅度提高存储系统的写入和检索速度;同时也彻底消除了传统文件系统由于供电和网络的不稳定带来的文件系统损坏等问题。

  平台NVR中存储的数据可同时供多个客户端随时查询,点播,当用户需要查看多个已保存的视频监控数据时,可通过授权的视频监控客户端直接查询并点播相应位置的视频监控数据进行历史图像的查看。由于数据管理服务器具有监控系统所有监控点的录像文件的索引,因此通过平台CMS授权,视频监控客户端可以查询并点播整个监控系统上所有监控点的数据,这个过程对用户而言也是透明的。

(3)基于云技术的存储方案

  当前,安防行业可谓“云”山“物”罩。随着视频监控的高清化和网络化,存储和管理的视频数据量已有海量之势,云存储技术是突破IP高清监控存储瓶颈的重要手段。云存储作为一种服务,在未来安防监控行业有着客观的应用前景。

  与传统存储设备不同,云存储不仅是一个硬件,而是一个由网络设备、存储设备、服务器、软件、接入网络、用户访问接口以及客户端程序等多个部分构成的复杂系统。该系统以存储设备为核心,通过应用层软件对外提供数据存储和业务服务。

  一般分为存储层、基础管理层、应用接口层以及访问层。存储层是云存储系统的基础,由存储设备(满足FC协议、iSCSI协议、NAS协议等)构成。基础管理层是云存储系统的核心,其担负着存储设备间协同工作,数据加密,分发以及容灾备份等工作。应用接口层是系统中根据用户需求来开发的部分,根据不同的业务类型,可以开发出不同的应用服务接口。访问层指授权用户通过应用接口来登录、享受云服务。其主要优势在于:硬件冗余、节能环保、系统升级不会影响存储服务、海量并行扩容、强大的负载均衡功能、统一管理、统一向外提供服务,管理效率高,云存储系统从系统架构、文件结构、高速缓存等方面入手,针对监控应用进行了优化设计。数据传输可采用流方式,底层采用突破传统文件系统限制的流媒体数据结构,大幅提高了系统性能。

  高清监控存储是一种大码流多并发写为主的存储应用,对性能、并发性和稳定性等方面有很高的要求。该存储解决方案采用独特的大缓存顺序化算法,把多路随机并发访问变为顺序访问,解决了硬盘磁头因频繁寻道而导致的性能迅速下降和硬盘寿命缩短的问题。

  针对系统中会产生PB级海量监控数据,存储设备的数量达数十台上百台,因此管理方式的科学高效显得十分重要。云存储可提供基于集群管理技术的多设备集中管理工具,具有设备集中监控、集群管理、系统软硬件运行状态的监控、主动报警,图像化系统检测等功能。在海量视频存储检索应用中,检索性能尤为重要。传统文件系统中,文件检索采用的是“目录-》子目录-》文件-》定位”的检索步骤,在海量数据的高清视频监控,目录和文件数量十分可观,这种检索模式的效率就会大打折扣。采用序号文件定位可以有效解决该问题。

  云存储可以提供非常高的的系统冗余和安全性。当在线存储系统出现故障后,热备机可以立即接替服务,当故障恢复时,服务和数据回迁;若故障机数据需要调用,可以将故障机的磁盘插入到冷备机中,实现所有数据的立即可用。

  对于高清监控系统,随着监控前端的增加和存储时间的延长,扩展能力十分重要。市场中已有友商可提供单纯针对容量的扩展柜扩展模式和性能容量同步线性扩展的堆叠扩展模式。

  云存储系统除上述优点之外,在平台对接整合、业务流程梳理、视频数据智能分析深度挖掘及成本方面都将面临挑战。承建大型系统、构建云存储的商业模式也亟待创新。受限于宽带网络、web20技术、应用存储技术、文件系统、P2P、数据压缩、CDN技术、虚拟化技术等的发展,未来云存储还有很长的路要走。

以上是小编为大家分享的关于大数据时代下的三种存储架构的相关内容,更多信息可以关注环球青藤分享更多干货

一般是SAN和NAS两种体系。

网络接入存储(Network-Attached Storage,简称NAS)和存储区域网络(Storage Area Network,简称SAN)

存储区域网络(Storage Area Network,简称SAN)采用光纤通道(Fibre Channel)技术,通过光纤通道交换机连接存储阵列和服务器主机,建立专用于数据存储的区域网络。SAN经过十多年历史的发展,已经相当成熟,成为业界的事实标准(但各个厂商的光纤交换技术不完全相同,其服务器和SAN存储有兼容性的要求)。SAN存储采用的带宽从100MB/s、200MB/s,发展到目前的1Gbps、2Gbps。

网络接入存储(Network-Attached Storage,简称NAS)采用网络(TCP/IP、ATM、FDDI)技术,通过网络交换机连接存储系统和服务器主机,建立专用于数据存储的存储私网。随着IP网络技术的发展,网络接入存储(NAS)技术发生质的飞跃。早期80年代末到90年代初的10Mbps带宽,网络接入存储作为文件服务器存储,性能受带宽影响;后来快速以太网(100Mbps)、VLAN虚网、Trunk(Ethernet Channel) 以太网通道的出现,网络接入存储的读写性能得到改善;1998年千兆以太网(1000Mbps)的出现和投入商用,为网络接入存储(NAS)带来质的变化和市场广泛认可。由于网络接入存储采用TCP/IP网络进行数据交换,

NAS:用户通过TCP/IP协议访问数据,采用业界标准文件共享协议如:NFS、HTTP、CIFS实现共享。

SAN:通过专用光纤通道交换机访问数据,采用SCSI、FC-AL接口。

SAN结构中,文件管理系统(FS)还是分别在每一个应用服务器上;而NAS则是每个应用服务器通过网络共享协议(如:NFS、CIFS)使用同一个文件管理系统。换句话说:NAS和SAN存储系统的区别是NAS有自己的文件系统管理。

NAS是将目光集中在应用、用户和文件以及它们共享的数据上。SAN是将目光集中在磁盘、磁带以及联接它们的可靠的基础结构。将来从桌面系统到数据集中管理到存储设备的全面解决方案将是NAS加SAN。

天互数据 杜超为您解答

存储阵列在IT架构下主要有两种:

盘控一体化架构和盘控分离化架构

管理口的默认IP地址是A控 192168128101 B控 192168128102

存储结构:直接连接存储(DAS)、网络连接存储(NAS)、存储区域网络(SAN)

通过存储的通道不同分为IP SAN 和FC SAN

而无论是IP SAN还是FC SAN都有三种组网结构:

1、直连组网

主机和存储之间通过专用的通道去连接,这个通道可以基于是IP的,也可以是FC。这种通道的实现方式主要是把存储资源通过这个通道提供给上层服务器使用

缺点:所有的存储资源只能为一台服务器提供存储

2、单交换组网

它可以通过网络侧的交换机或者说FC的交换机实现把存储资源共享给多台服务器提供存储

缺点在于应用服务器和交换机以及存储 资源之间只有一条承载链路,任何一条链路出现问题都会导致服务器和应用之间连接失败

3、双交换组网

采用的是两台或主备的方式去实现交换机的连接,所有的应用服务器和存储之间也是通过两条链路去连接,中间断开任何一条链路都不影响整个存储和应用服务之间应用的访问

注意:提到SAN存储,默认指的是FC SAN

无论是IP SAN 还是FC SAN都有以下四个组件:

采用的是光纤作为承载通道。

FC协议栈

我们大多用的是FC-0 FC-1 FC-2这三层,也可以称FC是大二层架构

FC-0主要是定义了物理层的介质,比如:光纤或者铜线、相应的标准、距离等

FC-1主要是定义了协议的编解码的过程

FC-2主要是定义了帧、流控制以及质量控制方面

FC-3主要是加密

FC-4主要是上层协议的封装,比如SCSI,完成SCSI协议到FC协议的转换传输

FC的三种拓扑架构

1、点对点

通过主机侧安装的hub卡以及光纤线缆和设备去连接

缺点:所有的存储只能为一台应用服务器提供服务

2、仲裁环

通过光纤集线器去完成把存储资源共享给多台服务器,提供存储。

缺点:它们都在环路上工作,任何环路上的设备出问题都会导致环路出问题,安全性不高

3、FC-SW

采用交换式的方式去实现FC的组网,这种方式采用FC交换机去实现为更多的上层服务器提供存储资源,同时也可以实现双交换组网的一种方式

它的承载通道采用TCP/IP协议进行承载

实现IP SAN有三种方式:

第一种:

软件主要实现的是从SCSI协议封装成iSCSI的过程

以太网卡主要实现的是把数据传输到外界

第二种:

与第一种的区别就是TOE网卡分担了网卡的一些功能

第三种:

iSCSI卡即完成了数据的封装也完成了数据的发放

不占用任何的主机资源

FC SAN与IP SAN的区别

FC SAN因为距离原因,大多只能在数据中心去做

IP SAN因为是TCP/IP做承载,所以可用于大区域数据

FC SAN速度快,传输效率高

FC SAN成本高

FC SAN采用的是专用的HBA卡 不会被外界攻击

FC SAN更多用在容灾备份的场景

NAS(Network Attached Storage)网络附加存储 :是一种将分布、独立的数据进行整合,集中化管理,以便与对不同主机和应用服务器进行访问的技术。

SAN的所有文件存储都是在主机这侧完成的。

而NAS是把自己的文件系统和自己的 *** 作系统都是在内部实现的,也就是说NAS有自己的文件系统和自己的 *** 作系统去管理自己的内部数据。

NAS对不同 *** 作系统开放的协议不同

Windows是CIFS

Linux是NFS

NAS还支持FTP和HTTP,对外提供文件共享

CIFS(Common Internet File System),通用Internet文件系统,NAS对Windows系统提供文件共享所用的一个协议。

它使程序可以访问远程Internet计算机上的文件并要求此计算机的服务,CIFS可以看做是应用程序协议,如文件传输协议和超文本传输协议的一个实现

架构:C/S

应用:Windows系统共享文件的环境

传输协议:TCP/IP

对网络性能要求较高,如果丢包高的话,会访问失败

NFS (Network File System)网络文件系统。

应用在Linux/Unix文件系统中,通过使用NFS,用户和程序可以像访问本地文件一样访问远端系统上的文件。

架构:C/S

传输:TCP或者UDP

因为支持两种传输协议,所以网络的可靠性安全性方面比CIFS要低

因为Windows上的软件是集成的所以不需要安装,而Linux和Unix则需要安装软件

NAS内部的组成:

NAS文件系统IO与性能影响

主机、网络、NAS本身内部的性能

NAS和SAN的区别:

Server SAN是由多个独立的服务器带的存储组成的一个存储资源池,有着良好的性价比和扩展性。由Server SAN架构所支撑的数据中心相对于传统数据中心有着:整体性能峰值、综合性价比、管理与运维等多方面有着巨大的优势。

Server SAN架构属于Hyperscale,聚合和闪存趋势交汇的技术。随着设备和联网存储(包括DAS和SAN)的分离,共享和管理大量数据的需求促生了存储阵列。

而企业闪存方案的出现后,存储智能又回到运算的范畴。聚合型架构和Hyperscale架构通过创建可重复堆栈级别的部署来简化 *** 作。高速低延时,闪存,数据爆炸和新应用设计等等,都为IT架构的重组带来了机遇。

扩展资料

许多架构变体在Server SAN下都会找到适合的位置。存储的管理应该简单到“存储”的范畴,换言之,管理员不应该担心LUN,端口或交换机配置。该系统对系统特征如此了解,不需要再有调节旋钮或了解RAID类型。

该方案必须支持多个应用和容量;软件应该能够优化系统,整个租户或应用的整体数据传输量。一些架构可以将数据动态迁移到应用,且反之亦然。这一点是传统联网存储所做不到的,因为传统的联网存储中运算和存储是分离的。

当数据以最小的网络延时到达处理器附近时,性能回避传统SAN略低。Server SAN超越了DAS在性能和容量方面的限制。对磁盘和闪存的支持扩展的实用应用情境。PCIe Flash和原子级写入带来了最大性能的潜力。

如下:

存储区域网络(SAN:Storage Area Network),是一种通过网络连接存储设备和应用服务器的存储构架,采用网状通道(Fibre Channel ,简称FC,区别与Fiber Channel光纤通道)技术。

通过FC交换机连接存储阵列和服务器主机,建立专用于数据存储的区域网络,这个网络专用于应用服务器和存储设备之间的访问。

早期的SAN存储系统多数由FC光纤交换机连接存储设备和应用服务器,导致很多用户误以为SAN就是光纤通道设备,只能采用FC协议。其实SAN代表的是一种专用于存储的网络架构,与协议和设备类型无关,随着千兆以太网的普及和万兆以太网的实现,SAN又分为FC SAN和IP SAN。

其中,通过光纤交换机连接应用服务器和存储设备,将数据和SCSI指令通过FC协议承载,这样的解决方案称为FC SAN;而通过千兆/万兆专用的以太网络连接应用服务器和存储设备,将数据和SCSI指令通过TCP/IP协议承载,这样的解决方案称为IP SAN。

SAN实际是一种专门为存储建立的独立于TCP/IP网络之外的专用网络。目前一般的SAN提供2Gb/S到4Gb/S的传输数率,同时SAN网络独立于数据网络存在,因此存取速度很快,另外SAN一般采用高端的RAID阵列,使SAN的性能在几种专业存储方案中傲视群雄。

SAN由于其基础是一个专用网络,因此扩展性很强,不管是在一个SAN系统中增加一定的存储空间还是增加几台使用存储空间的服务器都非常方便。通过SAN接口的磁带机,SAN系统可以方便高效的实现数据的集中备份。

目前常见的SAN有FC-SAN和IP-SAN,其中FC-SAN为通过光纤通道协议转发SCSI协议,IP-SAN通过TCP协议转发SCSI协议。

SAN是计算机工作者们为了优化DAS而提出的另一种设计思想,它并没有试图在功能上将应用服务和存储服务完全解耦,而是希望服务器与存储设备之间通过专用光纤网络实现高速互连。如图1所示,一个SAN系统通常包括服务器连接器件、存储网络连接器件、存储设备和管理软件四部分组成,其中存储网络连接器件又可以细分为光纤通道集线器、光纤通道交换机和存储路由器等设备。

图1 SAN系统组成

从设计角度来看,只要购买一个NAS服务器通过标准网络协议加入网络,就可以享受文件级的存储服务了;但是如果打算采用SAN设计存储网络的话,不仅需要购买服务器连接器件、存储网络连接器件、存储设备和管理软件,还需要事先规划设计好存储网络的拓扑结构。从使用上来看,SAN采用专用的光纤网络实现数据存取,能够获得高性能;而NAS服务器与应用服务器共用一套网络,性能比拼上明显无法占据上风。

可以看出,NAS和SAN各有所长,各有所短,实际使用中应该根据实际情况选择合适自己的技术。近些年来,随着主流NAS厂商开始向其NAS设备增加类似SAN的光纤通道和iSCSI功能,NAS和SAN之间的界限已经越来越模糊,也许不久的将来两者将会迎来越来越多的重叠。

那么到底是哪种技术,哪家厂商的方案是最佳的呢哪种方案会成为存储虚拟化大赛中的最终胜者呢现在更多的专家认为,这场竞赛没有最后的赢家,越来越多人认为这三种技术应当结合使用。

如果我们把厂商和各自的虚拟化技术对号入座,那么三个虚拟化阵营都各自有一些代表厂商。虚拟化应用阵营的代表有SVC、StorAge、NetworkAppliance设备以及NSS SED (Service-Enabled Devices)飞康。而在磁盘阵列和光纤通道阵营里,HDS、Sun、hp以及Acopia提供了多样化的体系结构。交换机阵营则包括Invista、McData、Brocade、QLogic以及Cisco公司。

在虚拟化应用阵营中比较有代表性的厂商是飞康,飞康 NSS 是一款灵活的存储虚拟化解决方案,能够对整个企业内的存储资源进行高效、经济的供给和集中管理。飞康 NSS有助于最大化存储利用率,降低总存储成本和提高员工生产力。企业可以继续利用现有的存储投资,从而降低购置总成本 (TCO)。飞康 NSS 使 IT 管理员能够根据业务应用程序服务级别协议 (SLA) 定义适当的业务持续性策略,从而实现更加面向服务的应用程序方法和数据可用性。

对于另外两个阵营来说,由于McData,Brocade,Cisco等其他一些公司已经针对基于光纤通道虚拟化进行了一系列公司收购与合作,似乎不同类别方案之间的分界线已经变得模糊起来。其他两个阵营中的厂商中有些也正在慢慢跨越自身的领域,即使目前来说并没有真正完全的横跨界限。

由于虚拟化性能、应用程序灵活性以及虚拟化引擎等诸多方面的问题,早期的存储交换虚拟化和磁盘阵列虚拟化两个阵营的提倡者广受业界的质疑。最初执行虚拟存储的厂商依赖那些基于现有组件的分布式解决方案或是基于端口的处理引擎来提供所需功能,应用设备虚拟化方案被认为是最易于配置的,但其往往有应用限制。因此一些厂商更倾向于存储交换虚拟化,认为智能SAN虚拟化处理组件是下一代虚拟存储的典范。

同样,HDS针对应用虚拟化方案和网络交换虚拟化方案也作出了类似的批评。HDS认为他们的通用存储平台(USP)是把虚拟化部署在存储网络边缘的存储控制器,而不是部署在主机或是网络核心的交换机或应用设备,他们认为从性能和安全因素上说这是最佳位置。

而应用设备虚拟化的坚定支持者NetApp则认为通过应用设备在存储网络上实现虚拟化是最好方案。NetApp公司发言人解释:在选择磁盘阵列方案后,存储网络能给客户提供最大的灵活性,不至于像TagmaStore通用存储平台那样把客户锁定在磁盘阵列的解决方案,既不需要那么复杂,也不需要基于主机的虚拟化解决方案中客户代码带来的成本。在存储网络之内,应用设备可以灵活放置。

一个好的虚拟解决方案不要求对磁盘或存储网络基础架构进行任何改变。因此,需要和您的供应商进行讨论来决定进行哪些改变才能够测试和运行它们的虚拟解决方案。但是需要警惕的是一些解决方案要求企业购买新一代SAN交换机或新一代存储控制器,而这样做的目的仅仅是为了实现存储虚拟。

IP SAN与FC SAN 都是基于SAN存储的架构,只是他们的协议不一样。IP SAN走的是ISCSI协议,FA SAN 走的FC协议。

通常来说,IP SAN 由于基于全以太网架构,组网部署较为简单,且成本较低,但性能较差,网络可靠性一般,适用于中小规模的非关键性存储业务。

而FC SAN需要部署光纤网络,有时还需要购买光纤交换机,因此组网部署稍显复杂,成本较高,还需要考虑FC HBA卡,主机端 *** 作系统,驱动等兼容性问题。但好处是性能极高,且网络的可靠性很好,适用于一些关键存储应用或OLTP类业务。

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/12172358.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-21
下一篇 2023-05-21

发表评论

登录后才能评论

评论列表(0条)

保存