軟件定義時代,存儲行業的“百家爭鳴”|深度研報(下)
全球軟件定義存儲市場年復合增長率逐漸上升,市場規模逐漸擴大,并且將持續保持高速增長,其中北美仍是軟件定義存儲的主要市場,全行業都表現為軟件定義存儲的發展趨勢,呈現出“百家爭鳴”的格局。這篇文章就讓我們一起來深入了解一下存儲行業的軟件定義時代吧。
四、存儲架構發展趨勢:從集中式架構向分布式架構不斷演進
存儲市場按照存儲架構可以分為傳統企業級存儲(TESS)、軟件定義存儲(SDS)、超融合基礎架構(HCI),隨著數據量增長及數據分析需求爆發,存儲架構從傳統的集中式存儲向分布式演進,分布式存儲的主要形式分為軟件定義與超融合。
(一)傳統企業級存儲
DAS(直接連接存儲):存儲設備是通過電纜(通常是SCSI接口電纜)直接連到服務器的,I/O請求直接發送到存儲設備。
應用場景:網絡規模較小、數據存儲量小、組網簡單的小型網絡,在中小型企業中廣泛使用。
特點:架構連接簡單,集成在服務器內部,為點到點的連接,具有安裝技術要求低,成本較低優勢。
DAS劣勢明顯:
- DAS架構的可擴展性較差,SCSI總線支持的距離最大為25米,支持的設備數量最多為15個,服務器/計算機配備固定容量的DAS存儲,如果容量不足、存儲空間太小,那就很難從內部進行彈性擴展(外部擴展容量也有缺點),如果存儲空間太大也會導致資源浪費,尤其是在服務器領域很明顯,直接制約了其可擴展性。
- 直連存儲無法共享,因此經常出現的情況是某臺服務器的存儲空間不足,而其他一些服務器卻有大量的存儲空間處于閑置狀態卻無法利用。
- DAS結構下的數據保護流程復雜,如果做網絡備份,那么每臺服務器都必須單獨進行備份,而且所有的數據流都要通過網絡傳輸。如果不做網絡備份,那么就要為每臺服務器都配一套備份軟件和磁帶設備,備份流程的復雜度和備份成本會大大增加。
(二)NAS網絡連接存儲
NAS方式則全面改進了以前低效的DAS存儲方式。它采用獨立于服務器,使用網絡連接存儲專用文件服務器來連接存儲設備,自形成一個網絡。這樣數據存儲就不再是服務器的附屬,而是作為獨立網絡節點而存在于網絡之中,可由所有的網絡用戶共享。
- 優勢:NAS是獨立的存儲節點存在于網絡之中,與用戶的操作系統平臺無關,可以做到真正的即插即用,同時NAS還具有資源易于共享、部署簡單且擴展性較好等優勢。
- 劣勢:存儲性能較低,可靠性差。
(三)SAN存儲區域網絡(Storage Area Network)
SAN是一個用在服務器和存儲資源之間的、專用的、高性能的網絡體系。它為實現大量原始數據的傳輸而進行了專門的優化。
1991年,IBM公司在S/390服務器中推出了ESCON技術。它是基于光纖介質,最大傳輸速率達17MB/s的服務器訪問存儲器的一種連接方式。
用光纖通道構建的SAN由以下三個部分組成:
- 存儲和備份設備:包括磁帶、磁盤和光盤庫等;
- 光纖通道網絡連接部件:包括主機總線適配卡、驅動程序、光纜、集線器、交換機、光纖通道和SCSI間的橋接器;
- 應用和管理軟件:包括備份軟件、存儲資源管理軟件和存儲設備管理軟件。
SAN的優勢如下:
- 網絡部署容易;
- 易于存儲和備份;
- 高性能:因為SAN采用了光纖通道技術,所以它具有更高的存儲帶寬,存儲性能明顯提高;
- 非常好的擴展性:由于SAN采用了網絡結構,擴展能力更強。光纖接口提供了10公里的連接距離,這使得實現物理上分離、不在本地機房的存儲變得非常容易。
三種方式對比:
(四)傳統集中式存儲架構總結
傳統SAN/NAS存儲的硬件架構采用“控制器+硬盤柜”的方式。中高端存儲支持多個控制器,以保障高可用并提高性能。多控制器為緊耦合,通過PCIE總線或Infiniband網絡互連,共享磁盤陣列,共享緩存。
- BBU:內置BBU電池,進行掉電保護。
- 控制器其他功能:雙活、容災、CDP等技術保障業務系統的連續性和數據安全性。
傳統集中式存儲的特性適合作為金融/醫療等核心業務系統的數據庫存儲。
傳統架構中,存儲廠商一般自研硬件,核心目的主要有:
- 提高磁盤的IO性能,存儲廠商需要自己研制面向IO的存儲硬件,比如說在一臺存儲服務器中需要擴展很多的SATA/SAS接口、擴展硬件RAID功能,如果是高性能的存儲設備,還需要擴展控制器之間的專用互連網絡接口。
- 應對存儲的IO密集型讀寫,低端存儲甚至可以采用計算性能比較差的CPU進行設計。
- 提高存儲的高可靠性,傳統存儲往往追求硬件設計的可靠與穩定,通過提高硬件的可靠性來達到存儲可靠的目的。在這種傳統存儲的思路下,存儲的設計主要分成存儲硬件和存儲軟件設計兩大部分。
傳統存儲的問題:硬件綁定;總擁有成本高(資本支出+運營支出);可擴展性差;數據孤島。
- 硬件綁定:專用存儲硬件是各個廠商獨立開發的,具有封閉性,容易綁定客戶,進行持續的擴容銷售、運維和提供服務,同時對于客戶來說,由于數據遷移的風險和費用很高,客戶一旦選擇某一廠商存儲,后續就需要持續復購;所以存在軟件定義存儲的發展趨勢,用戶急需能夠對現有存儲進行統一整合并且能兼容其他廠商設備的存儲管理軟件。軟件定義存儲的理念就是將硬件歸一化,而把之前通過專用存儲硬件實現的提升IO性能和可靠性等功能都由軟件來實現。
- 傳統集中式存儲在成本、可擴展性等方面存在劣勢。傳統集中式存儲采用集中的存儲服務器存放所有數據,存儲服務器成為系統性能的瓶頸,也是可靠性和安全性的焦點,不能滿足大規模存儲應用的需要。
- 傳統存儲采購和運維成本高,效率低下。傳統集中式存儲最大的弱勢在于只能憑借在系統中增加大量磁盤驅動器來實現較高的性能,而這種方式必然帶來昂貴的開支和營運費用。存儲廠商通過在混合結構中增加閃存,盡力克服磁盤陣列局限性,但是舊有基礎架構并不能真正發揮閃存的效率,發揮其最高性能。而且,混合陣列也不能輕易地跨多個系統進行共享,這樣就導致效率低下。
- 數據孤島問題嚴重,資源閑置率高。引入SAN技術之前,存儲采購的目標主要是陣列的嵌入式特性/功能和物理硬件屬性,如可擴展性和可靠性。一旦SAN 被廣泛地采用,用戶面臨的就是各種各樣的型號和品牌,因此他們只能根據具體的項目需求建設一套又一套的存儲設備,這在很大程度上使不同的存儲設備在用戶的系統中是一個個孤島。這就造成了不同業務系統的存儲資源無法均衡并且維護成本居高不下。
(五)分布式存儲系統成為存儲發展主流
分布式存儲是將數據分散存儲在多臺獨立的設備上。分布式網絡存儲系統采用可擴展的系統結構,利用多臺存儲服務器分擔存儲負荷,利用位置服務器定位存儲信息,它不但提高了系統的可靠性、可用性和存取效率,還易于擴展。
軟件定義存儲:
將存儲硬件中的存儲控制器功能抽出來放到軟件上,包括卷管理、RAID、數據保護、快照和復制等等。
虛擬化和虛擬化和云技術的發展和成熟轉變了數據中心的設計、建造、管理和運維方式,這種變革使軟件定義存儲越來越有吸引力。
根據分布式存儲系統的設計理念,軟件和硬件解耦,存儲的很多功能比如可靠性和性能增強都由軟件提供,但是并不意味著硬件不重要,但是實際中進行分布式系統集成時,除了考慮合適的分布式存儲技術意外,還需要考慮底層硬件兼容的問題。
分布式存儲系統的產品形態一般有:軟硬件一體機、硬件OEM、軟件+標準硬件。
優勢:
- 靈活部署:控制器的功能不僅僅局限在單一設備,如果存儲控制器功能被抽離出來,該功能就可以放在基礎架構的任何一部分。它可以運行在特定的硬件上,在hypervisor內部,或者與虛機并行,形成真正的融合架構。
- 存儲系統整體性能的大幅提升。分布式架構提升了系統整體的聚合性能,可以在不改變硬件配置下進一步降低訪問延遲。
- 中立:軟硬解耦、易于擴展、自動化、基于策略或者應用的驅動。就業務應用來說,即不限制上層應用,不綁定下層硬件;除了提供塊存儲,也可以在同一平臺提供文件、對象、HDFS等存儲服務,實現非結構化數據的協議互通;同時應具備完善的監控能力,實現應用感知。允許用戶不必從特定廠商采購存儲控制器硬件如硬盤、閃存等存儲介質,硬件歸一,軟件價值凸顯。
- 開放性+水平擴展。開放化意味著接口標準化、服務原子化,保證客戶的應用系統能夠以最順暢的方式對接基礎存儲設施,可微調解決方案細節,達成高質量的服務。水平擴展則是云計算彈性環境的必然要求,在移動互聯網環境下,業務應用的負載量是突發式、潮汐式、難以精確預測的,應用要求存儲的容量和性能都必須能夠線性擴展以滿足上層應用需求。
- 采購成本和總體擁有成本降低。如超融合系統,在使用成本方面,服務器+超融合軟件(或超融合一體機)的采購成本有大幅度的降低。除采購成本外,超融合系統在總體擁有成本上有更大的優勢。SmartX在某證券客戶的支撐案例中,超融合解決方案協助客戶提升15%的資源利用率、降低60%的運維工作量、同時每年的IT采購成本降低50%。
- 影響現有存儲格局:未來軟件領先并且具有持續研發能力的廠商將打破現有存儲格局,降低新廠商的準入門檻,為全行業帶來更多可能;所以,未來市場可能存在由集中度高的市場格局演變為更加分散的市場。
(六)超融合架構
1.超融合定義
軟件定義的IT基礎架構,可以虛擬化常見“硬件定義”系統系統的所有元素,對傳統存儲設備進行統一管理、池化,然后映射給上層主機使用;把應用程序存儲與物理的數據存儲基礎設施分離;這將實現存儲資源的“靈活”分配、重新分配或不分配。存儲虛擬化提供一種把存儲服務從存儲包中分離出來的方法,即使基本的硬件和互連被變更,仍然能提供卷的持續性。
超融合基礎架構除對計算、存儲、網絡等基礎元素進行虛擬化外,通常還包括諸多IT架構管理功能多個單元設備可以通過網絡聚合起來,實現模塊的無縫橫向擴展,形成統一資源池。
超融合基礎架構圖示:
資料來源:志凌海納
4大優點:更好性能、更高可靠性、更加敏捷、易于維護,企業可以降低IT基礎設施的總體擁有成本。
- 解決傳統存儲“煙囪式”擴容的弊病,充分利用用戶已有的存儲設備,實現多廠家設備的異構、數據的遷移、容災和統一管理,充分實現客戶存儲硬件的投資價值。
- 解決被單一存儲廠商綁定的問題。
- 虛擬化技術可用于跨多個系統靈活分配存儲空間,通過使用緩存系統來發揮閃存的優勢。
2. 存儲虛擬化實現方式
基于主機的虛擬化在主機服務器上實現;基于存儲網絡的虛擬化,需要在SAN網絡中添加虛擬化網關的支持來實現;基于存儲設備、存儲子系統的虛擬化,依賴于提供相關功能的存儲模塊或第三方的虛擬軟件來實現。
(1)基于主機的虛擬化
一般由操作系統下的邏輯卷管理軟件完成(安裝客戶端軟件);優點是支持異構的存儲系統,缺點是占用主機資源,降低性能;存在操作系統和應用的兼容性;導致主機升級、維護、擴展復雜,容易造成系統不穩定;數據遷移過程復雜,影響業務連續性。
(2)存儲網絡虛擬化的實現設備-虛擬化網關
- 優點:不占用主機資源;支持主機、異構存儲設備;不同設備的數據管理功能統一;可擴展性好。
- 缺點:占用交換機資源;成熟度低。
虛擬化網關價格高,市場規??雌饋聿⒉淮?;——降低存儲系統新廠商準入門檻,SAN開始面臨公平競爭,有利于行業推陳出新。
資料來源:百度
(3)基于存儲設備、子系統的虛擬化
在存儲控制器上添加虛擬化功能,常見于中高端存儲設備。
- 優點:不占用主機資源,數據管理功能豐富。
- 缺點:一般只能實現對本系列設備內磁盤的虛擬化;不同廠商間的數據管理功能不能互操作;多套存儲設備需配置多套數據管理軟件,成本高。
五、分布式存儲市場廣闊,增長可期
(一)整體市場規模
存儲市場全景
據IDC的預測,2021年中國企業級存儲市場空間55億美元,2020-2024年中國企業級存儲市場將保持7.16%的年復合增長率,到2024年中國企業級存儲市場空間將達到65.9億美元。SDS和HCI的增速遠遠超過TESS,其中SDS未來四年復合增長率12.8%,HCI未來四年復合增長率13.0%。
從行業角度看,在電信和制造業中,SDS產品的市場需求增加,預期將支持電信和制造業中許多新的在線工作負載,以支持邊緣計算工作負載(如環境監測或制造設計等)中非結構化數據的捕獲和分析。
(二)全球軟件定義存儲市場規模
據Transparency Market Research發布的《Software Defined Storage Market》表明,從2019年到2027年,全球軟件定義存儲市場年復合增長率達到25%,市場規模將達到536億美金。北美和歐洲的存儲市場受到政策引導和資金扶持,將持續保持高速增長,其中北美仍是軟件定義存儲的主要市場。
全行業都呈現軟件定義存儲的發展趨勢。
根據Gartner 2020年存儲戰略路線圖預測,到2024年,全球存儲容量的50%將作為SDS部署在本地或公共云上。與2020年相比,2024年的大型企業將會存儲在本地,邊緣或公共云的文件或對象存儲的非結構化數據將增加兩倍。
據IDC發布的《中國軟件定義存儲(SDS)及超融合存儲(HCI)系統市場季度跟蹤報告,2020年第四季度》報告顯示,2020年軟件定義存儲與2019年相比增長了51.7%,超融合存儲系統增長了36.5%。
- 新應用場景成為推動分布式存儲發展的有力抓手。從新應用場景角度來看,金融行業出現了如“遠程柜臺”、“人臉/指紋識別”等新型金融應用,實現了結構化數據向非結構化、多類型數據的轉變;教育行業積極部署信息化和網絡輔助教育,教學模式多樣化如“線上教學”、“混合式教學”等形式對存儲容量要求也不斷提高。針對多類型數據混合存儲帶來的存儲性能問題,分布式存儲系統能夠有效解決。
- 國內某運營商為例,2019年分布式存儲集采達到600PB以上,并且計劃未來5年將傳統存儲數量減少70%。
六、技術走向場景,廠商發展各具特色
(一)競爭格局:大廠/初創廠商
主要的廠商列舉:
中國廠商:在傳統存儲陣列領域,當前市場份額較大的廠商包括華為、新華三、浪潮、曙光等;在分布式存儲領域,華為、曙光、新華三、XSKY等廠商占有較大市場份額。而在云存儲領域,阿里云國內領先的云存儲廠商。屬于技術與市場壁壘雙高的領域。
軟件定義存儲:行業集中度極高,top前五占據70%+;2018年到2021年,前五的市場份額在緩慢下降。
- 華為市場份額同比減少2.6%至39.1%;收入為27億元;
- 曙光增加0.3%至13.5%;收入為12.8億元;
- 新華三減少3%至10.2%;收入為9.7億元;
- 浪潮猛增4.6%至9.2%,躍居第四位;收入為8.7億元;
- XSKY增加0.55%至8.1%,降至第五位;收入為7.7億元。
備注:以上數據可作為簡單參考,因為統計口徑與硬件占比等,可能與實際情況有一定差異。
(二)華為
華為認為軟件定義存儲并非普世良藥,基于軟硬結合的方式才是合適的路徑。
分布式存儲2023年將占據企業存儲市場的35%以上,云化、設備整合、設備聯網是推動力,不再是趨勢,已經是現實。
豐富協議類型,對象、塊、大數據存儲等,2019年推出大數據存儲。
基于傳統企業存儲持續打造企業級分布式存儲的能力,2020年底全球客戶數3000+,中國區市場份額第一。
融合+智能理念,自研存算傳管芯片,提供專用硬件服務。
存算分離、大數據虛擬化、對象資源池、視頻云等五大解決方案。
未來戰略:軟件+硬件的雙輪驅動,基于軟硬結合推動產業;客戶需求出發,面向業務的創新,追求穩定性、效率與成本。
(三)中科曙光
公司分布式存儲市場份額國內前三。公司分布式存儲包括分布式存儲系統ParaStor300S、分布式塊存儲系統XStor1000、區塊鏈存儲系統ChainStor等。
根據IDC數據,2021年,中科曙光分布式存儲以11.3%的市場份額位列國內軟件定義存儲市場第三位。其中,曙光ParaStor以20.6%的市場份額,位列中國分布式文件存儲市場份額前二,公司連續第8年獲得此殊榮。
主營高端計算機業務的協同作用。市場對計算和存儲的需求具備明顯的相關性,隨著公司向客戶銷售的高端計算機規模擴大,相同客戶對存儲產品的需求有望同步同步增長。預計2022-2024年,存儲產品收入分別為12.93、15.78、19.30 億元,增速分別為21.5%、22.1%、22.3%。
(四)新華三
新華三擁有計算、存儲、網絡、安全等全方位的數字化基礎設施整體能力,提供云計算、大數據、智能聯接、信息安全、新安防、物聯網、邊緣計算、人工智能、5G 等在內的一站式數字化解決方案,以及端到端的技術服務。同時,新華三也是 HPE?服務器、存儲和技術服務的中國獨家提供商。
面向全閃的H3C ONEStor 5.0是H3C與英特爾攜手打造的全棧優化產品,關鍵優化技術包括DCache加速、重刪壓縮加速、固態盤耐用性提升等多個方面。
資料來源:新華三
新華三UIS超融合占據國內主導地位IDC發布《中國軟件定義存儲及超融合存儲系統市場季度跟蹤報告,2021Q4》,報告顯示,2021年二季度至四季度,紫光股份旗下新華三集團在超融合存儲系統市場連續三個季度保持市場第一,并以全年21.9%的市場占有率問鼎中國超融合市場。新華三UIS超融合架構具備“全域云”的能力,為企業數字化轉型提供核心能力,備受市場認可。
(五)杉巖數據
海量非結構化數據存-管-用一體化的解決方案,國家級“專精特新”小巨人企業。
全分布式架構,基于通用服務器硬件線性擴展,提供EB級容量,支持百億級文件存儲;支持EC機制,降低存儲成本。
(1)更快的IO、高并發、大容量、副本+糾刪(節點故障會觸發系統自愈、成本可控)。
智能緩存技術低成本,可以高效加速數據訪問性能。
- 高性能介質緩存熱數據,低性能介質保存溫冷數據,保障高優先級業務性能,有效降低整體硬件成本。
- 技術特性:多級緩存加速;數據類型智能感知;大塊數據透傳。
- 特性優勢:元數據/高優先級數據優先緩存;低優先級的數據全不緩存;中優先級的數據自動冷熱分層;基于優先級在線調整,不影響業務。
海量小文件合并技術實現百億文件性能平穩
支持未來湖倉一體建設
- 接口支持全:100%兼容POSIX、HDFS、S3三大主流訪問協議,能對接大數據和AI訓練的主流訪問協議,能對接大數據和AI訓練的主流應用;對于Hadoop生態的上層應用完美兼容,不需要做任何改動。
- 元數據支持分離部署:性能和擴展性強,大數據分析場景的Listing、Rename操作響應速度快。
- 支持數據智能緩存、數據預讀、并發讀:在大數據場景下的Parquet和ORC數據格式分析場景性能有保證。
- Kubernetes CSI支持:支持容器共享,便于K8S調度。
數據來源:杉巖數據官網
面向行業的應用需求延展-機器視覺質檢數據存儲解決方案,智能分析和挖掘數據價值:為多個生產線的機器視覺設備提供統一的圖片、日志數據采集、存儲、和管理平臺。
存儲底座采用全分布式架構,存儲的性能可隨節點數量線性增長,能滿足眾多機器視覺設備同時保存高清晰度圖片的需求,并確保多并發、高帶寬和低時延讀寫;針對不同工序產生的圖片、日志數據的保存時間和訪問性能的要求,通過數據自動分層功能,讓數據在合適的時間存儲在合適的介質中,并根據管理策略將歷史數據自動歸檔至藍光存儲或公有云,實現低成本長期留存。
數據來源:杉巖數據官網
(六)XSKY 星辰天合
根據IDC等第三方權威報告,XSKY星辰天合在SDS中國市場整體份額中,位居前五,是 TOP 5中僅有的一家專業軟件定義存儲廠商。
其中,對象存儲細分市場排名第二,僅次于華為,在專業軟件定義存儲廠商中已經連續4年排名第一,在塊存儲細分市場,排名第四。
產品
(1)整體產品架構:
(2)針對結構化數據的解決方案:
資料來源:XSKY星辰天合
優勢:針對x86和新的服務器生態,支持跨生態數據的無縫遷移。
xmotion:納管熱遷移技術-Zstack、OpenStack、CloudStack等云平臺。
提供面向虛擬機和租戶的存儲計算一體化遷移方案。
支持存儲在線熱遷移,業務無需終端。
(3)針對非結構化數據的產品方案:
資料來源:星辰天合
X3DS:立體數據管理系統,支持非結構化數據的復制、遷移、備份、歸檔。
支持跨廠商文件和對象存儲之間數據相互移動。
支持跨云的數據上云和下云。
(七)SMARTX志凌海納-超融合基礎架構
主要價值:
以簡潔的架構提供高可用方案。超融合由于其融合部署架構,可有效協調虛擬化和存儲高可用聯動的問題,從而以非常簡潔的架構提供不同級別的高可用方案。
產品架構圖示:
SMTX OS包括:
- SMTX ELF VM Service(計算)虛擬化管理平臺
- SMTX ZBS Distributed Block Storage分布式塊存儲系統
- SMTX Fisheye Web Console超融合管理平臺
- SMTX MultiActive Cluster雙活
- SMTX Backup異地容災備份
資料來源:志凌海納
SMARTX場景:交易系統、MES系統、HIS系統等核心場景。
優勢:高性能的超融合存儲軟件,軟件升級促進系統性能提升;核心系統需要遷移到超融合系統,硬件和軟件協同優化。
參考資料:
- 華西證券:企業級SSD:三大替代構筑行業高增長,國產替代空間廣闊
- 渤海證券:介質與架構升級并舉,企業級存儲市場騰飛在即
- 信通院:下一代數據存儲技術研究報告
作者:王圓珍
來源公眾號:光錐智能(ID:guangzhui-tech),前沿科技,數智經濟。
本文由人人都是產品經理合作媒體 @光錐智能 授權發布,未經許可,禁止轉載。
題圖來自Unsplash,基于 CC0 協議。
該文觀點僅代表作者本人,人人都是產品經理平臺僅提供信息存儲空間服務。
- 目前還沒評論,等你發揮!