华泰证券是国内头部知名券商,鹏云网络基于ZettaStor DBS,帮其构建了一套“云原生分布式数据服务平台”,并提供了一个统一的资源使用视图,让容器环境对存储资源的使用情况一目了然,便于管理。该平台解决方案主要帮助华泰证券带来如下收益:
1、技术路线与云原生平台相一致,满足系统架构先进性及不断演进的要求;
2、高可用、高可靠,满足金融行业严格要求,为云原生平台承载关键业务铺平道路;
3、跟随容器生命周期的全自动存储资源调配,快速敏捷,加速业务上线;
4、深度集成,提供容器环境对存储资源利用的统一视图,简化管理。
一、行业背景
应用系统的云原生化已经成为主流趋势,容器平台在企业IT基础架构中的地位将越发重要,其所承载的有状态应用以及核心关键业务系统所占的比例也将不断提升。因此,必须为容器平台构建高效、稳定、敏捷的数据存储系统,来满足日益增长的业务数据持久化存储需求,为更多业务系统利用云原生架构优势创造必要条件,从而推动业务增长与持续创新。
软件定义架构的分布式存储是容器环境的理想选择,相比基于控制器架构的传统存储阵列,具有以下优势:
1.与云计算数据中心技术路线相一致的系统架构。“标准化服务器+通用IP网络+软件定义”是云计算数据中心的主流建设模式,软件定义存储的架构与之相匹配,使得数据中心能够以统一技术路线进行整体建设规划以及运维管理,并利于后续的技术升级换代。
2.灵活的横向扩展能力,敏捷的IT基础架构支撑能力。只需添加服务器节点即可按需扩展,采用标准服务器设备,缩短采购和建设周期,使得系统规模能够以最小成本和最快速度精准建设与扩容,敏捷应对业务侧对存储资源的需求。
3.远超传统存储的数据存储规模和IO性能。数据分布式存储,数据访问分布式处理,增加服务器节点即可实现容量和性能的同步增长。可支持超大集群规模,实现海量数据存储规模和高并发IO性能,远超传统存储。
4.免迁移的系统设备升级换代。传统存储软硬一体,设备的硬件更新需要进行数据迁移,难度大、周期长、风险高,影响生产。而分布式存储则软硬解耦,不需要迁移数据,即可在线实现硬件更新或软件升级,便捷、可靠、不影响生产。
二、方案架构
本方案采用鹏云网络完全自研ZettaStor DBS分布式存储系统,基于软件定义技术,利用标准经济型服务器和IP网络来构建统一的资源池,为容器环境提供存储资源服务。
1.设备层。采用标准机架式服务器,均配置一定数量的本地硬盘,经IP网络进行连接;
2.存储层。在每台服务器上部署ZettaStor DBS分布式存储软件,将这些服务器上的本地硬盘整合为一个虚拟化的存储池,聚合容量与IO性能,提供高可用及高可靠能力以及各类企业级存储功能;
3.接口层。基于iSCSI接口为服务器虚拟化或云计算环境提供存储资源服务;基于标准CSI接口与容器平台对接,实现存储资源的自动化调用;
4.应用层。在容器平台主机上部署ZettaStorDBS提供的CSI Plug-in,容器平台通过该插件与ZettaStor DBS存储系统进行通信,并请求存储资源。存储系统根据请求创建Volume,并基于iSCSI标准接口分配到容器平台主机,由容器平台统一提供给pod进行读写访问。
(解决方案架构图)
三、方案构成:
1.存储系统:
本方案采用鹏云网络完全自研的ZettaStor DBS分布式存储软件,以及标准化经济型服务器,为虚拟化及云计算环境构建统一存储平台。同时,鹏云也提供预集成、开箱即用的ZBOX分布式存储一体机产品,作为另一种可选的存储系统构建方案。
①ZettaStor DBS分布式存储软件。ZettaStor DBS以软件定义和分布式技术,把大量经济型标准服务器的内置存储整合成为一个大规横、高弹性、高可用、高可靠的存储资源池,具备丰富的企业级功能特性,满足企业对各类数据存储的需求。ZettaStor DBS为数据中心提供统一存储解决方案,帮助数据中心基础构架向“云”转型。
ZettaStor DBS提供一系列智能化手段抑制普通服务器硬件的相对不可靠,诸如智能故障处理机制、故障恢复过程无需人工干预,故障恢复时间<1S,故障处理过程业务无感知。还提供慢盘检测、慢节点检测、网络亚健康检测等自动化手段,更为精细化地主动侦测和排除部件对业务健康影响,使大规模分布式存储系统的高可用性得到充分保障。
②存储节点服务器。支持标准x86架构的服务器平台;支持基于飞腾、鲲鹏、龙芯、海光、兆芯、申威等处理器的国产化整机平台;对于厂商、品牌、型号等没有限制。
③ZBOX分布式存储一体机。ZBOX是一款以ZettaStor DBS软件为核心、与经过优化的标准服务器设备紧密集成,专为企业用户快速部署存储构架而设计的一体机设备。3台服务器起步,模块化设计、开箱即用,可快速构建企业所需的存储系统。
2.存储网络:
分布式存储系统的运行需要网络环境支持,通常由用户方提供。建议提供万兆网络环境,供客户端进行数据访问以及存储系统内部数据交互;同时需要提供千兆网络环境,承载存储系统内部的管理控制信息传输;为保障业务系统可用性,网络环境应采用全冗余架构进行设计。
四、典型应用场景
1.相对轻量型的、周边业务系统的数据库例如单机Oracle、MySQL,Postgres,MangoDB等,以及其他对于IO性能有一定要求的业务系统。此类应用一般要求存储系统能够提供5ms以内的IO延迟。“个体规模小、业务负载轻、总体数量多、位置分布散”是此类系统的特点,
采用分布式块存储的价值在于:
①使用集中存储或光纤存储的话,方案比较重,投入比较高,维护也复杂。采用分布式块存储能够有效规避以上不足。
②能够聚合大量硬盘及服务器的处理能力,实现较高的总体IOPS,应对高并发、分布式的IO访问。
③同时也具备高可用、高可靠能力,保障业务系统的稳定可靠运行。
2.中间件平台,例如kafka、redis、mango等,以及应用服务器、web服务器,或其他一般业务系统。此类应用一般要求存储系统能够提供10ms以内的IO延迟。块存储是应对此类场景的主流解决方案,相比文件存储有以下优势:
①对小IO的支持更好,而中间件主要是小IO;
②隔离性和QoS保障更好,这样对于中间件之间的相互影响可以更低;
③基于LUN的备份恢复粒度可以和容器的volume一一对应,管理粒度更精细化,有助于中间件的分级和精细化运维管理;
④相比较通用的NAS CSI,可基于定制CSI提供更强的可控性,可扩展支持更多高级存储能力,以适配未来更复杂的PaaS数据需求。
五、项目案例:华泰证券云原生分布式数据服务平台
1.项目背景。①华泰证券需要利用容器及云原生技术构建行业领先的金融科技平台;②需要为容器平台构建高效、稳定、敏捷的数据存储系统,满足有状态应用及关键业务系统承载需求;③本地硬盘、传统的SAN存储阵列或NAS等存在诸多不足,不适应云原生平台需求。
2.鹏云网络解决方案。①基于鹏云网络自主研发的ZettaStor DBS分布式块存储系统构建云原生数据存储服务平台;②通过标准CSI接口与Kubernetes平台进行无缝对接;③采用全闪存配置,为MySQL等数据库、Kafka等中间件平台提供高并发低延时的数据访问性能。
3.项目实施效果。①技术路线与云原生平台相一致,满足系统架构先进性及不断演进的要求;②高可用、高可靠,满足金融行业严格要求,为云原生平台承载关键业务铺平道路;③跟随容器生命周期的全自动存储资源调配,快速敏捷,加速业务上线;④深度集成,提供容器环境对存储资源利用的统一视图,简化管理。