了解分布式(Distributed)系统数据存储的几个概念

今日头条
IT码将
分布式(Distributed)系统是若干独立计算机的集合,这计算机对用户来说就像单个相关系统。 分布式数据库是用计算机网络将物理上分散的多个数据库单元连接起来组成的一个逻辑上统一的数据库。每个被连接起来的数据...

分布式(Distributed)系统是若干独立计算机的集合,这计算机对用户来说就像单个相关系统。

分布式数据库是用计算机网络将物理上分散的多个数据库单元连接起来组成的一个逻辑上统一的数据库。每个被连接起来的数据库单元称为站点或结点。分布式数据库有一个统一

的数据库管理系统来进行管理,称为分布式数据库管理系统。

Hadoop是一个分布式系统基础架构,由Apache基金会开发。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力高速运算和存储。

HDFS(Hadoop Distributed File System)是Hadoop实现的一个分布式文件系统。它存储Hadoop集群中所有存储节点上的文件。对外部客户机而言,HDFS就像一个传统的分级

文件系统。可以创建、删除、移动或重命名文件,等等。但是HDFS的架构是基于一组特定的节点构建的,存储在HDFS中的文件被分成块,然后将这些块复制到多个计算机中

(DataNode)。这与传统的RAID架构大不相同。块的大小(通常为64MB)和复制的块数量在创建文件时由客户机决定。NameNode可以控制所有文件操作。HDFS内部的所有通信

都基于标准的TCP/IP协议。

HBase–Hadoop Database,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。HBase是Apache

的Hadoop项目的子项目。HBase不同于一般的关系数据库,它是一个适合于非结构化数据存储的数据库。另一个不同的是HBase基于列的而不是基于行的模式。Hadoop HDFS为HBase

提供了高可靠性的底层存储支持,Hadoop MapReduce为HBase提供了高性能的计算能力,Zookeeper为HBase提供了稳定服务和failover机制。此外,Pig和hive还为HBase提供了高层

语言支持,使得在HBase上进行数据统计处理变的非常简单。Sqoop则为HBase提供了方便的RDBMS数据导入功能,使得传统数据库数据向HBase中迁移变的非常方便。

Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件(例如xml)映射为一张数据库表,并提供完整的sql查询功能,可以将sql语句转换为MapReduce任务进行运行。

其优点是学习成本低,可以通过类SQL语句快速实现简单的MapReduce统计,不必开发专门的MapReduce应用,十分适合数据仓库的统计分析。

分库分表顾名思义,即把存于一个库的数据分散到多个库中,把存于一个表的数据分散到多个表中。

读、写分离的原理是将事务型操作(增、删、改)与非事务弄操作(读)分发到不同数据库实例上去执行。数据库实例之间要进行数据的主、从同步,往往写数据库实例为主数据

库;读数据库实例为从数据库。

数据库中间件(Distributed Database Middleware)是解决数据库容量、性能瓶颈和分布式扩展问题的中间件服务,提供分库分表、读写分离、弹性扩容等能力,应对海量数据的

高并发访问场景,有效提升数据库读写性能。

RPC的全称是Remote Procedure Call是一种进程间通信方式。它允许程序调用另一个地址空间(通常是共享网络的另一台机器上)的过程或函数,而不用程序员显式编码这个远程调用的细节。即无论是调用本地接口/服务的还是远程的接口/服务,本质上编写的调用代码基本相同。

比如两台服务器A,B,一个应用部署在A服务器上,想要调用B服务器上应用提供的函数或者方法,由于不在一个内存空间,不能直接调用,这时候需要通过就可以应用RPC框架的实现来解决。

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论