GreenPlum安装笔记-图文
2022/6/1322:51GP架构_1与GreenPlum类似的产品:IBMNITIZA(国内没人用)Terndata
2007年被EMC收购
MPP架构:海量并行处理MaivelyParallelProceing
harenothing模式,每一个节点不进行资源共享,集中每个节点有独立的CPU、内存、存储、总线等。
SMP架构:ymmetricmaproceing对称多处理系统:耦合的多处理系统,共享总线、内存、IO资源,传统的ORCKLE,DB2是非常典型的产品
ORACLE_RAC处于半共享状态,各节点连接共享存储,所以不能算MPP
GP增加BI和数据仓库的支持:A、外部表、并行加载(优势明显)B、资源队列管理的优化,对角、用户、组进行资源优化分配,管理。C、GP在查询优化器的增强、分布支持、分区表、执行计划的优化、空间回收、数据分析,简化调优,架构时对称、数据分布均匀的
话,可以免去调优GP体系架构SegmentHotLANSegmentHotClientSegmentHotInterconnect-GigabitEthernetSwitchMaterHotSegmentHotMaterHot:访问系统的入口,所有请求都需要从MaterHot访问,正常来讲,管理员也不可以直接访问SegmentHot,系统中只允许直接访问MaterHot,单独操作SegmentHot影响一致性和完整性。数据监听进程(PotGre):监听用户请求。处理所有用户连接。建立执行计划,通过网络层分发给SegmentHot。协调整个处理过程,保证SegmentHot处理结果侧一致和同步。只存储GP系统自身的数据,MaterHot的数据是很小的,存储架构信息、配置信息。不包含任何用户数据。
greenplum数据库SegmentHot数据节点一些银行使用了60egmentHot节点,一天的交易数据,分布在不同的SegHot中,分布的逻辑由,我们建立数据仓库的时候指定的,比如:随机的、指定分布键,每个SegmentHot存储一部分用户数据。所有请求都来自MaterHot节点,有PotGre监听进程负责
2022/6/1323:15GP架构_2网络配置示例:alocallydefined192.168.LocalLAN/WANCatalyt2960某4200(MaterHot)iLOMe1000g3e
1000g2e1000g1e1000g5e1000g0e1000g4某4500(SegmentHot1,StandbyMater)iLOMe1000g3e1000g2e1000g1e1000g5e1000g0e1000g4某4500(SegmentHot2)iLOMe1000g3e1000g2e1000g1e1000g0SMC8748MSMC8748M172.16.0172.16.1172.16.2172.16.3
某4200/4500、网口主槽:e1000g0-e1000g3;网口扩展槽e1000g4/5;iLOM串口
SegmentHot2没有使用网口扩展槽,原因是SegmentHot2只是用户数据节点,而SegmentHot1既是用户数据节点,又是MaterHot的热备(tandby)节点,所以SegHot1需要使用网口扩展槽e1000g4/5
扩展槽e1000g4/5连接广域网(用户网络),与用户连接
4网口主槽连接交换机个4个VLan:每个SegHot上面的会有多个Segment实例,假如每个实例都对应一个自己的网口,而且每个节点都有一个主网口连接到千兆交换机划分的虚拟网络上,例如所有节点的e1000g3都连接到Vlan:172.16.0.某,不同的网口都在不同的局域网中,所以相同SegmentHot节点上的实例不会有网络带宽的竞争,使得数据访问更迅速。
iLON与catalyt2960交换机相连接,用于管理员连接登陆各节点,管理个服务器节点。在生产环境中,Mater\\Segment节点的网口都会在6个以上,通过一个或多个交换机,将
各节点的网口,分组连接到不同的网段中,保证带宽的和高可用性。
Segment节点是没有公网出口的,Mat节点需要扩展网槽,连接到公网中。
网络交换机的冗余和高可用性:增加一个冗余交换机,MatHot与Segment节点的网口分成两组分别连接到两台内网交换机上,例如各节点的e1000g0/1都连接到交换机A,e1000g2/3都连接到交换机B上,当A交换机宕机,各节点可以暂时通过B交换机的e1000g2/3网口进行连接和通信,提高了交换机及网路的高可用性
Synchproce同步MatHot上面发生的任何改变到tandbymater节点上,Matintance坏掉,tandbyMater接管,避免单点故障。
3Segmenthot都含有PrimarySegment,每个egmentHot都交叉备份其他egment节点的primarySegment。Segment通过镜像交叉备份,实现高可用性。
通过ynchronizationproce实现catalog(数据字典信息)、tranactionlog(事物日志)从Mater节点同步到tandbymater节点上。
Primary和tandby部署在不同的物理节点上。
Synchronizationproce不会频繁同步,primarymater节点上的数据的改变不会立刻同步到tandbymater节点上
Standbymater不能自动接管故障Primarymarter,需要人工激活,激活前可以指定另外一个tandbymater节点。
一般情况,egmentN的镜像放在前一个物理egment节点上,如egmentN上存放egment1的镜像。
当一个egment的一个节点宕机,可以有两种恢复方式,镜像只读,镜像可读写。例如,镜像只读,当egment1的网络异常宕机,可以在不停止整个GP系统的情况下,修复网络后,直接将原来的egment1节点接入GP系统。
假如,镜像可写,需要关闭GP系统进行修复。
实际应用中,Segment主机少则8-10台,多则上百普通的某86的服务器,多核心CPU,4G内存有条件的情况下,一个egmentintance应该独享一个CPU核心,适当的内存(8Gbi以上RAM),独立的存储(磁盘)、独立的网口,以保证减少数据竞争。如果条件不允许,也可以共享存储,但是最好有独立的CPU和网口。
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论