- 浏览: 349885 次
- 性别:
- 来自: 杭州
最新评论
-
penkee:
为何我启动 zookKeeper bookie 10 不能创 ...
bookkeeper安装及测试体验 -
Golden-jin:
1楼也好时髦呀
bookkeeper简单分析 -
xGss2000:
要是减少到300个 region,block就0.04s了。话 ...
多region下的hbase写入问题 -
brandom520:
请问lz,我从hbase0.94版本上的数据导入到0.96.1 ...
在不同版本hdfs集群之间转移数据 -
huanghaifeng1990:
您好,我想请问一下,我执行了会发生OOM溢出的Deflater ...
perftools查看堆外内存并解决hbase内存溢出
master启动过程:
-->首先初始化HMaster
-->创建一个rpcServer,其中并启动
-->启动一个Listener线程,功能是监听client的请求,将请求放入nio请求队列,逻辑如下:
-->创建n个selector,和一个n个线程的readpool,n由"ipc.server.read.threadpool.size"决定,默认为10
-->读取每个请求的头和内容,将内容放入priorityQueue中
-->启动一个Responder线程,功能是将响应队列里的数据写给各个client的connection通道,逻辑如下:
-->创建nio selector
-->默认超时时间为15 mins
-->依次将responseQueue中的内容写回各通道,并关闭连接
-->buffer=8k(代码写死)
-->如果该请求的返回没有写完,则放回队列头,推迟再发送
-->对于超时未完成的响应,丢弃并关闭相应连接
-->启动N(n默认为10)个Handler线程,功能是处理请求队列,并将结果写到响应队列
-->读取priorityQueue中的call,调用对应的call方法获得value,写回out并调用doRespond方法,处理该请求,并唤醒writable selector
-->启动M(m默认为0)个Handler线程以处理priority
-->注册zookeeper watcher
-->block直至成为active master
-->先检查配置项"hbase.master.backup",自己是否backup机器,如果是则直接block直至检查到系统中的active master挂掉(默认每3分钟检查一次)
-->否则,注册zookeeper watcher,如果注册成功则成为active master,否则阻塞并反复通过watcher检查在运行的master是否挂掉或stop状态
-->进入finishInitialization()函数并初始化master:
-->先检查hbase版本,如果是第一次启动hbase,则将版本信息写入/hbase/hbase.version,如果下次启动时这个文件不存在,则无法启动!如果不小心删掉了必须自己写一个版本 信息上去
--> 检查和保证root region的完好,如果root region还不存在,则创建root region以及第一个meta region
-->创建HConnectionImplementation实现的连接
-->创建server manager,后续绝大部分master工作都是通过server manager完成的
-->创建并启动CatalogTracker线程,用以跟踪root和meta两个特殊table的状态,它内部又启动RootRegionTracker和MetaNodeTracker两个线程
-->创建并启动RegionServerTracker线程,用以跟踪所有online region的状态,一旦有node delete状态则会通知server manager将其注销
-->创建并启动ClusterStatusTracker线程,用以跟踪整个cluster的up和down状态
-->向zookeeper注册AssignmentManager,用以管理region的分配
-->创建线程池ExecutorService,在其中运行以下线程
MASTER_META_SERVER_OPERATIONS
MASTER_SERVER_OPERATIONS
MASTER_CLOSE_REGION
MASTER_OPEN_REGION
MASTER_TABLE_OPERATIONS
--> 以守护方式运行LogCleaner线程,作用是每1分钟清理(.oldlogs)目录
--> 启动一个http server:InfoServer,作用是在60010端口上提供界面展示
--> 允许在初始化HMaster类时启动的Handler线程开始提供响应(通过开关标志)
-->然后master需要等待regionserver的报告,满足以下这些条件后返回当前所有region server上的region数后继续:
a 至少等待4.5s("hbase.master.wait.on.regionservers.timeout")
b 成功启动regionserver节点数>=1("hbase.master.wait.on.regionservers.mintostart")
c 1.5s内没有regionsever死掉或新启动("hbase.master.wait.on.regionservers.interval")
-->然后splitLogAfterStartup,从hlog中恢复数据,这是一个很长的逻辑:
-->依次检查每一个hlog目录,查看它所属的region server是否online,如果是则不需要做任何动作,region server自己会恢复数据,如果不是,则需要将它分配给其它 的region server
-->split是加锁操作:
--> 创建一个新的hlogsplitter,遍历每一个server目录下的所有hlog文件,依次做如下操作。(如果遇到文件损坏等无法跳过的错误,配 置"hbase.hlog.split.skip.errors=true"以忽略之)
-->启动"hbase.regionserver.hlog.splitlog.writer.threads"(默认为3)个线程,共使用128MB内存,启动这些写线程
-->先通过lease机制检查文件是否能够append,如果不能则死循环等待
-->把hlog中的内容全部加载到内存中(内存同时被几个写线程消费)
-->把有损坏并且跳过的文件移到/hbase/.corrupt/目录中
--> 把其余己经处理过的文件移到/hbase/.oldlogs中,然后删除原有的server目录
--> 等待写线程结束,返回新写的所有路径
-->解锁
写线程逻辑:
-->从内存中读出每一行数据的key和value,然后查询相应的region路径。如果该region路径不存在,说明该region很可能己经被split了,则不处理这部分数 据,因为此时忽略它们是安全的。
-->如果上一步能查到相应的路径,则到对应路径下创建"recovered.edits"文件夹(如果该文件夹存在则删除后覆盖之),然后将数据写入该文件夹
-->完成split Hlog的操作后,开始分配root和meta表:
-->分配root表:
-->block住直到root的region server从transaction状态中恢复正常
-->检查root的region server在zookeeper中是否己经有值并且正常可访问,如果不正常或没有则删除原有节点再重新分配(随机分配)
--> 分配meta表:
-->过程同root表的分配
-->如果启动后online的region servers上的regions总数为0,则表示这是个fresh start,清除掉zookeeper上的所有节点,重新开始watching
--> 开始分配user表
-->扫描meta中的所有表,依次分配,分配方案如下:
-->如果"hbase.master.startup.retainassign"为true(默认为true),则分配时按meta表中原有的信息来分配,即原来在哪里就还分到哪里,如果哪个region在原有的 server info中找不到所属的region server则从online region server中随机挑选
-->否则随机循环添加region,会保证balance
-->分配方案设计好后,开始执行分配的线程,默认超时时间10分钟
-->如果启动后online的region servers不为0,则表示很可能master挂掉过,可能是重新启动的。此时系统中己有region servers了,需要先处理region server上的regions:
-->转入processFailover处理流程
-->先调用rebuildUserRegions函数,它扫描.META.表,更新所有的server和对应的regionInfo信息,找出offline的server,加入deadServers
-->处理deadServers
-->遍历所有的region,在zk上创建它们的node,把它们加入transition和unassign列表,并置状态为offline
-->调用ServerShutdownHandler的processDeadRegion方法,处理所有dead regions
-->跳过所有disabled的table对应的region
-->查看该region是否己经split,如果是,需要fix它的子region
-->查看子region的info是否找不到了,如果是的话修补之(即重新将meta表中的region信息添加进来并assign它)
-->然后扫描zk中的transition列表,对不同的事件做不同处理
-->RS_ZK_REGION_CLOSING:将它简单添加到regionsInTransition队列中
-->RS_ZK_REGION_CLOSED:将它添加到regionsInTransition队列中并且创建一个ClosedRegionHandler线程去处理它
-->ClosedRegionHandler流程:
-->按root/meta/user region分优先级
-->如果这个region对应的table己经disabled或disabling,那么下线它并返回
-->下线这个region,然后再将它分配给一个server(不太明白为什么此时需要assign一次)
-->M_ZK_REGION_OFFLINE:同上
-->RS_ZK_REGION_OPENING:将它简单添加到regionsInTransition队列中
-->RS_ZK_REGION_OPENED:将它添加到regionsInTransition队列中,如果它对应的原来的RS还存在,则创建一个OpenedRegionHandler线程来处理,否则不处理,等待meta扫描时去分配它
-->OpenedRegionHandler流程:
-->按root/meta/user region分优先级
-->先删除zk中己经打开的对应的node
-->上线这个region
-->如果这个region对应的table己经disabled或disabling,那么unassign它
--> 启动balancer线程并放入守候线程,默认循环时间为300秒
-->balancer线程的作用是定期均衡所有region server上的region数量,工作过程如下:
-->三种情况不进行balance:
-->balance开关没有打开(硬编码打开了)
-->有至少一个region正处于regionsInTransition状态(split结束但还没有清除)
-->有正在下线处理的region server
--> 制定出balance计划:
-->计算总的region数目,以及online server数量,每个server的region数目都会均衡到平均数。
-->执行balance计划:
--> 将执行计划放入assignment的执行计划列表
-->检查该region是否又进入了transaction状态,如果是则跳过
-->将该region置为pending_close状态
--> 向region server发送close region的信号
--> 真实执行计划在其它时候(下一篇文章介绍)
-->启动meta扫描线程并放入守候线程,默认循环时间为300秒
--> meta扫描线程的作用是定期清理己经split的region并将它删除,工作过程如下:
--> 连接meta server,scan表的info信息,扫描所有region,从region info中读出是否split的信息
-->如果己经split,则先获取splitA和splitB的region info
-->如果splitA和splitB的reference都不再指向父region了(从它们的regionPath可以得出),则将父region删除掉,删掉流程如下:
--> 将region的状态置为offline
-->将该region从regionsInTransition中删除掉
--> 将该region从regionPlan中删除掉,避免再进行balance之类的操作
-->将该region的region info从AssignmentManager的regions树中以及AssignmentManager中存放的每个servers中删掉
-->删除meta表里的该region的目录
-->通知meta region server删除该region
启动完成
发表评论
-
lease引发的血案
2011-12-19 23:01 6113今天线上出现了一个故障惊出一身冷汗,经过查明原来是lease引 ... -
hbase写被block住的典型案例分析
2011-11-10 22:32 5879今天一个线上集群出现莫名奇妙不能写入数据的bug,lo ... -
在不同版本hdfs集群之间转移数据
2011-10-26 18:56 7143本文仅供记录一下程序心得: 很多人会有这样一个需求:将 ... -
hbase中的deleteColumn
2011-10-26 16:59 5105Delete类的接口有两个方法:deleteColum ... -
splitlog期间丢失数据的问题
2011-10-18 22:26 3651splitlog是保证在重启或rs挂掉后,恢复hlog ... -
hbase中多次加载root及meta的bug
2011-10-18 22:24 3118执行以下case可以见到root或meta被加载两次: ... -
两次hbase丢失数据的故障及原因分析
2011-10-18 18:12 16588hbase的稳定性是近期社区的重要关注点,毕竟稳定的系 ... -
hbase中regionserver常见的oom原因分析
2011-09-15 10:40 8969首先要清楚reginserver中内存是如何使用的。 ... -
hbase的export与import工具
2011-09-01 08:01 11234hbase提供了导出表的方案,将指定的表导出到HDFS ... -
disable table失败的处理
2011-08-30 20:02 4287相信每一个维护hbase集群的运维人员一定碰到过dis ... -
使用zookeeper管理多个hbase集群
2011-08-16 15:30 18074zookeeper是hbase集群的"协调器 ... -
一次奇异的getRegionInfo异常定位
2011-08-10 19:55 2479今天在线上环境的 ... -
多region下的hbase写入问题
2011-08-10 13:13 9197最近在集群上发现hbase写入性能受到较大下降,测试环 ... -
hbase上应用lucene创建索引及检索
2011-07-21 17:14 11527hbasene(https://github.com/ ... -
hbase-0.90.4的主要更新
2011-07-15 22:15 2768apache邮件列表中提 ... -
hbase中缓存的优先级
2011-06-15 16:30 4081今天同事问到hbase中in-memory属性的作用, ... -
hbase交流记录
2011-06-02 10:34 3489前几天和公司的同事杨传辉(http://www.nosqlno ... -
secondary index for hbase
2011-05-07 23:05 5742最近因为业务需求 ... -
hdfs上的append测试
2011-05-04 23:42 6479hbase在写入数据之前会先写hlog,hlog目前是se ... -
hbase写入性能影响续
2011-04-18 15:28 10549今天发现hbase在写入一张新表时,写入过程中时常会出 ...
相关推荐
【No0057】HBase源码解析与开发实战
hadoop2.x、Hive、HBase源码解析+企业级应用视频,本人花钱买的视频,全部的还没有看,如果感觉老师讲的不好,请不要碰我,谢谢
HBase源码分析,详细的源码分析,专业的知识分析,绝对难得
主要针对那些架构师及开发人员而设计,希望他们能更好地理解大数据应用程序的部署。在这之前,你应该具备基本的Hadoop知识,包括所需组件的设置以及成功安装过Hadoop集群,我们不会在Hadoop的配置或NodeManager功能...
hadoop hbase源码包 稳定版hbase-0.94.4.tar.gz
HBase实战 hbase in action 源码
hbase是一个开源的数据库,主要用于大数据集的分布式存储,本身是hadoop的一个子项目,区分于传统的数据库,它是按列存储的
Hbase权威指南 随书源代码 源码包 绝对完整版 maven工程,带pom文件,可以直接作为一个完整工程导入eclipse等ide。
HBase源码(hbase-2.4.9-src.tar.gz)是一个分布式的、面向列的开源数据库,该技术来源于 Fay Chang 所撰写的Google论文“Bigtable:一个结构化数据的分布式存储系统”。就像Bigtable利用了Google文件系统(File ...
主要介绍了基于springboot集成hbase过程解析,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
HBase源码分析与开发实战视频技术讲解高阶视频教程以及课件,内部讲解资料 内容非常详细 值得想要提高薪水的人去学习了解
Hbase1.3.1源码
hive编译,jars,HBaseScanner构建.pptx,HBase之RegionServer命令启动流程.pptx,扩展.docx,尚硅谷大数据技术之HBase.xmind,尚硅谷大数据技术之HBase.pdf等等 很全。
hbase权威指南源码
hbase-0.98.1-src.tar.gz hbase 0.98源码包
HBase架构解析——维基百科[归纳].pdf
hbase源码分析,了解hbase原理和api的简单实用。
hbase源码带中文注释,看着不费劲,学着不累!