Apache HBase 问题排查思路
作者:范欣欣 来源:Hadoop技术博文
本文来自于中国 HBase 技术社区在杭州举办的第三次 HBase Meetup 会议,第四次 HBase Meetup 会议将于本周六(2018-09-08)在上海举办。详情请点击:中国HBase技术社区第四届MeetUp上海站——HBase应用实践专场
HBCK - HBCK检查什么?
(1)HBase Region一致性
集群中所有region都被assign,而且deploy到唯一一台RegionServer上
该region的状态在内存中、hbase:meta表中以及zookeeper这三个地方需要保持一致
(2)HBase 表完整性
对于集群中任意一张表,每个rowkey都仅能存在于一个region区间
HBCK – 常用检查命令
./bin/hbase hbck
./bin/hbase hbck –details
./bin/hbase hbck TableFoo TableBar
HBCK - 局部低危修复
-fixAssignments :修复没有assign、assign不正确或者同时assign到多台RegionServer的问题region。
-fixMeta :主要修复.regioninfo文件和hbase:meta元数据表的不一致。修复的原则是以HDFS文件为准:如果region在HDFS上存在,但在hbase.meta表中不存在,就会在hbase:meta表中添加一条记录。反之如果在HDFS上不存在,而在hbase:meta表中存在,就会将hbase:meta表中对应的记录删除。
HBCK –高危修复
region区间overlap相关问题的修复属于高危修复操作,因为这类修复通常需要修改HDFS上的文件,有时甚至需要人工介入。
对于这类高危修复操作,建议先执行hbck -details详细了解更多的问题细节,再执行相应的修复命令
-repair|-fix 命令强烈不建议生产线使用
HBCK –案例
RIT处理套路
套路一:pending_open(或pending_close)状态的region通常可以使用hbck命令修复
套路二:failed_open (或failed_close)状态的region通常无法使用hbck命令修复
套路三:failed_open (或failed_close)状态的region需检查日志确认region无法打开关闭的具体原因
套路四:region处于RIT状态但hbck显示正常,把zk上的region-in-transaction节点相关region删除,重启master
HBase-日志分析
监控分析只能告诉你可能是什么原因,间接原因
日志分析才能告诉你问题的精确原因,最直接原因。
一般的问题都能在日志中找到直接原因,再根据原因找答案。
通过日志分析可以弄清楚事情的来龙去脉,监控不会告诉你那么多
下面是本次会议的全部PPT,完整PPT下载请到 http://hbase.group/?/article/52 这里下载。
时间:2018-09-21 00:25 来源: 转发量:次
声明:本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,转载的目的在于传递更多信息及用于网络分享,并不代表本站赞同其观点和对其真实性负责,不为其版权负责。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
相关文章:
- [数据挖掘]大数据关键技术浅谈之大数据存储及管理
- [数据挖掘]HBase数据迁移到Kafka?这种逆向操作你懵逼了吗?
- [数据挖掘]Apache2019年度报告出炉,HBase、Flink、Beam成最活跃
- [数据挖掘]PinalyticsDB:基于HBase的时间序列数据库
- [数据挖掘]PinalyticsDB:基于HBase的时间序列数据库
- [数据挖掘]HBase 2.0 在时序数据存储方向的应用
- [数据挖掘]数据中台是“一把手”工程,动组织肯定会有矛盾
- [数据挖掘]数据中台之结构化大数据存储设计
- [数据挖掘]图解HBase--大数据平台技术栈
- [数据挖掘]快手HBase在千亿级用户特征数据分析中的应用与实
相关推荐:
网友评论: