一分耕耘,一分收获,来到千锋大数据培训的两个月里,深刻的认识到了这句话的真谛。
比起大学里吃喝玩乐,混日子,白白丢掉大把的光阴。在大数据培训班里的每一天都十分充实。每天依旧按部就班,却再也不是泡网吧,和朋友吃吃喝喝,刷夜吃鸡。从清早踏进教室的大门,到午夜时分,迎着月光回到寝室,每一天都仿佛是一场精神上的洗礼,脑子里装着满满的知识,整个人虽然非常疲惫,但此刻内心却无比的平静。
我想任何一个正常的成年人都会思考未来,哪怕曾经的我,日日虚度光景,午夜梦回之时也会经历内心的挣扎。有幸,我选择了千锋,这垂死挣扎的结果,是我赌赢了!
随着学习的节奏越来越快,每天没有多余的时间给我浪费,只有埋头苦学,才能追赶那些优秀的人。一分耕耘,一分收获,我的路还很长,肯付出便有希望,加油。
hdfs haadmin -failover 手动进行故障转移,在该模式下,即使现役,NameNode 已经失效,系统也不会自动从现役NameNode 转移到待机 NameNode,下面学习如何部署 HA 自动进行故障转移。自动故障转移为 HDFS 部署增加了两个新组件:
ZooKeeper 和 ZKFailoverController(ZKFC)进程。ZooKeeper 是维护少量协调数据,通知客户端这些数据的改变和监视客户端故障的高可用服务。HA 的自动故障转移依赖于ZooKeeper 的以下功能:
1) 故障检测:集群中的每个 NameNode 在 ZooKeeper 中维护了一个持久会话,如果机器崩溃,ZooKeeper 中的会话将终止,ZooKeeper 通知另一个 NameNode 需要触发故障转移。
2) 现役 NameNode 选择:ZooKeeper 提供了一个简单的机制用于唯一的选择一个节点为 active 状态。如果目前现役 NameNode 崩溃,另一个节点可能从 ZooKeeper 获得特殊的排外锁以表明它应该成为现役NameNode。
ZKFC 是自动故障转移中的另一个新组件,是 ZooKeeper 的客户端,也监视和管理
NameNode 的状态。每个运行 NameNode 的主机也运行了一个 ZKFC 进程,ZKFC 负责:
1) 健康监测:ZKFC 使用一个健康检查命令定期地 ping 与之在相同主机的NameNode,只要该 NameNode 及时地回复健康状态,ZKFC 认为该节点是健康的。如果该节点崩溃,冻结或进入不健康状态,健康监测器标识该节点为非健康的。
2) ZooKeeper会话管理:当本地 NameNode 是健康的,ZKFC 保持一个在 ZooKeeper中打开的会话。如果本地 NameNode 处于 active 状态,ZKFC 也保持一个特殊的 znode 锁, 该锁使用了 ZooKeeper 对短暂节点的支持,如果会话终止,锁节点将自动删除。
3) 基于 ZooKeeper的选择:如果本地 NameNode 是健康的,且 ZKFC 发现没有其它的节点当前持有 znode 锁,它将为自己获取该锁。如果成功,则它已经赢得了选择,并负责运行故障转移进程以使它的本地NameNode 为 active。故障转移进程与前面描述的手动故障转移相似,首先如果必要保护之前的现役 NameNode,然后本地 NameNode 转换为 active 状态。
以上是最近学习所做总结,路漫漫其修远兮,吾将上下而求索。希望以我的例子借鉴那些尚有理智的朋友,浪子回头,亦可直走巅峰。人生的路很长,此刻放下贪恋,创造你的人生价值,不晚。
千锋大数据培训课程首先从宏观上讲述了大数据的特点,商业应用,发展和职业前景。然后对主流数据技术和生态圈进行了介绍,了解其他和大数据技术之间关系,然后对不同类型的大数据的分析和处理系统,解决方案和行业案例进行剖析和讲解。
此外,想要学习大数据的同学,可以先参加千锋大数据培训两周的预科班,全程都是免费试听的,先看自己适不适合学习再做接下来的准备更加万无一失不是?