HA集群中如何判断ActiveNN

偶然的机会,想到一个问题,HA的集群中,客户端是如何得知Active NN的地址的?

阅读全文 »

交换机引起的hbase事故

最近我们的hbase集群(0.98)突然出现写入很慢的情况。折腾了好几天。

阅读全文 »

java豆知识

一些零散的java知识点。

阅读全文 »

DNS异常导致RM/NM进程挂掉

某天凌晨4点左右DNS异常导致测试集群RM进程挂掉。
这是个已知的bug:https://issues.apache.org/jira/browse/YARN-713

但后续发现所有NM进程也挂掉了,需要研究下是怎么回事。

阅读全文 »

HA failover与zookeeper超时

最近想到一个问题,在一个HA的集群当中,Active挂掉后,多久才会发生failover?
换言之,Active挂了后,多久才能发现?

阅读全文 »

hadoop豆知识

一些零散的知识点。

阅读全文 »

一些思考

大概1、2年前,看到某媒体评的互联网未来4个热点:云计算、大数据、社交、移动互联网。当年的热点现在怎样了?

阅读全文 »

8小时之外

近期的一些计划:

有些书早就买了,读了一半就放下了,打算重读下

  • Mahout in Action
  • 信息简史
  • 数学之美
  • 编程珠玑
  • Just for fun

胡乱总结下,一个码农的知识体系应该分几部分:

  • 理论:知道当然很好,不知道也无伤大雅。比如一些硬件相关的东西/操作系统原理/计算机网络/高级的算法/编译原理等等。毕竟不是搞理论研究的。不是说理论化不好,但过于理论化就是本末倒置。当年上学的时候没学好,不过书我还留着,有时间翻翻。
  • 基础:无论什么工作都会用到。例如Java/Python一些语言层面的细节、JVM原理、GC、基本的数据结构和算法、设计模式、Linux的基本概念、bash脚本等等。
  • 工具:因人、因工作而异,对我来说重要的工具包括git/maven/jira/IDE/Sublime,Linux下一些工具(vim/sed/awk/grep/top/netstat/lsof/strace/jstack等)。也包括常用的java类库(guava/slf4j/apache commons/junit/jackson/jodatime/jersey/jetty等),JDK自带的就更不用说了。
  • 系统:跟工作关系很大。对我而言就是hadoop生态系统(zookeeper/hdfs/mapreduce/yarn/hbase/hive/spark/storm)。还有kerberos(目前唯一官方支持的安全机制)。也包括一些在hadoop之上的应用,比如统计、推荐、数据挖掘、机器学习。

只是个大概的分类,肯定还有很多细节。
很多技术都没有列上去,但都能按这个方法归类。

理论/基础对所有人、所有工作都是一样的。
工具/系统看自己的工作方向,因人而异。

这是一个抽象层次由低到高的过程。
有这些知识作为基础,剩下的只需要积累经验了。

切记只取一瓢,技术是无穷尽的。(最近又对Node.js很感兴趣。。。)

同步hexo主题

上一篇文章中使用git在不同机器间同步。
主题作者一直在增加新功能,我偶尔会修改下主题的样式,如何应用到我自己的站点里?
其实就是git的submodule的用法。

以下操作在公司的pc上

1
2
3
4
5
6
7
8
9
10
11
12
# 首先clone我自己的repo
git clone ssh://foolbear@foolbear.me:8086/home/foolbear/git-repo/hexo-theme-next.git
# 添加一个github的remote
git remote add github git@github.com:iissnan/hexo-theme-next.git
# 将作者的一些更新合并到我自己的分支
git pull github master
git checkout foolbear
git merge master
# 肯定会有些冲突,解决冲突后commit
git commit -m "xxx"
# 修改后的foolbear分支push到我自己的repo
git push origin foolbear

以下操作在我自己笔记本上

1
2
3
cd themes/next
git pull
git checkout foolbear

概念上是很简单的,只是记录下。

《Just for fun —— Linus Torvalds自传》

Talk is cheap. Show me the code.

其实这本书大概一周前就读完了,只是一直懒得总结。
技术的书看多了,偶尔看看这种轻松愉快的调剂下,蛮好的。翻译的也不错。

阅读全文 »