HadoopHBase實現(xiàn)配置簡單的單機(jī)環(huán)境
在學(xué)習(xí)Hadoop的過程中,你可能會遇到HadoopHBase單機(jī)環(huán)境簡單配置問題,本節(jié)就和大家分享一下HadoopHBase單機(jī)環(huán)境簡單配置的方法,希望通過本節(jié)的介紹大家能夠掌握其方法。
HadoopHBase單機(jī)環(huán)境簡單配置教程
Hadoop是Apache的一個項目,它是一個實現(xiàn)了MapReduce計算模型的可以運(yùn)用于大型集群并行計算的分布式并行計算編程框架,當(dāng)然分布式計算離不開分布式存儲,Hadoop框架包含了分布式存儲系統(tǒng)HDFS(HadoopDistributedFileSystem),其存儲和數(shù)據(jù)結(jié)構(gòu)很類似Google的GFS.
HBase是Hadoop的子項目,它是基于HadoopHDFS分布存儲系統(tǒng)的一個GoogleBigTable開源實現(xiàn)(最近看了BigTable的Paper,很受鼓舞和啟發(fā)),它在存儲數(shù)據(jù)結(jié)構(gòu)上并非關(guān)系型,而是疏松分布式的,持久并按多維排序并索引的map型,下次我把介紹BigTable和HBase的文章轉(zhuǎn)載過來.
GoogleBigTable的paper:http://labs.google.com/papers/bigtable-osdi06.pdf
在初接觸HadoopHbase的時候,大多數(shù)技術(shù)人員只希望通過簡單的方法初步搭起框架環(huán)境,但我找了好多安裝手冊都是上來就部署集群分布環(huán)境(盡管做Hadoop就是為了這個目的),搭建集群環(huán)境的時候要設(shè)置ssh協(xié)議訪問權(quán)限,要生成訪問公鑰,并且slaves配置上的小錯誤也會導(dǎo)致整個部署問題重重,所以我在部署成功后記錄下最簡單運(yùn)行的standalone模式的安裝配置過程,希望初學(xué)者在需要的時候能找到這個小小的guide,以后有時間我會再把集群配置的方法寫出來.
開始:
1.在Apache/Hadoop項目的網(wǎng)站(hadoop.apache.org/)下載hadoophbase發(fā)行包,此處兩個發(fā)行包的大版本號一定要一致,譬如都是0.18版本:hadoop-0.18.2.tar.gzhbase-0.18.1.tar.gz
2.使用root身份登錄目標(biāo)服務(wù)器系統(tǒng)(Suse10Linux)
首先安裝java虛擬機(jī),這個比較簡單,隨便找個綠色的解壓就可以了,在這個例子里面我使用IBMWAS6.1附帶的jdk,它的home目錄是/opt/IBM/WebSphere/AppServer/java,我們只需要配置系統(tǒng)的環(huán)境變量就可以了.
編輯全局環(huán)境變量文件/etc/profile,在文件后面添加
exportJAVA_HOME=/opt/IBM/WebSphere/AppServer/java
exportPATH=$JAVA_HOME:$PATH
保存profile文件后使用$source/etc/profile命令重新加載profile,然后隨便在一個目錄下面運(yùn)行$java-version查看javahome環(huán)境變量和path變量是否被正確加載.
另外到/etc/hosts文件中查看主機(jī)映射是否存在,例如127.0.0.1localhost或者什么其他的名字,在這里默認(rèn)配置本機(jī)為localhost,如果需要做分布式的話,本機(jī)要做namenode,所以要把所有的datanode的host添加到這里面.
3.創(chuàng)建hadoop用戶,$useraddhadoop可以用$passwdhadoop修改hadoop用戶的登錄密碼.
4.創(chuàng)建hadoop用戶的home目錄,如果打算在別處安裝hadoop/hbase的話可以不這樣做,這里我們默認(rèn)將hadoophbase安裝在/home/${username}目錄下.
$cd/home
$mkdirhadoop
將目錄用戶指派給hadoop
$chownhadoophadoop
改變目錄權(quán)限,這里我們配大一些,其實只要644就足夠了:
$chmod755hadoop
5.使用hadoop用戶登錄系統(tǒng),將下載的兩個發(fā)行包文件傳到/home/hadoop目錄下面,然后給它們加上執(zhí)行權(quán)限:
$chmoda+xhadoop-0.18.2.tar.gz
$chmoda+xhbase-0.18.1.tar.gz
6.解壓hadoop:
$tarzxvfhadoop-0.18.2.tar.gz
這樣做會在/home/hadoop目錄下解壓hadoop發(fā)行包并創(chuàng)建到/home/hadoop/hadoop。本節(jié)關(guān)于HadoopHBase單機(jī)環(huán)境簡單配置內(nèi)容沒有介紹完整,請期待下節(jié)介紹。
【編輯推薦】