偷偷摘套内射激情视频,久久精品99国产国产精,中文字幕无线乱码人妻,中文在线中文a,性爽19p

Facebook分享:解決Hadoop的單一故障點

譯文
系統 Hadoop
Facebook的工程師們開發(fā)出了一種方法,以規(guī)避Hadoop數據分析平臺的一個根本缺點:只依賴單單一臺名稱服務器來協調所有運營。Facebook估計,如果可以克服這個缺點,就能將其數據倉庫的停機時間縮短幾乎一半。為了解決這個問題,Facebook開發(fā)出了一款名為Avatarnode的軟件:萬一主名稱節(jié)點由于某種原因而失效,該軟件就會切換至備用名稱節(jié)點。

【51CTO快譯】Facebook的工程師們開發(fā)出了一種方法,以規(guī)避Hadoop數據分析平臺的一個根本缺點:只依賴單單一臺名稱服務器來協調所有運營。

在本周于加利福尼亞州圣何塞召開的Hadoop峰會上,Facebook工程師Andrew Ryan討論了這種變通方法。他還在Facebook上發(fā)布了其演講的摘要內容。

Facebook擁有可能是世界上規(guī)模最龐大的基于Hadoop分布式文件系統(HDFS)的數據集,總共超過100PB,散布于其諸數據中心的100個不同的集群之間。

盡管Hadoop越來越經常用于大規(guī)模數據分析任務,但是用專業(yè)的話來說,它存在單一故障點。雖然部署的Hadoop系統可能橫跨數百臺、乃至數千服務器,但是整個運營依賴一臺叫做名稱節(jié)點(namenode)的單一服務器,負責協調諸數據節(jié)點之間的所有流量。要是這一個名稱節(jié)點停止運行,那么諸數據節(jié)點就無法通信,整個系統將停止運行。

Facebook估計,如果可以克服這個缺點,就能將其數據倉庫的停機時間縮短幾乎一半。

為了解決這個問題,Facebook開發(fā)出了一款名為Avatarnode的軟件:萬一主名稱節(jié)點由于某種原因而失效,該軟件就會切換至備用名稱節(jié)點。在這種架構中,每個數據節(jié)點會向主名稱節(jié)點和備用名稱節(jié)點定期發(fā)送***數據。萬一主名稱節(jié)點停止運行,那么備用名稱節(jié)點就會頂上來,繼續(xù)運行。這款軟件以詹姆斯•卡梅隆執(zhí)導的影片《阿凡達》命名,它依賴Hadoop Zookeeper配置管理工具。

這家公司將阿凡達節(jié)點作為一款開源軟件來提供,希望Hadoop管理員們能夠得益于使用該軟件。Facebook早在2010年發(fā)布了該軟件,后來被用于處理該公司的生產任務。

Ryan寫道:“如今,阿凡達節(jié)點在運行我們Facebook內部要求***的生產工作負載,它會繼續(xù)大幅提升HDFS集群的可靠性和可管理性。展望未來,我們會努力進一步改進阿凡達節(jié)點,并且將它與一種可以自動安全地進行故障切換的通用高可用性框架集成起來。”

不止Facebook這一家公司在試圖解決Hadoop存在的這個問題。MapR和Cloudera的Hadoop發(fā)行版同樣都隨帶冗余的名稱節(jié)點功能。

原文:Facebook tackles Hadoop Achilles' Heel

 

責任編輯:yangsai 來源: 51CTO.com
相關推薦

2012-07-03 11:38:32

FacebookHadoop

2011-09-01 10:59:49

Foodily菜譜

2013-04-19 09:14:12

BYOD網絡解決方案

2013-01-08 10:06:43

創(chuàng)業(yè)創(chuàng)業(yè)方法

2021-07-26 12:10:37

FacebookMySQL 8.0數據庫

2011-11-30 09:26:25

項目管理

2021-05-12 09:15:48

Facebook 開發(fā)技術

2012-11-14 09:20:00

大數據PrismHadoop

2011-08-29 10:15:13

FacebookHadoopHBase

2009-12-22 15:25:23

2011-12-02 09:39:22

項目管理

2011-05-06 10:32:06

硬盤鍵盤

2013-02-21 12:32:20

2013-05-03 13:45:42

KVM故障調試

2017-02-28 09:48:30

2018-10-09 15:00:43

Hadoop分布式架構

2024-03-18 09:10:00

死鎖日志binlog

2013-11-28 09:35:57

Facebook開放計算交換機

2010-02-22 10:16:39

獨立服務器問題訪問故障

2018-06-22 11:00:32

傳統硬件故障
點贊
收藏

51CTO技術棧公眾號