傅杰:集團化企業(yè)開放數(shù)據(jù)平臺的構(gòu)建之路
2013年4月26日-27日,由51CTO傳媒集團旗下WOT(World Of Tech)品牌主辦的2013大數(shù)據(jù)全球技術峰會在北京富力萬麗酒店召開。本次峰會將圍繞大數(shù)據(jù)基礎架構(gòu)與上層應用的生態(tài)系統(tǒng),解決大規(guī)模數(shù)據(jù)引發(fā)的問題,探索大數(shù)據(jù)基礎的解決方案,激發(fā)數(shù)據(jù)挖掘帶來的競爭力,讓數(shù)據(jù)發(fā)出聲音。51CTO作為本次峰會的主辦方,將全程視頻、圖文直播報道這場數(shù)據(jù)的盛宴,更多內(nèi)容請點擊專題:2013大數(shù)據(jù)全球技術峰會。
在27日下午的互聯(lián)網(wǎng)與大數(shù)據(jù)專場中,優(yōu)酷土豆數(shù)據(jù)平臺架構(gòu)師傅杰發(fā)表了主題為“集團化企業(yè)開放數(shù)據(jù)平臺構(gòu)建之路”的演講。演講中,傅杰解析了開放數(shù)據(jù)平臺構(gòu)建的方法,并介紹了優(yōu)酷土豆集團的開放數(shù)據(jù)平臺。
優(yōu)酷土豆數(shù)據(jù)平臺架構(gòu)師傅杰
他談到,企業(yè)集團化帶來了物理孤島和邏輯孤島,物理孤島帶來重復造輪和資源浪費,邏輯孤島帶來數(shù)據(jù)關聯(lián)問題和數(shù)據(jù)標準問題。優(yōu)酷土豆解決物理孤島是從集中存儲、統(tǒng)一采集和開放計算的方式。他指出,要把Hadoop平臺開放出去,但要解決身份問題、數(shù)據(jù)權(quán)限問題、災備和安全問題,要保證Hadoop安全開放,要集成Kerheros,解決用戶身份認證問題;自定義用戶組;監(jiān)控報表;開放注冊用戶。
在建設過程中,也遇到了許多問題,例如,System out、機房遷移(jaas bug)、公平調(diào)度器故障、JobTracker堆棧滿等。
在解決邏輯孤島方面,是從數(shù)據(jù)易用,封裝數(shù)據(jù)服務,打造數(shù)據(jù)產(chǎn)品三方面入手,形成開放的數(shù)據(jù)平臺。
之后,傅杰介紹了優(yōu)酷土豆集團的開放數(shù)據(jù)平臺的具體情況,優(yōu)酷土豆的數(shù)據(jù)平臺輻射范圍包含推薦、搜庫、廣告、分層、運營、拍客、指數(shù),數(shù)據(jù)平臺的架構(gòu)、平臺的服務等。
以上是51CTO.com記者從一線為您帶來的精彩報道。后續(xù)我們還有更加精彩的獨家報道,敬請關注。