盧億雷:大數據分布式系統(tǒng)并行設計與I/O優(yōu)化
原創(chuàng)2013年4月26日-27日,由51CTO傳媒集團旗下WOT(World Of Tech)品牌主辦的2013大數據全球技術峰會在北京富力萬麗酒店召開。本次峰會將圍繞大數據基礎架構與上層應用的生態(tài)系統(tǒng),解決大規(guī)模數據引發(fā)的問題,探索大數據基礎的解決方案,激發(fā)數據挖掘帶來的競爭力,讓數據發(fā)出聲音。51CTO作為本次峰會的主辦方,將全程視頻、圖文直播報道這場數據的盛宴,更多內容請點擊專題:2013大數據全球技術峰會。
在27日Hadoop生態(tài)系統(tǒng)及分布式架構設計專場論壇中,Carbonite China CTO&Architech 盧億雷發(fā)表了主題為“大數據分布式系統(tǒng)并行設計與I/O優(yōu)化”的演講。演講中,盧億雷介紹了分布式并行系統(tǒng)定義,分布式并行系統(tǒng)的特點和分布式并行系統(tǒng)的設計,并解析了單臺機器并行設計的方法,分布式并行I/O優(yōu)化的方法和單臺機器分布式化的設想。
Carbonite China CTO&Architech 盧億雷
他談到,分布式并行系統(tǒng)是多個系統(tǒng)的集合,子系統(tǒng)并行的相互作用,具有很好的依賴性和透明性,它具備高可靠性、高可用性、高擴展性、高性能和高性價比。其中,分布式并行架構須包含WEB集群、計算集群、DFS集群和DB集群。
在分布式并行系統(tǒng)設計模式方面,可用主從結構和全對等結構,其中主從結構更加簡單有效,結構清晰,但有單點失效問題,而全對等結構則無中心節(jié)點,不會出現單點失效,但很難保證數據一致性。
之后,盧億雷在現場分析了分布式文件系統(tǒng)、分布式服務架構、LVS的相關案例。
在單臺機器并行設計方面,需要考慮CPU、內存、磁盤、網卡、文件系統(tǒng)等因素。
分布式并行系統(tǒng)I/O優(yōu)化方面,可以從操作系統(tǒng)優(yōu)化,網絡I/O策略優(yōu)化,緩存策略優(yōu)化,同步鎖機制優(yōu)化,多路復用I/O優(yōu)化,TCP選項優(yōu)化、內存操作優(yōu)化等方面考慮。
以上是51CTO.com記者從一線為您帶來的精彩報道。后續(xù)我們還有更加精彩的獨家報道,敬請關注。









































