偷偷摘套内射激情视频,久久精品99国产国产精,中文字幕无线乱码人妻,中文在线中文a,性爽19p

百度對象存儲系統(tǒng)的架構(gòu)與演進之路

原創(chuàng)
開發(fā) 架構(gòu)
由51CTO舉辦的WOT2016互聯(lián)網(wǎng)運維與開發(fā)者峰會上,來自百度資深工程師崔燦做了以 “百度對象存儲系統(tǒng)架構(gòu)與演進”為主題的演講。本文章是把本次分享干貨亮點整理成文字形式,呈獻廣大的用戶。

本文是WOT2016互聯(lián)網(wǎng)運維與開發(fā)者大會的現(xiàn)場干貨,  新一屆主題為WOT2016企業(yè)安全技術(shù)峰會將在2016年6月24日-25日于北京珠三角JW萬豪酒店隆重召開!

崔燦的演講主要圍繞為什么是對象存儲系統(tǒng)、百度開放云做了什么事、百度開放云云服務化的工作及挑戰(zhàn)以及云服務的未來等內(nèi)容展開。

[[167478]]

什么是對象存儲系統(tǒng)

什么是對象?對象是現(xiàn)實中實際存在的實體,有名字、數(shù)據(jù)和屬性。一般來說,一個對象生成之后就會永遠存在,不再作修改。在實際的系統(tǒng)中,一個MP3,一個視頻文件,一個日志文件一般都可以認為是對象,而對象存儲系統(tǒng)的重要使用場景也是在這類數(shù)據(jù)的存儲和訪問,比如說在線音樂視頻播放,日志存儲和處理等。

什么是存儲系統(tǒng)?存儲系統(tǒng)有可靠性、可用性、性能和價格四方面要求。這里崔燦主要介紹了存儲系統(tǒng)可靠性,一般存儲系統(tǒng)可靠性就是指數(shù)據(jù)不丟失。數(shù)據(jù)丟失產(chǎn)生的情況無非是磁盤壞掉、整個機器掛掉或整個機房直接掛掉等硬件故障。系統(tǒng)可靠性的決定因素有故障的容忍度和修復時間兩方面,對故障容忍度可以通過做一些冗余的方式來實現(xiàn)。修復時間各個系統(tǒng)實現(xiàn)不一樣。針對硬件故障,崔燦表示這么多年來,像交換機故障,磁盤故障,已經(jīng)趨于穩(wěn)定沒有太大進步的空間,是相對比較固定值。所以做系統(tǒng)就是怎么樣提高它對故障的容忍度和減少修復時間。

如何減少修復時間?一,和最開始這個數(shù)據(jù)放置是相關(guān)的,如磁盤故障或者是機器故障,如是兩塊磁盤互為備份,那修復時間取決于磁盤IO,就是一個磁盤量的數(shù)據(jù)全部拷到另一個磁盤,取決于單盤IO。如把它作一個分散放到所有的節(jié)點上去,好處在于恢復時可以從多個源到多個目的的磁盤上拷貝,這可以大大的減少修復的時間,相當于整個集群同時在拷貝一個磁盤上的數(shù)據(jù)。二,基于百度內(nèi)部多年經(jīng)驗,磁盤出現(xiàn)故障時間可根據(jù)大數(shù)據(jù)分析提前預測到,這也大大縮短了修復時間。

百度開放云做了什么事

把KV存儲開放出去

百度內(nèi)部的KV存儲系統(tǒng),采用3副本,能容忍單機故障,而且通過分布式修復以及磁盤故障預測,能大幅減少修復時間。百度開放云存儲把KV存儲開放出去,做一個對象存儲,這過程叫做商業(yè)化。崔燦表示,這個過程中遇到了兩大挑戰(zhàn):從用戶角度來看,一是用戶量增加,導致對用戶的幫助會降低,另外一方面直接面對大眾,可能會遭到惡意攻擊。從業(yè)務上來看,一方面是網(wǎng)絡環(huán)境發(fā)生變化,從內(nèi)網(wǎng)到公網(wǎng)。另外一方面對外部業(yè)務的增長并不可預期。

安全性、易用性和性能三角度應對挑戰(zhàn)

安全性。百度開放云存儲把KV存儲開放出去后,從數(shù)據(jù)和服務安全兩個角度做了改進。數(shù)據(jù)安全有三個層次,數(shù)據(jù)不丟(基于可靠存儲,多region, 多az來實現(xiàn)),數(shù)據(jù)不被非法訪問(基于ak, sk的用戶認證以及基于policy的權(quán)限認證),高級安全特性(Https,服務端加密等)。服務安全包括三個方面,用戶間互相影響(通過頻度 & quota服務),惡意攻擊(通過百度私有防攻擊系統(tǒng)以及運營商黑洞清洗來解決),機房地域故障(多region, 多az來解決)。

易用性。通過對用戶上云(網(wǎng)絡、硬盤導入),用戶使用(API、SDK、工具、ts支持、多種解決方案)及運維(按需使用、自動擴縮容、報表、日志、審計、監(jiān)控……)三個方面來提升用戶的使用體驗。

性能。主要對Http的性能作優(yōu)化,通過多并發(fā)的上傳下載,流量調(diào)度,CDN集成等多個方面來提升Http性能。

提供冷存儲、媒體云和數(shù)據(jù)分析三大解決方案

崔燦表示,百度云存儲從2015年四五月份一直到現(xiàn)在提供不同的解決方案,幫助不同的用戶來使用。第一個階段是內(nèi)部服務,第二個階段是一個可靠存儲,第三個階段整合百度內(nèi)部資源,如圖象處理、機器學習、視頻處理等東西,整合一些解決方案給用戶使用。

冷存儲。為把低成本存儲同時提供給內(nèi)部業(yè)務和外部開發(fā)者,百度云存儲做了冷備的解決方案。提供一個基本可用的,成本比之前低一倍,但可靠性不會低于之前可靠性的存儲系統(tǒng),就是和友商同等價格的情況下提供基本的在線服務。

媒體云。關(guān)于圖片和媒體處理,做視頻直播、點播、轉(zhuǎn)播可直接使用。因為百度內(nèi)部有成熟的方案,如做像手機屏幕的匹配、適配直接包裝,用戶只需要把數(shù)據(jù)存儲過來,再調(diào)到其他地方就可直接播放,來減少對媒體用戶使用的門檻。

數(shù)據(jù)分析。崔燦表示,百度是做搜索的,很多策略方面如機器學習,Mapreduce等都是非常成熟。所以可以針對用戶把百度內(nèi)部的機器學習,計算功能給整合進來。如用戶做數(shù)據(jù)處理或策略方面的事,只需要把數(shù)據(jù)上傳上來直接做數(shù)據(jù)處理。

百度開放云未來要做的事

崔燦表示,未來解決方案和存儲相關(guān)有四方面:一,繼續(xù)做冷備或一些歸檔等事。 二,做百度CDN資源結(jié)合,形成類似于存儲分發(fā),供給一些APP下載或者視頻播放的服務使用。三,百度內(nèi)部有相對多年媒體方面的資源積累,之后也會不斷的把百度內(nèi)部的技術(shù)包裝陸續(xù)公開出來。四,對于機器學習方面,會繼續(xù)不斷的把百度內(nèi)部的資源爆發(fā)出來。

【演講視頻】

http://edu.51cto.com/lesson/id-100746.html

http://edu.51cto.com/lesson/id-101079.html

【講師簡介】

[[167479]]

崔燦,百度開放云資深工程師,主要做百度開放云存儲工作,內(nèi)容有對象存儲、塊存儲和開放云CDN等。之前主要經(jīng)歷主要是分布式存儲和在線檢索兩部分。

責任編輯:王雪燕 來源: 51CTO
相關(guān)推薦

2016-04-15 13:45:48

2024-11-04 14:25:16

2018-03-27 10:06:26

對象存儲演進

2015-06-16 11:51:17

百度云NoSQLAtlas

2017-07-04 10:58:57

SAN存儲網(wǎng)絡存儲系統(tǒng)架構(gòu)

2016-08-16 17:44:19

華為

2012-03-23 12:12:37

百度開發(fā)者大會

2012-03-21 17:30:21

百度架構(gòu)師

2013-06-27 10:23:30

百度云百度開放云

2014-07-25 17:12:39

數(shù)據(jù)庫WOT2014MongoDB

2018-11-21 10:21:55

CephSwift存儲系統(tǒng)

2018-09-06 18:37:45

百度云

2013-08-22 17:08:50

2013-12-24 13:43:48

百度360BAT

2024-02-27 07:27:58

云原生推薦系統(tǒng)架構(gòu)云原生技術(shù)棧

2017-07-10 09:02:24

NAS存儲云存儲

2023-06-08 05:58:28

數(shù)據(jù)庫糾刪碼技術(shù)

2015-03-04 09:39:31

對象存儲系統(tǒng)Hadoop云存儲系統(tǒng)

2014-01-07 09:15:24

云集成云存儲RESTful

2014-09-04 02:25:24

百度世界大會2014直達號BaiduEye
點贊
收藏

51CTO技術(shù)棧公眾號