偷偷摘套内射激情视频,久久精品99国产国产精,中文字幕无线乱码人妻,中文在线中文a,性爽19p

淺談淘寶技術(shù)發(fā)展:分布式時(shí)代——服務(wù)化

系統(tǒng) 分布式
在系統(tǒng)發(fā)展的過程中,架構(gòu)師的眼光至關(guān)重要,作為程序員,把功能實(shí)現(xiàn)即可,但作為架構(gòu)師,要考慮系統(tǒng)的擴(kuò)展性、重用性,這種敏銳的感覺,有人說是一種代碼潔癖。淘寶早期有幾個(gè)架構(gòu)師具備了這種感覺。

在系統(tǒng)發(fā)展的過程中,架構(gòu)師的眼光至關(guān)重要,作為程序員,把功能實(shí)現(xiàn)即可,但作為架構(gòu)師,要考慮系統(tǒng)的擴(kuò)展性、重用性,這種敏銳的感覺,有人說是一種代碼潔癖。淘寶早期有幾個(gè)架構(gòu)師具備了這種感覺。一指開發(fā)的 Webx 是一個(gè)擴(kuò)展性很強(qiáng)的框架,行癲在這個(gè)框架上插入了數(shù)據(jù)分庫路由的模塊、session 框架等等。在做淘寶后臺(tái)系統(tǒng)的時(shí)候,同樣需要這幾個(gè)模塊,行癲指導(dǎo)我把這些模塊單獨(dú)打成了 jar 包。另外在做淘寶機(jī)票、彩票系統(tǒng)的時(shí)候,頁面端也有很多東西需要復(fù)用,最直觀的是頁頭和頁腳,一開始我們每個(gè)系統(tǒng)里面復(fù)制了一份過去,但奇妙的是,那段時(shí)間頁腳要經(jīng)常修改,例如把“雅虎中國”改成“中國雅虎”,過一段時(shí)間又加了一個(gè)“口碑網(wǎng)”,再過一段時(shí)間變成了“雅虎口碑”,最后又變成了“中國雅虎”,每個(gè)系統(tǒng)都改一遍,折騰啊。后來我就把這部分 velocity 模版單獨(dú)拿出來了,做成了公用的模塊。  

  上面這些都是比較小的復(fù)用模塊,到 2006 年我們做了一個(gè)商品類目屬性的改造,在類目里面引入屬性的概念。項(xiàng)目的代號(hào)叫做“泰山”,如同它的名字,這是一個(gè)舉足輕重的項(xiàng)目,這個(gè)改變是一個(gè)劃時(shí)代的創(chuàng)新。在這之前的三年時(shí)間內(nèi),商品的分類都是按照樹狀的一級(jí)一級(jí)的節(jié)點(diǎn)來分的,隨著商品數(shù)量的增長,類目也變得越來越深,越來越復(fù)雜,這帶給買家的就是查找一件商品要逐級(jí)類目點(diǎn)開,找商品之前要懂商品的分類。而淘寶運(yùn)營部門管理類目的小二也發(fā)現(xiàn)一個(gè)很嚴(yán)重的問題 —— 例如男裝里面有T恤、T恤下面有耐克、耐克有純棉的,女裝里面也有T恤、T恤下面還是有耐克、耐克下面依然有純棉的,那是先分男女裝再分款式再分品牌再分材質(zhì)呢?還是先分品牌再分款式再分材質(zhì)再分男女呢?暈倒了。這時(shí)候,一位大俠出來了 —— 一燈,他說品牌、款式、材質(zhì)這種東東可以叫做“屬性”,屬性是類似 tag 的一個(gè)概念,與類目相比更加離散,更加靈活,這樣也縮減了類目的深度。這個(gè)思想的提出,一舉解決了分類的難題!從系統(tǒng)的角度來看,我們建立了“屬性”這樣一個(gè)數(shù)據(jù)結(jié)構(gòu),由于除了類目的子節(jié)點(diǎn)有屬性,父節(jié)點(diǎn)也有可能有屬性,于是類目屬性合起來也是一個(gè)結(jié)構(gòu)化的數(shù)據(jù)對(duì)象。這個(gè)做出來之后我們把它獨(dú)立出來作為一個(gè)服務(wù),叫做 catserver(category server)。跟類目屬性密切關(guān)聯(lián)的商品搜索功能,獨(dú)立出來,叫做 hesper(金星),catserver 和 hesper 供淘寶的前后臺(tái)系統(tǒng)調(diào)用?! ?/p>

  現(xiàn)在淘寶的商品類目屬性已經(jīng)是地球上最大的了,幾乎沒有什么類目的商品在淘寶上找不到(除了違禁的),但最初類目屬性改造完之后,我們很缺屬性數(shù)據(jù),尤其是數(shù)碼類的最缺。那從哪里弄這些數(shù)據(jù)呢親?我們跟“中關(guān)村在線”合作,拿到了很多數(shù)據(jù),那個(gè)時(shí)候,很多商品屬性信息的后邊標(biāo)注著:“來自中關(guān)村在線”。有了類目屬性,給運(yùn)營的工作帶來很大的便利,我們知道淘寶的運(yùn)營主要就是類目的運(yùn)營,什么季節(jié)推什么商品,都要在類目屬性上面做調(diào)整,讓買家更容易找到。例如夏天我要用戶在女裝一級(jí)類目下就標(biāo)出來材質(zhì)是不是蕾絲的、是不是純棉的,冬天卻要把羽絨衣調(diào)到女裝一級(jí)類目下,流行什么就要把什么商品往更高級(jí)的類目調(diào)整。這樣類目和屬性要經(jīng)常調(diào)整,隨之而來的問題就顯現(xiàn)了 —— 調(diào)整到哪個(gè)類目,那類商品的賣家就要編輯一次自己的商品,隨著商品量的增長,賣家的工作量越來越大,然后我們就發(fā)現(xiàn)賣家受不了啦。到了 2008 年,我們研究了超市里面前后臺(tái)商品的分類,發(fā)現(xiàn)超市前臺(tái)商品可以隨季節(jié)和關(guān)聯(lián)來調(diào)整擺放場(chǎng)景(例如著名的啤酒和尿布的關(guān)聯(lián)),后臺(tái)倉庫里面要按照自然類目來存儲(chǔ),二者密切關(guān)聯(lián)卻又相互分開。然后我們就把前后臺(tái)類目分開了,這樣賣家發(fā)布商品選擇的是自然類目和屬性,淘寶前臺(tái)展示的是根據(jù)運(yùn)營需要而擺放的商品的類目和屬性。改造后的類目屬性服務(wù)取名叫做 forest(森林,跟類目屬性有點(diǎn)神似。catserver 還在,提供賣家授權(quán)、品牌服務(wù)、關(guān)鍵詞等相關(guān)的服務(wù))。類目屬性的服務(wù)化,是淘寶在系統(tǒng)服務(wù)化方面做的第一個(gè)探索?!?/p>

  雖然個(gè)別架構(gòu)師具備了代碼潔癖,但淘寶前臺(tái)系統(tǒng)的業(yè)務(wù)量和代碼量還是爆炸式的增長了起來。業(yè)務(wù)方總在后面催,開發(fā)人員不夠了就繼續(xù)招人,招來的人根本看不懂原來的業(yè)務(wù),只好摸索著在“合適的地方”加一些“合適的代碼”,看看運(yùn)行起來像那么回事,就發(fā)布上線了。在這樣的惡性循環(huán)中,系統(tǒng)越來越臃腫,業(yè)務(wù)的耦合性越來越高,開發(fā)的效率越來越低。借用當(dāng)時(shí)比較流行的一句話“寫一段代碼,編譯一下能通過,半個(gè)小時(shí)就過去了;編譯一下沒通過,半天就過去了。”在這種情況下,系統(tǒng)出錯(cuò)的概率也逐步增長,常常是你改了商品相關(guān)的某些代碼,發(fā)現(xiàn)交易出問題了,甚至你改了論壇上的某些代碼,旺旺出問題了。這讓開發(fā)人員苦不堪言,而業(yè)務(wù)方還認(rèn)為這幫人干活越來越慢了?! ?/p>

  大概是在 2007 年底的時(shí)候,研發(fā)部空降了一位從硅谷來的高管,空聞大師。空聞是一位溫厚的長者,他告訴我們一切要以穩(wěn)定為中心,所有影響系統(tǒng)穩(wěn)定的因素都要解決掉。例如每做一個(gè)日常修改,都必須整個(gè)系統(tǒng)回歸測(cè)試一遍;多個(gè)日常修改如果放在一個(gè)版本里面,要是一個(gè)功能沒有測(cè)試通過,整個(gè)系統(tǒng)都不能發(fā)布。我們把這個(gè)叫做“火車模型”,任何一個(gè)乘客沒有上車,都不許發(fā)車。這樣做的最直接后果就是火車一直晚點(diǎn),新功能上線更慢了,我們能明顯的感覺到業(yè)務(wù)方的不滿,空聞的壓力肯定非常大。當(dāng)時(shí)我都不理解這種一刀切的做法,為了穩(wěn)定犧牲了發(fā)展的速度,這跟某 Party 的“穩(wěn)定壓倒一切”有什么分別?  

  但是到現(xiàn)在回過頭來看看,其實(shí)我們并沒有理解背后的思路。正是在這種要求下,我們不得不開始改變一些東西,例如把回歸測(cè)試日?;?,每天晚上都跑一遍整個(gè)系統(tǒng)的回歸。還有就是在這種要求下,我們不得不對(duì)這個(gè)超級(jí)復(fù)雜的系統(tǒng)做肢解和重構(gòu),其中復(fù)用性最高的一個(gè)模塊 —— 用戶信息模塊開始拆分出來了,我們叫它 UIC(user information center)。在 UIC 里面,它只處理最基礎(chǔ)的用戶信息操作,例如getUserById、getUserByName等等?! ?/p>

  在另外一個(gè)方面,還有兩個(gè)新興的業(yè)務(wù),也對(duì)系統(tǒng)基礎(chǔ)功能的拆分提出了要求。在那個(gè)時(shí)候,我們做了淘寶旅行(trip.taobao.com)和淘寶彩票(caipiao.taobao.com)兩個(gè)新業(yè)務(wù),這兩個(gè)新業(yè)務(wù)在商品的展示和交易的流程上都跟主站的業(yè)務(wù)不一樣,機(jī)票是按照航班的信息展示的,彩票是按照雙色球、數(shù)字和足球的賽程來展示的。但用到的會(huì)員的功能和交易的功能是跟主站差不多的,當(dāng)時(shí)做的時(shí)候就很糾結(jié),在主站里面做的話,會(huì)有一大半跟主站無關(guān)的東西,重新做一個(gè)的話,會(huì)有很多重復(fù)建設(shè)。最終我們決定不再給主站添亂了,就另起爐灶做了兩個(gè)新的業(yè)務(wù)系統(tǒng)。從查詢商品、購買商品、評(píng)價(jià)反饋、查看訂單這一整個(gè)流程都重新寫了一套出來?,F(xiàn)在在“我的淘寶”里面查看交易記錄的時(shí)候,還能發(fā)現(xiàn)“已買到的寶貝”里面把機(jī)票和彩票另外列出來了,他們沒有加入到普通的訂單里面去。在當(dāng)時(shí)如果已經(jīng)把會(huì)員、交易、商品、評(píng)價(jià)這些模塊拆分出來,就不用什么都重做一遍了。  

  到 2008 年初,整個(gè)主站系統(tǒng)(有了機(jī)票、彩票系統(tǒng)之后,把原來的系統(tǒng)叫做主站)的容量已經(jīng)到了瓶頸,商品數(shù)在一億以上,PV 在 2.5 億以上,會(huì)員數(shù)超過了五千萬。這個(gè)時(shí)候 Oracle 的連接池?cái)?shù)量都不夠用了,數(shù)據(jù)庫的容量到了極限,上層系統(tǒng)再增加機(jī)器也無法繼續(xù)擴(kuò)容了,我們只有把底層的基礎(chǔ)服務(wù)繼續(xù)拆分,從底層開始擴(kuò)容,上層才能擴(kuò)展,這才能容納以后三五年的增長。

  于是那一年我們專門啟動(dòng)了一個(gè)更大的項(xiàng)目,把交易這個(gè)核心業(yè)務(wù)模塊也拆分出來了。原來的淘寶交易除了跟商品管理耦合在一起,也在支付寶和淘寶之間跳來跳去,跟支付寶耦合在一起,系統(tǒng)復(fù)雜,用戶體驗(yàn)也很不好。我們把交易的底層業(yè)務(wù)拆出來叫交易中心TC(trade center),所謂底層業(yè)務(wù)是例如創(chuàng)建訂單、減庫存、修改訂單狀態(tài)等原子型的操作;交易的上層業(yè)務(wù)叫交易管理TM(trade manager),例如拍下一件普通商品要對(duì)訂單、庫存、物流進(jìn)行操作,拍下虛擬商品不需要對(duì)物流進(jìn)行操作,這些在TM里面完成。這個(gè)項(xiàng)目取了一個(gè)很沒有創(chuàng)意的名字 —— “千島湖”,這幫開發(fā)人員取這個(gè)名字的目的是想在開發(fā)完畢之后,去千島湖玩一圈,后來他們?nèi)缭敢詢斄恕_@個(gè)時(shí)候還有一個(gè)項(xiàng)目也在搞,就是淘寶商城,之前拆分出來的那些基礎(chǔ)服務(wù),給商城的快速構(gòu)建,提供了良好的基礎(chǔ)。

  類目屬性、用戶中心、交易中心,隨著這些模塊逐步的拆分和服務(wù)化改造,我們?cè)谙到y(tǒng)架構(gòu)方面也積累了不少的經(jīng)驗(yàn)。到 2008 年底干脆做了一個(gè)更大的項(xiàng)目,把淘寶所有的業(yè)務(wù)都模塊化,這是繼 2004 年從 LAMP 架構(gòu)到 Java 架構(gòu)之后的第二次脫胎換骨。這個(gè)項(xiàng)目取了一個(gè)很霸氣的名字,叫“五彩石”(女媧煉石補(bǔ)天,用的石頭)。這個(gè)系統(tǒng)重構(gòu)的工作非常驚險(xiǎn),有人稱之為“給一架高速飛行的飛機(jī)換發(fā)動(dòng)機(jī)”?! ?/p>

  五彩石項(xiàng)目發(fā)布之后,這幫工程師去三亞玩了幾天。他們把淘寶的系統(tǒng)拆分成了如下架構(gòu):

  其中 UIC 和 Forest 上文說過,TC、IC、SC分別是交易中心(Trade Center)、商品中心(Item Center)、店鋪中心(Shop Center),這些中心級(jí)別的服務(wù)只提供原子級(jí)的業(yè)務(wù)邏輯,如根據(jù)ID查找商品、創(chuàng)建交易、減少庫存等操作。再往上一層是業(yè)務(wù)系統(tǒng)TM(Trade Manager交易業(yè)務(wù))、IM(Item Manager商品業(yè)務(wù))、SM(Shop Manager,因?yàn)椴缓寐?,所以后來改名?SS:Shop System,店鋪業(yè)務(wù))、Detail(商品詳情)?! ?/p>

  拆分之后,系統(tǒng)之間的交互關(guān)系變得非常復(fù)雜,示意圖如下:

  系統(tǒng)這么拆分的話,好處顯而易見,拆分之后每個(gè)系統(tǒng)可以單獨(dú)部署,業(yè)務(wù)簡單,方便擴(kuò)容;有大量可重用的模塊以便于開發(fā)新的業(yè)務(wù);能夠做到專人專事,讓技術(shù)人員更加專注于某一個(gè)領(lǐng)域。這樣要解決的問題也很明顯,分拆之后,系統(tǒng)之間還是必須要打交道的,越往底層的系統(tǒng),調(diào)用它的客戶方越多,這就要求底層的系統(tǒng)必須具有超大規(guī)模的容量和非常高的可用性。另外,拆分之后的系統(tǒng)如何通訊?這里需要兩種中間件系統(tǒng),一種是實(shí)時(shí)調(diào)用的中間件(淘寶的HSF,高性能服務(wù)框架)、一種是異步消息通知的中間件(淘寶的Notify)。另外還有一個(gè)需要解決的問題是用戶在A系統(tǒng)登錄了,到B系統(tǒng)的時(shí)候,用戶的登錄信息怎么保存?這又涉及到一個(gè) Session 框架。再者,還有一個(gè)軟件工程方面的問題,這么多層的一套系統(tǒng),怎么去測(cè)試它?

責(zé)任編輯:黃丹 來源: 博客
相關(guān)推薦

2012-11-14 16:12:17

2012-11-14 16:17:28

淘寶Tair

2012-11-14 15:57:02

淘寶技術(shù)

2012-11-14 15:43:29

淘寶技術(shù)

2021-03-19 08:56:31

分布式存儲(chǔ)鐵力士分布式

2012-06-05 01:40:00

Java

2017-07-27 14:32:05

大數(shù)據(jù)分布式消息Kafka

2017-07-26 15:08:05

大數(shù)據(jù)分布式事務(wù)

2022-10-09 16:03:04

大數(shù)據(jù)平臺(tái)

2019-05-24 14:45:17

分布式微服務(wù)運(yùn)維

2013-03-26 13:43:08

Java分布式計(jì)算

2023-07-05 00:09:13

分布式存儲(chǔ)架構(gòu)

2019-10-10 09:16:34

Zookeeper架構(gòu)分布式

2015-06-19 07:50:47

2012-04-23 10:32:18

51CTO技術(shù)周刊

2023-05-12 08:23:03

分布式系統(tǒng)網(wǎng)絡(luò)

2020-08-21 10:52:18

容器安全操作

2009-10-09 17:17:11

安裝VB dcom分布

2013-06-13 11:29:14

分布式分布式緩存

2023-05-29 14:07:00

Zuul網(wǎng)關(guān)系統(tǒng)
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)