偷偷摘套内射激情视频,久久精品99国产国产精,中文字幕无线乱码人妻,中文在线中文a,性爽19p

揭秘2017雙11支付寶25.6萬筆/秒峰值背后的技術

企業(yè)動態(tài)
2017年雙11支付寶峰值完成每秒25.6萬筆交易,這樣的技術是怎么實現的?

Q:2017年雙11支付寶峰值完成每秒25.6萬筆交易,這樣的技術是怎么實現的?
A:OB

------------我是分割線------------

「2017年雙11支付寶峰值完成每秒25.6萬筆交易,這樣的技術是怎么實現的?」

如果用最少的字來回答這個問題,甚至都用不了一句話,2個字母就行了:OB。

順利完成支付峰值,當然需要涉及到很多技術,是所有部門和技術工程師協同的結果,而其中最關鍵的技術之一,無疑是數據庫。

OB是我們的數據庫,這2個價值千金的字母,背后的人和故事,容我細細道來。

〇、什么是OB,為什么是OB?

  • OB是OceanBase的簡稱;
  • OceanBase是螞蟻金服自主研發(fā)的數據庫;
  • 今年雙11,我們首次把包括賬務庫在內的所有核心數據鏈全部搬到OceanBase上;
  • 今年雙11,支付寶的支付峰值為25.6萬筆/秒,再次刷新全球紀錄;
  • 同時,OB的數據庫處理峰值為4200萬次/秒。
對于用戶來說,一筆支付就是一筆支付,對于數據庫來說,一筆支付則是數個處理請求的集合。用戶進行支付時,錢可能從借記卡轉出,從花唄借出、還有10塊錢由優(yōu)惠券出、分期付款……這些都是一個個獨立的處理請求,需要數據庫進行處理。
——螞蟻金服首席技術架構師、副總裁胡喜

與發(fā)紅包、轉賬等操作相比,支付所需要的數據處理會更復雜。能否在雙11支付高峰支撐得住一個海量級處理并發(fā)量,對OB來說是一個巨大的考驗。今年OB平穩(wěn)扛過創(chuàng)世界紀錄的25.6萬筆/秒,處理峰值達到4200萬次/秒,一定程度上來說,證明OB的處理能力已經處于世界領先地位。

一、IOE不挺好的嗎?為什么要自己研發(fā)數據庫?

最早,和世界上大多數商業(yè)機構一樣,我們用的是集中式數據庫。但經歷過幾次雙11后,我們發(fā)現,集中式數據庫和集中式技術架構越來越不能適應井噴式爆增的交易筆數和交易峰值。為了應對雙11這一天的海量數據,花動輒幾百萬美元的價格去購買主機,在交易恢復常態(tài)時,昂貴的主機旋又陷于長期閑置狀態(tài)。這是不可持續(xù)發(fā)展的。

雙11的爆發(fā)式增長超出了所有人的想象,我們面臨的一個最現實的問題是,控制成本,讓雙11能繼續(xù)辦下去。想到的解決辦法是分布式數據庫??梢哉f,OB是被雙11逼出來的。

分布式數據庫則能用數以千計的普通PC機「串聯」起來,代替昂貴的大型服務器,從而大大降低成本。現在,在性能相當的前提下,使用OceanBase的硬件價格是其他高端數據庫的1/10左右。

二、除了降低成本,OB還有什么優(yōu)勢和價值?

除了是分布式數據庫,OB還具有彈性架構。2016年,我們上線了彈性架構第一代,簡單來說,就是在雙11支付峰值來臨前,向阿里云「借」閑置計算資源,在峰值回落后再「還」回去。這讓OB不但能支撐一再刷新記錄的支付峰值,還不需要增加服務器。

今年,我們上線了彈性架構第二代:「離在線混合部署」。它最核心的優(yōu)勢是,能夠在雙11支付峰值來臨前,「借」離線機房的閑置計算資源,在峰值回落后再「還」回去。這一創(chuàng)新的技術設計,為今年的雙11支付保障節(jié)省了2000多臺服務器。

在業(yè)內從沒人做過這個嘗試,因為分布式架構本身就是一個挑戰(zhàn),分布式還能兼容,必須接受更高的挑戰(zhàn),而兼容過程中還要使用離線資源,把從來沒有想過的資源合并一起,提供一個最高級別在線能力。這是另外一個例證,我們的技術創(chuàng)新和進步,是迎戰(zhàn)雙11創(chuàng)造的一個又一個世界級技術難題中「逼」出來的。

三、分布式數據庫這么好,有什么缺點嗎?

分布式數據庫的優(yōu)點是性價比高,但它的缺點和優(yōu)點同樣明顯:普通PC機單個來看都達不到金融級別的穩(wěn)定性,如果其中一臺機器「罷工」,容易產生多米諾骨牌效應般的坍塌效應。

在技術上實現一臺機器出問題,其他機器即時補位備份數據不難,難點在于讓每臺機器的工作量始終保持均衡,否則工作量過大的機器容易崩潰,繼而又是一場鏈式坍塌。這個短板被視為世界級技術難題。

我們解決分布式數據庫穩(wěn)定性的方式,是將每一份數據同時備份3~5份,存放在不同的機器上。其原理是,一臺PC機出故障的概率如果是千分之一,兩臺同時壞的概率可能就是百萬分之一,三臺同時壞的概率則是十億分之一。

四、OB會對外輸出嗎?

印度版支付寶Paytm已經在用OB了。此外,南京銀行、浙商銀行已經將其互聯網金融核心業(yè)務切到了OB上,這也是中國金融機構首次使用中國自主研發(fā)的分布式數據庫。未來,我們還將OB開放給更多合作伙伴。

五、為什么叫OB?

數據庫的英文名叫Database,我們起名叫OceanBase,是希望我們做一個像海洋一樣的海量數據庫。

------------我又是分割線------------

今年OB撐住的支付峰值是去年的2倍多。轉一篇去年雙11后,記者采訪我們OB工程師的文章。

一秒記賬12萬筆,零失誤,這位「超級會計師」是怎樣創(chuàng)造這個世界紀錄的?

文|傅瑜(2016-12-16 發(fā)于 人物

在支付寶母公司螞蟻金服的保安丁凡眼中,這幾年雙11最大的變化是每年的加班餐都會減少,今年,一不小心又訂多了,丁凡和同事們只好在公司門口向還沒來得及吃早飯的員工免費派發(fā)。

這一變化背后的故事被敏銳的媒體捕捉到并見諸報端:今年雙11支付寶支付峰值12萬筆/秒的新世界紀錄背后,是一個僅幾十人的技術保障團隊。

在6000多名螞蟻員工中,這幾十個人辨識度很高,因為所有人的工牌帶都是清一色螞蟻藍,只有他們是「土豪金」。這是螞蟻金服內部最高榮譽——CEO大獎的「勛章」。

今年五月,董事長彭蕾親自將它們一一戴在這幾十位技術明星的脖子上。獲獎理由是,這個小團隊自主研發(fā)的OceanBase(以下簡稱OB)數據庫,以遠低于傳統數據庫的成本,更高的可用性,扛住了支付寶一次又一次自我刷新的支付峰值世界紀錄,打破了IT核心技術長期被西方壟斷的格局。

今年的世界互聯網大會,OB入選世界互聯網領先科技成果,其他獲獎公司還包括特斯拉、IBM、微軟、卡巴斯基等。

毫無疑問,OB團隊是眼下螞蟻金服最耀眼的明星團隊。有隊員甚至不好意思帶著「土豪金」工牌上班,「太扎眼了」。

[[210796]]

耀眼光環(huán)的另一面,大概只有隊長陽振坤和幾位老隊友清楚,四五年前,這一彼時僅有十幾個人的團隊曾在長達三年多的時間里,孤獨而邊緣。

這個經歷了戲劇性般沉浮的團隊,是觀察中國互聯網公司一個頗具代表性的樣本:在比拼極限速度與彎道超車野心的賽場上,對待創(chuàng)新、技術理想主義以及「無用之用」的態(tài)度,會為一家公司的格局和邊界帶來怎樣的影響和命運?


被百度「掃地出門」的北大教授

陽振坤的職場經歷有一條鮮明的分割線。分割線之上一帆風順:北大本碩博一路念完留校任教,不但破格晉升教授,還成為北大首批「長江學者獎勵計劃」特聘教授之一。

分割線之下走得磕磕絆絆。2002年,這位學術明星選擇離開象牙塔,投身工業(yè)界,先后加盟聯想、微軟、繼而是百度。

分布式數據庫是陽振坤一直關注的領域。通俗來說,它是一個海量數據庫,可以存放千億條以上的記錄。它就像一名超級會計師,可以在一秒內同時記數萬筆帳,并且不出一點錯。最新世界紀錄,即是今年雙11凌晨,OB創(chuàng)下的12萬筆每秒的成績。

不過,在十幾年前,就連陽振坤本人,都會覺得這是一件不可思議的事情。彼時,起源于上世紀6、70年代的分布式數系統一直存在于理論中。

因為它的優(yōu)點和缺點同樣明顯,優(yōu)點是可以大大降低成本,缺點是這些普通PC機單個來看都達不到金融級別的穩(wěn)定性,如果其中一臺機器「罷工」,容易產生多米諾骨牌效應般的坍塌效應。

在技術上實現一臺機器出問題,其他機器即時補位備份數據不難,難點在于讓每臺機器的工作量始終保持均衡,否則工作量過大的機器容易崩潰,繼而又是一場鏈式坍塌。

這個短板被視為世界級技術難題,這也是為什么全球前三大數據庫甲骨文、IBM、微軟都采用集中式系統的重要原因。它們的主機穩(wěn)定,一臺動輒數百萬美元,存儲空間不夠,那就只能再買一臺。

陽振坤想做的,就是解決分布式系統的這個難題。2006年,他從微軟跳到百度,從事分布式系統研發(fā)。這確實也是百度的剛需,數以萬億計的網頁,意味著天量數據,并且這樣的數據量還在迅速增長,如果使用IOE,成本高得驚人。

在百度做了兩年多,他的團隊被解散,百度最終采用了一套現成的開源系統。團隊前成員楊傳輝認為,陽振坤當時主導的分布式系統在性能上已經超過了開源系統,「但公司不愿再付出更多的時間成本?!?br style="box-sizing: inherit;" />
熟悉百度文化的人,都不會對這樣的決定感到意外。幾乎在同時,百度還解散了一個做電商的團隊,生命周期也是兩年。

人到中年遭遇職場危機,在陽振坤眼中似乎不是個事兒。2010年到阿里巴巴面試時,他說自己離開百度的原因「就是被人家掃地出門了唄」。
[[210797]]

 

 

 

這個小團隊打造出的「超級會計師」,支撐起了今年雙十一12萬筆每秒的支付峰值 (攝影|付?。?/figcaption>

 

 

 

在阿里繼續(xù)坐了三年「冷板凳」

在這家彼此慣以花名相稱的公司里,大家都習慣稱陽振坤為「陽老師」。在同事眼中,陽老師永遠笑瞇瞇的,早上到公司都會主動向保安打招呼?!傅J定的事情,九頭牛都不能把他拉回來。」

在阿里,陽振坤繼續(xù)做分布式數據庫研發(fā),他的目標,是開發(fā)中國技術人自己的分布式數據庫,不再依賴歐美的數據庫。他的團隊從零發(fā)展到十幾人,搗鼓出中國第一個分布式數據庫,他們給它起了個名字叫OB。陽振坤解釋說,數據庫的英文名叫Database,起名叫OB,「是說我們要做一個像海洋一樣的海量數據庫?!?br style="box-sizing: inherit;" />
陽振坤解決分布式數據庫穩(wěn)定性的方式,是將每一份數據同時備份三份,存放在三臺不同的機器上。這是借鑒谷歌,其原理是,一臺pc機出故障的概率如果是千分之一,兩臺同時壞的概率可能就是百萬分之一,三臺同時壞的概率則是十億分之一。

跑在「海洋庫」上的第一位「客戶」是淘寶收藏夾。那時是2011年,淘寶用戶已達數千萬級,「每人收藏十條,那就是幾億條。」

跟隨陽振坤加盟阿里的楊傳輝回憶說,為了確保收藏夾在雙11當天萬無一失,整個團隊連軸工作了三個星期,迭代、壓測、調試、再壓測、再調試……「當時在討論群里,凌晨兩點,凌晨三點、凌晨四點……一直都有人在說話。」雙11當天,OB交的第一份成績單讓陽振坤滿意,「那時,我們都覺得機會來了?!?br style="box-sizing: inherit;" />
現在看來,當時的判斷顯然過于樂觀。阿里內部對自主研發(fā)數據庫很快產生分歧,反對者認為,不如采用開源系統性價比更高,就像百度那樣。

這樣的意見一度占據上峰,理由也確實難以反駁:全球三大數據庫制造商已存在幾十年,每家公司都擁有數以萬計的員工。做分布式數據庫,全球唯一一個成功的案例是谷歌。

楊傳輝回憶那段坐冷板凳的日子:有人在部門大會上公開質疑這個團隊存在的意義;沒有業(yè)務部門愿意把數據跑在OB上,為了拉「客戶」,這群內向靦腆的技術男開始厚著臉給業(yè)務同學打電話,約吃飯,「跟銷售一樣去推銷OB」;冷板凳坐了兩年仍不見轉機,有人選擇轉崗、有人辦了離職……

「好在這里是阿里,」楊傳輝說,阿里文化對創(chuàng)新和「無用」的寬容度一向比較高,阿里云創(chuàng)始人王堅是個再典型不過的例子,這位心理學博士在研發(fā)阿里云頭幾年,內部質疑聲不斷,有人公開在內部論壇上叫板,一年阿里年會上,王堅現場泣不成聲的畫面讓許多人印象深刻?!赴⒗锱c王堅是彼此成就的,陽老師也是如此,缺了哪一方,就不會有現在的阿里云和OB」。

楊傳輝回憶說,彼時留下來的人,都是內心強大,且仍懷有信心的,即便這樣,大家當時想的都還是,先活下來,只要不離場,就還有希望。「但陽老師的境界,我們誰都比不了」。讓他印象深刻的一個細節(jié)是,即便在最艱難的時候,陽振坤在內部會議上仍說,「OB以后是要取代IOE的」。

成為雙11背后的「超級會計師」

2012年,在王堅的推薦下,OB團隊并入支付寶。在一位不愿具名的阿里老員工看來,陽振坤和王堅兩人身上有著許多相似之處:外柔內剛,典型的技術理想主義者。

「如果陽老師愿意妥協,放棄OB,轉去做開源系統的技術優(yōu)化,早就撥云見日了。但這顯然不是他想干的事情,他的目標,就是想做一個中國技術人自主研發(fā)的數據庫?!?br style="box-sizing: inherit;" />
支付寶母公司螞蟻金服現任首席技術官程立是OB的另一個「貴人」,他同意將支付寶1%的交易庫存數據在這個數據庫上跑跑試試。

這位同樣性格溫和內斂卻決斷果斷的技術高管在今年云棲大會上說過一句讓媒體印象深刻的話:螞蟻面對的都是世界級技術難題,因為我們腳下沒有前人的腳印,只能靠我們自己一路披荊斬棘,遇山劈山,遇水搭橋。

4年前的支付寶,遭遇的世界級難題是,雙11的交易量呈幾何級增長,未來勢必還將繼續(xù)呈幾何級增長,事實已然證明這點——2015年雙十一實際支付峰值達每秒8.59萬筆,是前一年支付峰值的2.23倍,是2009年第一次雙十一支付峰值的430倍。

支付寶當時用的數據庫還是甲骨文,為了應對雙11這天的天量數據,只能再花數億千萬人民幣的價格去購買主機,在交易恢復常態(tài)時,昂貴的主機旋又陷于長期閑置狀態(tài)。這就好比你家來了客人,你為此去買了好幾臺洗衣機,客人走了,這些新購置的洗衣機就白白浪費了。

把客人的衣服拿到干洗店去洗,無疑是最優(yōu)解決方案,在數據存儲領域,具有彈性功能的分布式數據庫就是那個高性價比的「干洗店」?!赣么蟀自拋碚f,就是在雙11到來前,向阿里云租一批機器,雙11結束后再還回去。」陽振坤說,這也是為什么,分布式數據庫的軟硬件價格不到IOE的十分之一。

這一還未正式上過「戰(zhàn)場」的數據庫,被支付寶高層認定是解決雙11支付峰值這一世界級難題的「鑰匙」。OB最終也不負眾望,「原定搬1%的交易庫存數據到OB上來,最后搬了10%?!?br style="box-sizing: inherit;" />
2014年雙11,搬了10%交易數據鏈;2015年雙11,100%交易數據鏈和支付數據鏈都搬過來了;2016年雙11,整個賬務庫都搬過來了,這一核心數據被稱為「金融系統數據庫皇冠上的明珠」。

在OB團隊辦公室,常年擺放著一座關公像,臨近雙11大考,大家就會輪番給關公爺敬煙敬旺仔牛奶旺旺雪餅,據說這已成為團隊「傳統保留節(jié)目」。

2014年加盟OB團隊前,馮柯在一家有軍方背景的國產數據庫公司做技術高管,被無數次問及「你們?yōu)槭裁匆_發(fā)一套和IOE一樣的集中式數據庫,做得又沒人家好,有什么意義呢?」馮柯覺得自己該離開了。

在他看來,OB目前還只是萬里長征第一步,前方很多障礙和不確定性都還有待解決。

比如,過去六年,團隊以純技術人的思維來研發(fā)優(yōu)化OB,現在該同時兼顧產品經理的思維去考慮它的用戶體驗及兼容性問題?!缸鳛樽约胰耍Ц秾殬I(yè)務同學可以無條件遷就你做各種調試甚至改造,以讓數據跑在OB上,但如果未來想讓OB商業(yè)化,你不可能指望合作伙伴也這么去遷就你?!?br style="box-sizing: inherit;" />
OB在今年世界互聯網大會上入選世界互聯網代表性領先科技成果后,有媒體評論說,這一中國自主研發(fā)的數據庫,有望打破世界商業(yè)數據庫市場為IOE等國外商業(yè)軟件巨頭壟斷的格局。

但亦有評論認為,全球絕大多數機構和公司同時在使用IOE的現狀在短中期內不會有實質性的變化,OB在軟硬件上大大降低成本只是一方面,硬幣的另一面是,各家公司和機構將數據搬遷到一個全新的、完全不同的數據庫上,無論是金錢成本、還是風險成本和信任成本,可能更為高昂。

無論如何,陳萌萌對OB的前景報以信心。這位從甲骨文美國總部辭職,回國加盟OB團隊的80后說,甲骨文最初開始做數據庫,從研發(fā)到成熟,經歷了6年時間,「OB到現在也是6年,我們的大戲還在后頭」。

以上內容文章內容整理自知乎

鏈接:https://zhuanlan.zhihu.com/p/31069765?utm_medium=social&utm_source=wechat_session

作者:支付寶

關注我們,我們只玩最真實的

責任編輯:KOL 來源: 51CTO
相關推薦

2016-11-11 14:18:59

雙11支付寶

2019-11-13 09:46:08

技術研發(fā)指標

2025-01-22 08:16:44

2018-11-12 11:47:49

2009-06-03 12:09:31

互聯網

2015-11-11 21:46:45

阿里巴巴雙11

2017-12-21 17:25:46

存儲

2021-08-10 18:22:49

架構支付寶底層

2019-11-12 09:28:10

區(qū)塊鏈技術應用程序

2015-10-21 18:41:15

wp支付寶

2021-09-08 10:01:14

架構運維技術

2011-09-28 14:24:39

支付寶手機支付

2019-11-19 21:55:37

螞蟻金服雙11支付寶

2020-11-09 09:58:49

架構雙十一開發(fā)

2015-10-21 16:11:39

WP支付寶

2017-09-28 14:48:46

支付寶深度學習xNN

2020-06-02 13:34:16

支付寶小程序 V8 Worker

2020-11-12 14:58:53

雙11云原生阿里云

2022-01-18 17:43:25

支付寶???/a>移動應用

2021-02-03 06:26:01

集五福支付寶五福全攻略
點贊
收藏

51CTO技術棧公眾號