Servrless概念

Serverless 是一個架構(gòu)上的概念，從字面上理解就是無服務(wù)器架構(gòu)。Serverless最初是用于描述依賴第三方服務(wù)實現(xiàn)對邏輯和狀態(tài)進(jìn)行管理的應(yīng)用，典型的例子是單頁 Web 和移動 App 這種富客戶端應(yīng)用，他們一般都使用基于云端的數(shù)據(jù)庫(例如Parse、Firebase)，認(rèn)證服務(wù)(Auth0、AWS congnito)等。這些第三方服務(wù)通常稱為 BaaS(Backend as a Service) 。Serverless 的第二種含義，是用來描述這樣一種應(yīng)用架構(gòu)：除了使用第三方 BaaS 服務(wù)外，一部分服務(wù)端邏輯仍然由應(yīng)用的研發(fā)人員實現(xiàn)，但是跟傳統(tǒng)架構(gòu)不同在于，這部分服務(wù)端代碼運行于無狀態(tài)的容器中，可以由事件觸發(fā)，短暫的，完全被第三方管理。業(yè)界對 Serverless 的熱議，大部分集中第二種，因為第二種形式代碼托管代表技術(shù)更新，以 FaaS(Function as a Service) 而聞名。根據(jù)第二種場景，有一個***的定義是：Serverless 架構(gòu)是基于互聯(lián)網(wǎng)的系統(tǒng)，其中應(yīng)用開發(fā)不使用常規(guī)的服務(wù)進(jìn)程。相反，它們僅依賴于第三方服務(wù)(例如 AWS Lambda 服務(wù))，客戶端邏輯和服務(wù)托管遠(yuǎn)程過程調(diào)用的組合。后面敘述都是基于第二種定義來進(jìn)行，也就是基于 FaaS 函數(shù)計算服務(wù)來實現(xiàn)的 Serverless 應(yīng)用架構(gòu)，在這個定義上可以簡單把 Serverless 等同 FaaS。

Serverless 和 PaaS的關(guān)系

FaaS 與 PaaS的概念在某些方面有許多相似的地方。人們甚至認(rèn)為 FaaS 就是另一種形式的 PaaS，但是 Intent Media 的工程副總裁 Mike Roberts 提出一個微妙的差別：“大部分PaaS應(yīng)用無法針對每個請求啟動和停止整個應(yīng)用程序，而 FaaS 平臺生來就是為了實現(xiàn)這樣的目的。” AWS 云架構(gòu)戰(zhàn)略副總裁 Adrian Cockcroft 曾經(jīng)針對兩者的界定給出了一個簡單的方法：“如果你的PaaS 能夠有效地在20毫秒內(nèi)啟動實例并運行半秒，那么就可以稱之為 Serverless”。我理解兩個人的意思，都是認(rèn)為傳統(tǒng)的 PaaS 和 FaaS 的抽象層次不一樣，PaaS 是對整個應(yīng)用的抽象，F(xiàn)aaS 是對應(yīng)用邏輯的單位(函數(shù))的抽象。舉例來說，PaaS 不是針對每個請求來拉起一個服務(wù)，它是常駐的服務(wù)，而 FaaS 是根據(jù)每個請求來拉起一個容器來執(zhí)行，屬于更細(xì)粒度的拆分。也就是：PaaS 托管的是整個應(yīng)用，而 FaaS 托管應(yīng)用的某個碎片化的邏輯代碼，從資源使用率和成本角度更具優(yōu)勢。

Serverless 和 BaaS 的關(guān)系

BaaS 和 Serverless 的區(qū)別主要在于，BaaS 是一般是第三方提供的后端服務(wù)，例如 AWS 提供的Congito就是典型的 BaaS 服務(wù)，業(yè)界比較成功的 BaaS 服務(wù)幾乎都是為移動開發(fā)的后端云服務(wù)，例如 Facebook 的 Parese, google 的 Firebase, 國內(nèi) LeandCloud，提供的功能大同小異，都是實時數(shù)據(jù)庫，消息推送等等。BaaS 的粒度介乎 PaaS 和 FaaS, PaaS 是提供了應(yīng)用運行環(huán)境，而是BaaS將特定應(yīng)用變成一個云服務(wù)。而應(yīng)用想實施 Serverless 架構(gòu)，還是需要自己的服務(wù)代碼來組合這些 BaaS 服務(wù)來滿足自己的業(yè)務(wù)邏輯，而且服務(wù)代碼要通過 FaaS 來管理。用兩張圖說明兩者區(qū)別，兩個圖是都是實現(xiàn)一個廣告點擊行為數(shù)據(jù)處理，Click Processor 是實際處理動作的服務(wù)。***張圖 Click Processor 是一個 BaaS 服務(wù)，進(jìn)程常駐，每次都由這個進(jìn)程處理。第二張圖把它改造成 Serverless 架構(gòu)，每次點擊拉起一個進(jìn)程執(zhí)行一個函數(shù)，函數(shù)托管在 FaaS 服務(wù)中。

與 Serverless 的***次接觸

想象一下，你是一名 Web 開發(fā)工程師，你接到一個需求需要做一個單頁面應(yīng)用，上傳一張圖并在幾秒后獲得一張梵高風(fēng)格化的圖，像這樣：

遇到這種情況，一般…嗯……先 Google 一下，找到了這個：

alexjc/neural-doodle 

它的效果大概是這樣：

先過一遍步驟：

1. 瀏覽器發(fā)請求給服務(wù)端，body 是一張圖片的二進(jìn)制數(shù)據(jù);
2. 服務(wù)端從 body 中取出二進(jìn)制數(shù)據(jù)，轉(zhuǎn)成圖片，調(diào)用 doodle.py 中的方法，轉(zhuǎn)換風(fēng)格存儲之并返回存儲位置;
3. 瀏覽器按位置請求圖片并展示之。

但是有幾個問題，如果這個 SPA 出乎意料的受歡迎，接口負(fù)載過高呢?是不是要升級，加機(jī)器，加負(fù)載均衡?如果來了一個新需求或者簡單的 bugfix，是不是又涉及到批量更新節(jié)點，這還是沒有考慮日志，運維，監(jiān)控等運營方面的工作量。根據(jù)前面對Serverless的介紹，這個場景很適合用Serverless產(chǎn)品來解決，這是一個典型的無狀態(tài)服務(wù)+計算的自動擴(kuò)展，這些問題交給Serverless服務(wù)提供方即可。下面我選擇UCloud的Serverless產(chǎn)品UGC來搭建這個服務(wù)，并測試一下效果，看是否能滿足我的需求。

試用 Serverless 產(chǎn)品(UCloud UGC)

根據(jù)官方的介紹，UCloud通用計算(UCloud General Compute)是分布式大規(guī)模并行計算服務(wù)。可提供數(shù)萬核級的并發(fā)計算能力，系統(tǒng)自動完成任務(wù)調(diào)度，并按實際使用量計費。UGC充分利用一個區(qū)域內(nèi)的多個可用區(qū)計算資源，提供了基于云平臺的跨可用區(qū)級別的高可用性、高安全性和高并發(fā)性。UGC可滿足圖片處理、機(jī)器學(xué)習(xí)、大數(shù)據(jù)處理、生物數(shù)據(jù)分析等領(lǐng)域的計算需求。

下圖其中一個使用場景：

UCloud基于UGC的高效并行計算能力搭建的對象存儲(UFile)圖片處理服務(wù)，得以輕松支持用戶每天***別的圖片處理請求，滿足用戶對高時效的需求。

很適我們本次梵高風(fēng)格化圖片的需求。下面是我這次搭建服務(wù)過程：

1. 創(chuàng)建私有倉庫(WEB界面)
2. 登錄鏡像倉庫(cli)
3. 制作梵高風(fēng)格轉(zhuǎn)換鏡像(cli)(如果你認(rèn)真看文檔，你會發(fā)現(xiàn)其實 alexjc/neural-doodle 其實是有直接提供鏡像的，^_^)
4. 上傳鏡像(cli)
5. 查看鏡像詳情(WEB界面)
6. 告警模板配置(WEB界面)
7. 使用 SDK 提交任務(wù)(Python SDK)
8. 查看任務(wù)執(zhí)行統(tǒng)計WEB界面)
9. 查看監(jiān)控(WEB界面)

下面是詳細(xì)的操作步驟：

|> 創(chuàng)建私有倉庫

|> 下載梵高風(fēng)格轉(zhuǎn)換鏡像

鏡像介紹頁面：https://hub.docker.com/r/alexjc/neural-doodle/

我們直接從 Docker 官方下載它：

docker pull alexjc/neural-doodle

|> 修改鏡像名稱

docker tag alexjc/neural-doodle cn-bj2.ugchub.service.ucloud.cn/kevingao/neural-doodle:first

|> 登錄UCloud鏡像倉庫

docker login cn-bj2.ugchub.service.ucloud.cn

|> 上傳鏡像

將我們剛才下載的鏡像上傳到UCloud鏡像倉庫

docker push cn-bj2.ugchub.service.ucloud.cn/kevingao/neural-doodle:first

|> 查看鏡像信息

|> 告警模板配置

目前包含超時與失敗兩個模板可以直接使用。

|> 使用SDK提交風(fēng)格轉(zhuǎn)換任務(wù)

在Python SDK中配置自己賬號的公私鑰和Docker image 路徑，然后使用 Web后端調(diào)用，發(fā)布風(fēng)格轉(zhuǎn)換任務(wù)。

至此我們風(fēng)格轉(zhuǎn)換接口就就緒了，使用相同的方法搞定打水印的鏡像，我們先使用腳本測試一下接口，然后通過UCloud UGC服務(wù)后臺來查看執(zhí)行的情況

|> 查看任務(wù)執(zhí)行統(tǒng)計

包含調(diào)用次數(shù)、成功率、結(jié)果、花費CPU時間等信息。

下面我們就要開始前端的制作了。

前端交互

Web App有兩個功能，打水印和梵高風(fēng)格轉(zhuǎn)換，

它們的交互基本是一致的，這里我截圖打水印的頁面來做演示：

***步：選擇圖片

第二步：上傳圖片 (也可以直接使用UGC 對象存儲功能)

第三步：輸入要打的水印(鏡像需要的參數(shù))

第四步：返回結(jié)果展示

第五步：統(tǒng)計任務(wù)執(zhí)行結(jié)果

如上文所見，這個簡單的Web APP完成了『圖片梵高風(fēng)格化』和『圖片打水印』兩個功能，這里它體現(xiàn)了UGC的兩大優(yōu)點：

• 計算能力自動擴(kuò)展，處理一張照片與處理100張照片的時間花費是一樣的;
• 高并發(fā)，UGC擁有多節(jié)點數(shù)萬核的資源支持可以輕松支持高并發(fā)的請求。

附UGC 官網(wǎng)：https://www.ucloud.cn/site/product/ugc.html