偷偷摘套内射激情视频,久久精品99国产国产精,中文字幕无线乱码人妻,中文在线中文a,性爽19p

用Nginx + Lua(OpenResty)開(kāi)發(fā)高性能Web應(yīng)用

開(kāi)發(fā) 前端
在互聯(lián)網(wǎng)公司,Nginx可以說(shuō)是標(biāo)配組件,它高性能是大家公認(rèn)的,但是整體學(xué)習(xí)和開(kāi)發(fā)成本偏高;目前Nginx團(tuán)隊(duì)也開(kāi)始意識(shí)到這個(gè)問(wèn)題,逐漸開(kāi)發(fā)了一系列高性能的Web服務(wù)。

在互聯(lián)網(wǎng)公司,Nginx可以說(shuō)是標(biāo)配組件,但是主要場(chǎng)景還是負(fù)載均衡、反向代理、代理緩存、限流等場(chǎng)景;而把Nginx作為一個(gè)Web容器使用的還不是那么廣泛。Nginx的高性能是大家公認(rèn)的,而Nginx開(kāi)發(fā)主要是以C/C++模塊的形式進(jìn)行,整體學(xué)習(xí)和開(kāi)發(fā)成本偏高;如果有一種簡(jiǎn)單的語(yǔ)言來(lái)實(shí)現(xiàn)Web應(yīng)用的開(kāi)發(fā),那么Nginx絕對(duì)是把好的瑞士軍刀;目前Nginx團(tuán)隊(duì)也開(kāi)始意識(shí)到這個(gè)問(wèn)題,開(kāi)發(fā)了nginxScript:可以在Nginx中使用JavaScript進(jìn)行動(dòng)態(tài)配置一些變量和動(dòng)態(tài)腳本執(zhí)行;而目前市面上用的非常成熟的擴(kuò)展是由章亦春將Lua和Nginx粘合的ngx_lua模塊,并且將Nginx核心、LuaJIT、ngx_lua模塊、許多有用的Lua庫(kù)和常用的第三方Nginx模塊組合在一起成為OpenResty,這樣開(kāi)發(fā)人員就可以安裝OpenResty,使用Lua編寫(xiě)腳本,然后部署到Nginx Web容器中運(yùn)行。從而非常輕松就能開(kāi)發(fā)出高性能的Web服務(wù)。

接下來(lái)我們就認(rèn)識(shí)下Nginx、Lua、ngx_lua模塊和ngx_lua到底能開(kāi)發(fā)哪些類(lèi)型的web應(yīng)用。

一、ngx_lua簡(jiǎn)介

1、Nginx優(yōu)點(diǎn)

Nginx設(shè)計(jì)為一個(gè)主進(jìn)程多個(gè)工作進(jìn)程的工作模式,每個(gè)進(jìn)程是單線(xiàn)程來(lái)處理多個(gè)連接,而且每個(gè)工作進(jìn)程采用了非阻塞I/O來(lái)處理多個(gè)連接,從而減少了線(xiàn)程上下文切換,從而實(shí)現(xiàn)了公認(rèn)的高性能、高并發(fā);因此在生成環(huán)境中會(huì)通過(guò)把CPU綁定給Nginx工作進(jìn)程從而提升其性能;另外因?yàn)閱尉€(xiàn)程工作模式的特點(diǎn),內(nèi)存占用就非常少了。

Nginx更改配置重啟速度非???,可以毫秒級(jí),而且支持不停止Nginx進(jìn)行升級(jí)Nginx版本、動(dòng)態(tài)重載Nginx配置。

Nginx模塊也是非常多,功能也很強(qiáng)勁,不僅可以作為http負(fù)載均衡,Nginx發(fā)布1.9.0版本還支持TCP負(fù)載均衡,還可以很容易的實(shí)現(xiàn)內(nèi)容緩存、web服務(wù)器、反向代理、訪(fǎng)問(wèn)控制等功能。

2、Lua的優(yōu)點(diǎn)

Lua是一種輕量級(jí)、可嵌入式的腳本語(yǔ)言,這樣可以非常容易的嵌入到其他語(yǔ)言中使用。另外Lua提供了協(xié)程并發(fā),即以同步調(diào)用的方式進(jìn)行異步執(zhí)行,從而實(shí)現(xiàn)并發(fā),比起回調(diào)機(jī)制的并發(fā)來(lái)說(shuō)代碼更容易編寫(xiě)和理解,排查問(wèn)題也會(huì)容易。Lua還提供了閉包機(jī)制,函數(shù)可以作為First Class Value 進(jìn)行參數(shù)傳遞,另外其實(shí)現(xiàn)了標(biāo)記清除垃圾收集。

因?yàn)長(zhǎng)ua的小巧輕量級(jí),可以在Nginx中嵌入Lua VM,請(qǐng)求的時(shí)候創(chuàng)建一個(gè)VM,請(qǐng)求結(jié)束的時(shí)候回收VM。

3、什么是ngx_lua

ngx_lua是Nginx的一個(gè)模塊,將Lua嵌入到Nginx中,從而可以使用Lua來(lái)編寫(xiě)腳本,這樣就可以使用Lua編寫(xiě)應(yīng)用腳本,部署到Nginx中運(yùn)行,即Nginx變成了一個(gè)Web容器;這樣開(kāi)發(fā)人員就可以使用Lua語(yǔ)言開(kāi)發(fā)高性能Web應(yīng)用了。

ngx_lua提供了與Nginx交互的很多的API,對(duì)于開(kāi)發(fā)人員來(lái)說(shuō)只需要學(xué)習(xí)這些API就可以進(jìn)行功能開(kāi)發(fā),而對(duì)于開(kāi)發(fā)web應(yīng)用來(lái)說(shuō),如果接觸過(guò)Servlet的話(huà),其開(kāi)發(fā)和Servlet類(lèi)似,無(wú)外乎就是知道接收請(qǐng)求、參數(shù)解析、功能處理、返回響應(yīng)這幾步的API是什么樣子的。

4、開(kāi)發(fā)環(huán)境

我們可以使用OpenResty來(lái)搭建開(kāi)發(fā)環(huán)境,OpenResty將Nginx核心、LuaJIT、許多有用的Lua庫(kù)和Nginx第三方模塊打包在一起;這樣開(kāi)發(fā)人員只需要安裝OpenResty,不需要了解Nginx核心和寫(xiě)復(fù)雜的C/C++模塊就可以,只需要使用Lua語(yǔ)言進(jìn)行Web應(yīng)用開(kāi)發(fā)了。

如何安裝可以參考《跟我學(xué)Nginx+Lua開(kāi)發(fā)》。

5、OpenResty生態(tài)

OpenResty提供了一些常用的ngx_lua開(kāi)發(fā)模塊:如

lua-resty-memcached

lua-resty-mysql

lua-resty-redis

lua-resty-dns

lua-resty-limit-traffic

lua-resty-template

這些模塊涉及到如mysql數(shù)據(jù)庫(kù)、redis、限流、模塊渲染等常用功能組件;另外也有很多第三方的ngx_lua組件供我們使用,對(duì)于大部分應(yīng)用場(chǎng)景來(lái)說(shuō)現(xiàn)在生態(tài)環(huán)境中的組件已經(jīng)足夠多了;如果不滿(mǎn)足需求也可以自己去寫(xiě)來(lái)完成自己的需求。

6、場(chǎng)景

理論上可以使用ngx_lua開(kāi)發(fā)各種復(fù)雜的web應(yīng)用,不過(guò)Lua是一種腳本/動(dòng)態(tài)語(yǔ)言,不適合業(yè)務(wù)邏輯比較重的場(chǎng)景,適合小巧的應(yīng)用場(chǎng)景,代碼行數(shù)保持在幾十行到幾千行。目前見(jiàn)到的一些應(yīng)用場(chǎng)景:

web應(yīng)用:會(huì)進(jìn)行一些業(yè)務(wù)邏輯處理,甚至進(jìn)行耗CPU的模板渲染,一般流程:mysql/redis/http獲取數(shù)據(jù)、業(yè)務(wù)處理、產(chǎn)生JSON/XML/模板渲染內(nèi)容,比如京東的列表頁(yè)/商品詳情頁(yè);

接入網(wǎng)關(guān):實(shí)現(xiàn)如數(shù)據(jù)校驗(yàn)前置、緩存前置、數(shù)據(jù)過(guò)濾、API請(qǐng)求聚合、AB測(cè)試、灰度發(fā)布、降級(jí)、監(jiān)控等功能,比如京東的交易大Nginx節(jié)點(diǎn)、無(wú)線(xiàn)部門(mén)正在開(kāi)發(fā)的無(wú)線(xiàn)網(wǎng)關(guān)、單品頁(yè)統(tǒng)一服務(wù)、實(shí)時(shí)價(jià)格、動(dòng)態(tài)服務(wù);

Web防火墻:可以進(jìn)行IP/URL/UserAgent/Referer黑名單、限流等功能;

緩存服務(wù)器:可以對(duì)響應(yīng)內(nèi)容進(jìn)行緩存,減少到后端的請(qǐng)求,從而提升性能;

其他:如靜態(tài)資源服務(wù)器、消息推送服務(wù)、縮略圖裁剪等。

二、基于Nginx+Lua的常用架構(gòu)模式

1、負(fù)載均衡

如上圖,我們首先通過(guò)LVS+HAProxy將流量轉(zhuǎn)發(fā)給核心Nginx 1和核心Nginx 2,即實(shí)現(xiàn)了流量的負(fù)載均衡,此處可以使用如輪訓(xùn)、一致性哈希等調(diào)度算法來(lái)實(shí)現(xiàn)負(fù)載的轉(zhuǎn)發(fā);然后核心Nginx會(huì)根據(jù)請(qǐng)求特征如“Host:item.jd.com”,轉(zhuǎn)發(fā)給相應(yīng)的業(yè)務(wù)Nginx節(jié)點(diǎn)如單品頁(yè)Nginx 1。此處為什么分兩層呢?

1、核心Nginx層是無(wú)狀態(tài)的,可以在這一層實(shí)現(xiàn)流量分組(內(nèi)網(wǎng)和外網(wǎng)隔離、爬蟲(chóng)和非爬蟲(chóng)流量隔離)、內(nèi)容緩存、請(qǐng)求頭過(guò)濾、故障切換(機(jī)房故障切換到其他機(jī)房)、限流、防火墻等一些通用型功能;

2、業(yè)務(wù)Nginx如單品頁(yè)Nginx,可以在在業(yè)務(wù)Nginx實(shí)現(xiàn)業(yè)務(wù)邏輯、或者反向代理到如Tomcat,在這一層可以實(shí)現(xiàn)內(nèi)容壓縮(放在這一層的目的是減少核心Nginx的CPU壓力,將壓力分散到各業(yè)務(wù)Nginx)、AB測(cè)試、降級(jí);即這一層的Nginx跟業(yè)務(wù)有關(guān)聯(lián),實(shí)現(xiàn)業(yè)務(wù)的一些通用邏輯。

不管是核心Nginx還是業(yè)務(wù)Nginx,都應(yīng)該是無(wú)狀態(tài)設(shè)計(jì),可以水平擴(kuò)容。

業(yè)務(wù)Nginx一般會(huì)把請(qǐng)求直接轉(zhuǎn)發(fā)給后端的業(yè)務(wù)應(yīng)用,如Tomcat、PHP,即將請(qǐng)求內(nèi)部轉(zhuǎn)發(fā)到相應(yīng)的業(yè)務(wù)應(yīng)用;當(dāng)有的Tomcat出現(xiàn)問(wèn)題了,可以在這一層摘掉;或者有的業(yè)務(wù)路徑變了在這一層進(jìn)行rewrite;或者有的后端Tomcat壓力太大也可以在這一層降級(jí),減少對(duì)后端的沖擊;或者業(yè)務(wù)需要灰度發(fā)布時(shí)也可以在這一層Nginx上控制。

2、單機(jī)閉環(huán)

所謂單機(jī)閉環(huán)即所有想要的數(shù)據(jù)都能從本服務(wù)器直接獲取,在大多數(shù)時(shí)候無(wú)需通過(guò)網(wǎng)絡(luò)去其他服務(wù)器獲取。

如上所示,主要有三種應(yīng)用模式:

2.1、第一張圖應(yīng)用場(chǎng)景是Nginx應(yīng)用誰(shuí)也不依賴(lài),比如我們的Cookie白名單應(yīng)用,其目的是不在白名單中的Cookie將被清理,防止大家隨便將Cookie寫(xiě)到j(luò)d.om根下;大家訪(fǎng)問(wèn)http://www.jd.com時(shí),會(huì)看到一個(gè)http://ccc.jd.com/cookie_check的請(qǐng)求用來(lái)清理Cookie的;對(duì)于這種應(yīng)用非常簡(jiǎn)單,不需要依賴(lài)數(shù)據(jù)源,直接單應(yīng)用閉環(huán)即可。

2.2、第二張圖,是讀取本機(jī)文件系統(tǒng),如靜態(tài)資源合并:比如訪(fǎng)問(wèn)http://item.jd.com/1856584.html,查看源碼會(huì)發(fā)現(xiàn)【<link type="text/css" rel="stylesheet" href="//misc.360buyimg.com/jdf/1.0.0/unit/??ui-base/1.0.0/ui-base.css,shortcut/2.0.0/shortcut.css,global-header/1.0.0/global-header.css,myjd/2.0.0/myjd.css,nav/2.0.0/nav.css,shoppingcart/2.0.0/shoppingcart.css,global-footer/1.0.0/global-footer.css,service/1.0.0/service.css"/>】這種請(qǐng)求,即多個(gè)請(qǐng)求合并為一個(gè)發(fā)給服務(wù)端,服務(wù)端進(jìn)行了文件資源的合并;

目前有成熟的Nginx模塊如nginx-http-concat進(jìn)行靜態(tài)資源合并;因?yàn)槲覀兪褂昧薕penResty,那么我們完全可以使用Lua編寫(xiě)程序?qū)崿F(xiàn)該功能,比如已經(jīng)有人寫(xiě)了nginx-lua-static-merger來(lái)實(shí)現(xiàn)這個(gè)功能。

還一些業(yè)務(wù)型應(yīng)用場(chǎng)景如下圖所示

商品頁(yè)面是由商品框架和其他維度的頁(yè)面片段(面包屑、相關(guān)分類(lèi)、商家信息、規(guī)格參數(shù)、商品詳情)組成;或者首頁(yè)是由首頁(yè)框架和一些頁(yè)面片段(分類(lèi)、輪播圖、樓層1、樓層N)組成;分維度是因?yàn)椴煌木S度是獨(dú)立變化的。對(duì)于這種靜態(tài)內(nèi)容但是需要進(jìn)行框架內(nèi)容嵌入的方式,Nginx自帶的SSI(Server Side Include)可以很輕松的完成;也可以使用Lua程序更靈活的完成(讀取框架、讀取頁(yè)面片段、合并輸出)。

比如商品頁(yè)面的架構(gòu)我們可以這樣:

首先接收到商品變更消息,商品頁(yè)面同步Worker會(huì)根據(jù)消息維度生成相關(guān)的頁(yè)面推送到Nginx服務(wù)器;Nginx應(yīng)用再通過(guò)SSI輸出。目前京東商品詳情頁(yè)沒(méi)有再采用這種架構(gòu),具體架構(gòu)可以參考《構(gòu)建需求響應(yīng)式億級(jí)商品詳情頁(yè)》。

對(duì)于首頁(yè)的架構(gòu)是類(lèi)似的,因?yàn)槠涮攸c(diǎn)(框架變化少,樓層變化較頻繁)和個(gè)性化的要求,樓層一般實(shí)現(xiàn)為異步加載。

2.3、 第三張圖和第二張圖的不同處是不再直接讀取文件系統(tǒng),而是讀取本機(jī)的Redis或者Redis集群或者如SSDB這種持久化存儲(chǔ)或者其他存儲(chǔ)系統(tǒng)都是可以的,比如直接說(shuō)的商品頁(yè)面可以使用SSDB進(jìn)行存儲(chǔ)實(shí)現(xiàn)。文件系統(tǒng)一個(gè)很大的問(wèn)題是當(dāng)多臺(tái)服務(wù)器時(shí)需要Worker去寫(xiě)多臺(tái)服務(wù)器,而這個(gè)過(guò)程可以使用SSDB的主從實(shí)現(xiàn)。

此處可以看到,不管是圖二還是圖三架構(gòu),都需要Worker去進(jìn)行數(shù)據(jù)推送;假設(shè)本機(jī)數(shù)據(jù)丟了可怎么辦?因此實(shí)際大部分應(yīng)用不會(huì)是完全單機(jī)閉環(huán)的,而是會(huì)采用如下架構(gòu):

即首先讀本機(jī),如果沒(méi)數(shù)據(jù)會(huì)回源到相應(yīng)的Web應(yīng)用從數(shù)據(jù)源拉取原始數(shù)據(jù)進(jìn)行處理。這種架構(gòu)的大部分場(chǎng)景本機(jī)都可以命中數(shù)據(jù),只有很少一部分情況會(huì)回源到Web應(yīng)用。

如京東的實(shí)時(shí)價(jià)格/動(dòng)態(tài)服務(wù)就是采用類(lèi)似架構(gòu)。

3、分布式閉環(huán)

單機(jī)閉環(huán)會(huì)遇到如下兩個(gè)主要問(wèn)題: 1、數(shù)據(jù)不一致問(wèn)題(比如沒(méi)有采用主從架構(gòu)導(dǎo)致不同服務(wù)器數(shù)據(jù)不一致);2、遇到存儲(chǔ)瓶頸(磁盤(pán)或者內(nèi)存遇到了天花板)。

解決數(shù)據(jù)不一致的比較好的辦法是采用主從或者分布式集中存儲(chǔ);而遇到存儲(chǔ)瓶頸就需要進(jìn)行按照業(yè)務(wù)鍵進(jìn)行分片,將數(shù)據(jù)分散到多臺(tái)服務(wù)器。

如采用如下架構(gòu),按照尾號(hào)將內(nèi)容分布到多臺(tái)服務(wù)器。

即第一步先讀取分布式存儲(chǔ)(JIMDB是京東的一個(gè)分布式緩存/存儲(chǔ)系統(tǒng),類(lèi)似于Redis);如果不命中則回源到Tomcat集群(其會(huì)調(diào)用數(shù)據(jù)庫(kù)、服務(wù)總線(xiàn)獲取相關(guān)數(shù)據(jù))來(lái)獲取相關(guān)數(shù)據(jù)??梢詤⒖肌稑?gòu)建需求響應(yīng)式億級(jí)商品詳情頁(yè)》來(lái)獲取更詳細(xì)的架構(gòu)實(shí)現(xiàn)。

JIMDB集群會(huì)進(jìn)行多機(jī)房主從同步,各自機(jī)房讀取自己機(jī)房的從JIMDB集群,如下圖:

4、接入網(wǎng)關(guān)

接入網(wǎng)關(guān)也可以叫做接入層,即接收到流量的入口,在入口我們可以進(jìn)行如下事情:

4.1、核心接入Nginx會(huì)做如下事情:

1、動(dòng)態(tài)負(fù)載均衡;1、普通流量走一致性哈希,提升命中率;熱點(diǎn)流量走輪訓(xùn)減少單服務(wù)器壓力;2、根據(jù)請(qǐng)求特征將流量分配到不同分組并限流(爬蟲(chóng)、或者流量大的IP);3、動(dòng)態(tài)流量(動(dòng)態(tài)增加upstream或者減少u(mài)pstream或者動(dòng)態(tài)負(fù)載均衡)可以使用balancer_by_lua或者微博開(kāi)源的upsync;

2、防DDOS攻擊限流:可以將請(qǐng)求日志推送到實(shí)時(shí)計(jì)算集群,然后將需要限流的IP推送到核心Nginx進(jìn)行限流;

3、非法請(qǐng)求過(guò)濾:比如應(yīng)該有Referer卻沒(méi)有,或者應(yīng)該帶著Cookie卻沒(méi)有Cookie;

4、請(qǐng)求聚合:比如請(qǐng)求的是http://c.3.cn/proxy?methods=a,b,c,核心接入Nginx會(huì)在服務(wù)端把Nginx并發(fā)的請(qǐng)求并把結(jié)果聚合然后一次性吐出;

5、請(qǐng)求頭過(guò)濾:有些業(yè)務(wù)是不需要請(qǐng)求頭的,因此可以在往業(yè)務(wù)Nginx轉(zhuǎn)發(fā)時(shí)把這些數(shù)據(jù)過(guò)濾掉;

6、緩存服務(wù):使用Nginx Proxy Cache實(shí)現(xiàn)內(nèi)容頁(yè)面的緩存;

4.2、業(yè)務(wù)Nginx會(huì)做如下事情:

1、緩存:對(duì)于讀服務(wù)會(huì)使用大量的緩存來(lái)提升性能,我們?cè)谠O(shè)計(jì)時(shí)主要有如下緩存應(yīng)用:首先讀取Nginx本地緩存 Shared Dict或者Nginx Proxy Cache,如果有直接返回內(nèi)容給用戶(hù);如果本地緩存不命中,則會(huì)讀取分布式緩存如Redis,如果有直接返回;如果還是不命中則回源到Tomcat應(yīng)用讀取DB或調(diào)用服務(wù)獲取數(shù)據(jù)。另外我們會(huì)按照維度進(jìn)行數(shù)據(jù)的緩存。

2、業(yè)務(wù)邏輯:我們會(huì)進(jìn)行一些數(shù)據(jù)校驗(yàn)/過(guò)濾邏輯前置(如商品ID必須是數(shù)字)、業(yè)務(wù)邏輯前置(獲取原子數(shù)據(jù),然后在Nginx上寫(xiě)業(yè)務(wù)邏輯)。

3、細(xì)粒度限流:按照接口特征和接口吞吐量來(lái)實(shí)現(xiàn)動(dòng)態(tài)限流,比如后端服務(wù)快扛不住了,那我們就需要進(jìn)行限流,被限流的請(qǐng)求作為降級(jí)請(qǐng)求處理;通過(guò)lua-resty-limit-traffic可以通過(guò)編程實(shí)現(xiàn)更靈活的降級(jí)邏輯,如根據(jù)用戶(hù)、根據(jù)URL等等各種規(guī)則,如降級(jí)了是讓用戶(hù)請(qǐng)求等待(比如sleep 100ms,這樣用戶(hù)請(qǐng)求就慢下來(lái)了,但是服務(wù)還是可用)還是返回降級(jí)內(nèi)容。

4、降級(jí):降級(jí)主要有兩種:主動(dòng)降級(jí)和被動(dòng)降級(jí);如請(qǐng)求量太大扛不住了,那我們需要主動(dòng)降級(jí);如后端掛了或者被限流了或者后端超時(shí)了,那我們需要被動(dòng)降級(jí)。降級(jí)方案可以是:1、返回默認(rèn)數(shù)據(jù)如庫(kù)存默認(rèn)有貨;2、返回靜態(tài)頁(yè)如預(yù)先生成的靜態(tài)頁(yè);3、部分用戶(hù)降級(jí),告訴部分用戶(hù)等待下再操作;4、直接降級(jí),服務(wù)沒(méi)數(shù)據(jù),比如商品頁(yè)面的規(guī)格參數(shù)不展示;5、只降級(jí)回源服務(wù),即可以讀取緩存的數(shù)據(jù)返回,實(shí)現(xiàn)部分可用,但是不會(huì)回源處理;

5、AB測(cè)試/灰度發(fā)布:比如要上一個(gè)新的接口,可以通過(guò)在業(yè)務(wù)Nginx通過(guò)Lua寫(xiě)復(fù)雜的業(yè)務(wù)規(guī)則實(shí)現(xiàn)不同的人看到不同的版本。

6、服務(wù)質(zhì)量監(jiān)控:我們可以記錄請(qǐng)求響應(yīng)時(shí)間、緩存響應(yīng)時(shí)間、反向代理服務(wù)響應(yīng)時(shí)間來(lái)詳細(xì)了解到底哪塊服務(wù)慢了;另外記錄非200狀態(tài)碼錯(cuò)誤來(lái)了解服務(wù)的可用率。

京東的交易大Nginx節(jié)點(diǎn)、無(wú)線(xiàn)部門(mén)正在開(kāi)發(fā)的無(wú)線(xiàn)Nginx網(wǎng)關(guān)、和單品頁(yè)統(tǒng)一服務(wù)都是接入網(wǎng)關(guān)的實(shí)踐,而單品頁(yè)統(tǒng)一服務(wù)架構(gòu)可以參考《京東商品詳情頁(yè)服務(wù)閉環(huán)實(shí)踐》。

5、Web應(yīng)用

此處所說(shuō)的Web應(yīng)用指的是頁(yè)面模板渲染類(lèi)型應(yīng)用或者API服務(wù)類(lèi)型應(yīng)用;比如京東列表頁(yè)/商品詳情頁(yè)就是一個(gè)模板渲染類(lèi)型的應(yīng)用,核心業(yè)務(wù)邏輯都是使用Lua寫(xiě)的,部署到Nginx容器。目前核心業(yè)務(wù)代碼行數(shù)有5000多行,模板頁(yè)面有2000多行,涉及到大量的計(jì)算邏輯,性能數(shù)據(jù)可以參考《構(gòu)建需求響應(yīng)式億級(jí)商品詳情頁(yè)》。

整體處理過(guò)程和普通Web應(yīng)用沒(méi)什么區(qū)別:首先接收請(qǐng)求并進(jìn)行解析;然后讀取JIMDB集群數(shù)據(jù)、如果沒(méi)有則回源到Tomcat獲取;然后進(jìn)行業(yè)務(wù)邏輯處理;渲染模板;將響應(yīng)內(nèi)容返回給用戶(hù)。

三、如何使用Nginx+Lua開(kāi)發(fā)Web應(yīng)用

開(kāi)發(fā)一個(gè)Web應(yīng)用我們需要從項(xiàng)目搭建、功能開(kāi)發(fā)、項(xiàng)目部署幾個(gè)層面完成。

3.1、項(xiàng)目搭建

Java代碼

  1. /export/App/nginx-app   
  2.  -------bin(腳本)   
  3.  ------------start.sh   
  4.  ------------stop.sh   
  5.  -------config(配置文件)   
  6.  ------------nginx.conf   
  7.  ------------domain   
  8.  ----------------nginx_product.conf   
  9.  ------------resources.properties   
  10.  -------lua(業(yè)務(wù)代碼)   
  11.  ------------init.lua   
  12.  ------------product_controller.lua   
  13.  -------template(模板)   
  14.  --------------prodoct.html   
  15.  -------lualib(公共Lua庫(kù))   
  16.  ------------jd   
  17.  ----------------product_util.lua   
  18.  ----------------product_data.lua   
  19.  ------------resty   
  20.  ----------------redis.lua   
  21.  ----------------template.lua   

整個(gè)項(xiàng)目結(jié)構(gòu)從啟停腳本、配置文件、公共組件、業(yè)務(wù)代碼、模板代碼幾塊進(jìn)行劃分。

1、啟停腳本

啟停腳本放在項(xiàng)目目錄/export/App/nginx-app/bin/下。

start.sh是啟動(dòng)和更新腳本,即如果nginx沒(méi)有啟動(dòng)則啟動(dòng)起來(lái),否則reload:

Java代碼

  1. if nginx沒(méi)啟動(dòng) then   
  2.   sudo /export/servers/nginx/sbin/nginx  -t -c /export/App/nginx-app/config/nginx.conf   
  3.   sudo /export/servers/nginx/sbin/nginx  -c /export/App/nginx-app/config/nginx.conf   
  4. else   
  5.   sudo /export/servers/nginx/sbin/nginx  -t   
  6.   sudo /export/servers/nginx/sbin/nginx  -s reload   
  7. end     

stop.sh是停止Nginx腳本:

Java代碼

  1. sudo /export/servers/nginx/sbin/nginx -s quit 

2、配置文件

配置文件放在/export/App/nginx-app/config目錄下,包括了nginx.conf配置文件、nginx項(xiàng)目配置文件和資源配置文件。

nginx.confg配置文件

Java代碼

  1. worker_processes  1;   
  2. events {   
  3.     worker_connections  1024;   
  4. }   
  5. http {   
  6.    include       mime.types;   
  7.    default_type  text/html;   
  8.    #gzip相關(guān)   
  9.    #超時(shí)時(shí)間   
  10.    #日志格式   
  11.    #反向代理配置   
  12.    
  13.    #lua依賴(lài)路徑   
  14.    lua_package_path  "/export/App/nginx-app/lualib/?.lua;;";   
  15.    lua_package_cpath  "/export/App/nginx-app/lualib/?.so;;";   
  16.    
  17.    #server配置   
  18.    include /export/App/nginx-app/config/domains/*;   
  19.    
  20.    #初始化腳本   
  21.    init_by_lua_file "/export/App/nginx-app/lua/init.lua";   
  22. }    

對(duì)于nginx.conf會(huì)進(jìn)行一些通用的配置,如工作進(jìn)程數(shù)、超時(shí)時(shí)間、壓縮、日志格式、反向代理等相關(guān)配置;另外需要指定如下配置:

lua_package_path、lua_package_cpath指定我們依賴(lài)的通用Lua庫(kù)從哪里加載;

include /export/App/nginx-app/config/domains/*:用于加載server相關(guān)的配置,此處通過(guò)*可以在一個(gè)nginx下指定多個(gè)server配置;

init_by_lua_file "/export/App/nginx-app/lua/init.lua":執(zhí)行項(xiàng)目的一些初始化配置,比如加載配置文件。

nginx項(xiàng)目配置文件

/export/App/nginx-app/config/domains/nginx_product.conf用于配置當(dāng)前web應(yīng)用的一些server相關(guān)的配置:

Java代碼

  1. #upstream   
  2. upstream item_http_upstream {   
  3.     server 192.168.1.1 max_fails=2 fail_timeout=30s weight=5;   
  4.     server 192.168.1.2 max_fails=2 fail_timeout=30s weight=5;   
  5. }   
  6. #緩存   
  7. lua_shared_dict item_local_shop_cache 600m;   
  8. server {   
  9.      listen                   80;   
  10.      server_name              item.jd.com item.jd.hk;   
  11.      #模板文件從哪加載   
  12.     set $template_root "/export/App/nginx-app/template ";   
  13.      #url映射   
  14.         location ~* "^/product/(\d+)\.html$" {   
  15.             rewrite /product/(.*)    http://item.jd.com/$1 permanent;   
  16.         }   
  17.     location ~* "^/(\d{6,12})\.html$" {   
  18.             default_type text/html;   
  19.             charset gbk;   
  20.             lua_code_cache on;   
  21.             content_by_lua_file "/export/App/nginx-app/lua/product_controller.lua";   
  22.         }   
  23. }    

我們需要指定如upstream、共享字典配置、server配置、模板文件從哪加載、url映射,比如我們?cè)L問(wèn)http://item.jd.com/1856584.html將交給/export/App/nginx-app/lua/product_controller.lua處理;也就是說(shuō)我們項(xiàng)目的入口就有了。

資源配置文件resources.properties包含了我們的一些比如開(kāi)關(guān)的配置、緩存服務(wù)器地址的配置等等。

3、業(yè)務(wù)代碼

/export/App/nginx-app/lua/目錄里存放了我們的lua業(yè)務(wù)代碼,init.lua用于讀取如resources.properties來(lái)進(jìn)行一些項(xiàng)目初始化;product_controller.lua可以看成Java Web中的Servlet,接收、處理、響應(yīng)用戶(hù)請(qǐng)求。

4、模板

模板文件放在/export/App/nginx-app/template/目錄下,使用相應(yīng)的模板引擎進(jìn)行編寫(xiě)頁(yè)面模板,然后渲染輸出。

5、公共Lua庫(kù)

存放了一些如redis、template等相關(guān)的公共Lua庫(kù),還有一些我們項(xiàng)目中通用的工具庫(kù)如product_util.lua。

到此一個(gè)簡(jiǎn)單的項(xiàng)目的結(jié)構(gòu)就介紹完了,對(duì)于開(kāi)發(fā)一個(gè)項(xiàng)目來(lái)說(shuō)還會(huì)牽扯到分模塊等工作,不過(guò)對(duì)于我們這種Lua應(yīng)用來(lái)說(shuō),建議不要過(guò)度抽象,盡量小巧即可。

3.2、功能開(kāi)發(fā)

接下來(lái)就需要使用相應(yīng)的API來(lái)實(shí)現(xiàn)我們的業(yè)務(wù)了,比如product_controller.lua:

Java代碼

  1. --加載Lua模塊庫(kù)   
  2. local template = require("resty.template")     
  3. --1、獲取請(qǐng)求參數(shù)中的商品ID   
  4. local skuId = ngx.req.get_uri_args()["skuId"];   
  5. --2、調(diào)用相應(yīng)的服務(wù)獲取數(shù)據(jù)   
  6. local data = api.getData(skuId)   
  7.    
  8. --3、渲染模板   
  9. local func = template.compile("product.html")     
  10. local content = func(data)     
  11. --4、通過(guò)ngx API輸出內(nèi)容     
  12. ngx.say(content)      

開(kāi)發(fā)完成后將項(xiàng)目部署到測(cè)試環(huán)境,執(zhí)行start.sh啟動(dòng)nginx然后進(jìn)行測(cè)試。

詳細(xì)的開(kāi)發(fā)過(guò)程和API的使用,請(qǐng)參考《跟我學(xué)Nginx+Lua開(kāi)發(fā)》。此處不做具體編碼實(shí)現(xiàn)。

四、基于Nginx+Lua的常用功能總結(jié)

到此我們對(duì)于Nginx開(kāi)發(fā)已經(jīng)有了一個(gè)整體的認(rèn)識(shí),對(duì)于Nginx粘合Lua來(lái)開(kāi)發(fā)應(yīng)用可以說(shuō)是一把鋒利的瑞士軍刀,可以幫我們很容易的解決很多問(wèn)題,可以開(kāi)發(fā)Web應(yīng)用、接入網(wǎng)關(guān)、API網(wǎng)關(guān)、消息推送、日志采集等應(yīng)用,不過(guò)個(gè)人認(rèn)為適合開(kāi)發(fā)業(yè)務(wù)邏輯單一、核心代碼行數(shù)較少的應(yīng)用,不適合業(yè)務(wù)邏輯復(fù)雜、功能繁多的業(yè)務(wù)型或者企業(yè)級(jí)應(yīng)用;最后我們總結(jié)下基于Nginx+Lua的常用架構(gòu)模式中一些常見(jiàn)實(shí)踐和場(chǎng)景:

動(dòng)態(tài)負(fù)載均衡;

防火墻(DDOS、IP/URL/UserAgent/Referer黑名單、防盜鏈等);

限流;

降級(jí);

AB測(cè)試/灰度發(fā)布;

多級(jí)緩存模式;

服務(wù)端請(qǐng)求聚合;

服務(wù)質(zhì)量監(jiān)控。

一些問(wèn)題

1、在開(kāi)發(fā)nginx應(yīng)用時(shí)使用UTF-8編碼可以減去很多麻煩;

2、GBK轉(zhuǎn)碼解碼時(shí)使用GB18030,否則一些特殊字符會(huì)出現(xiàn)亂碼;

3、cjson庫(kù)對(duì)于如\uab1這種錯(cuò)誤的unicode轉(zhuǎn)碼會(huì)失敗,可以使用純Lua編寫(xiě)的dkjson;

4、社區(qū)版nginx不支持upstream的域名動(dòng)態(tài)解析;可以考慮proxy_pass http://p.3.local/prices/mgets$is_args$args,然后配合resolver來(lái)實(shí)現(xiàn);或者在lua中進(jìn)行http調(diào)用;如果DNS遇到性能瓶頸可以考慮在本機(jī)部署如dnsmasq來(lái)緩存;或者考慮使用balancer_by_lua功能實(shí)現(xiàn)動(dòng)態(tài)upstream;

5、為響應(yīng)添加處理服務(wù)器IP的響應(yīng)頭,方便定位問(wèn)題;

6、根據(jù)業(yè)務(wù)設(shè)置合理的超時(shí)時(shí)間;

7、走CDN的業(yè)務(wù)當(dāng)發(fā)生錯(cuò)誤時(shí)返回的500/503/302/301等非正常響應(yīng)不要設(shè)置緩存。

責(zé)任編輯:武曉燕 來(lái)源: iteye
相關(guān)推薦

2016-11-28 09:19:27

2023-10-26 08:35:53

2013-09-10 16:16:19

移動(dòng)網(wǎng)站性能優(yōu)化移動(dòng)web

2011-06-14 09:27:43

高性能WEB開(kāi)發(fā)

2019-01-25 07:41:29

OpenResty物流網(wǎng)關(guān)Web

2011-04-18 10:16:30

WEB高性能

2011-04-07 13:53:25

Web工具

2020-12-07 06:17:37

OpenRestynginxIP

2011-04-19 11:06:03

JavaScriptweb

2011-11-01 09:41:54

Nginx

2011-10-18 13:58:32

高性能web

2009-02-27 14:46:09

AjaxGWT開(kāi)發(fā)

2023-12-26 00:58:53

Web應(yīng)用Go語(yǔ)言

2011-01-26 10:46:30

FreeBSD 8.0NginxPHP

2016-11-28 09:13:29

單頁(yè)Web模板數(shù)據(jù)

2011-04-07 13:39:24

WebHTTP

2011-04-21 09:59:48

WEBjavascript

2011-04-27 10:57:29

高性能web開(kāi)發(fā)

2009-07-30 10:28:56

Web高性能開(kāi)發(fā)

2019-01-02 16:38:37

Golang彈幕
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)