創(chuàng)建大型高性能Web站點(diǎn)的十項(xiàng)規(guī)則
在中國,開源的LAMP棧是最流行的網(wǎng)絡(luò)架構(gòu),它使用PHP開發(fā),運(yùn)行在Apache服務(wù)器上,以MySQL作為數(shù)據(jù)庫,所有這些都運(yùn)行在Linux上。它是個(gè)可靠的平臺(tái),運(yùn)行良好,是現(xiàn)在全球最流行的Internet系統(tǒng)架構(gòu)。
然而,我們很難對(duì)其規(guī)模進(jìn)行正確的擴(kuò)展并保持安全性,因?yàn)槊總€(gè)應(yīng)用層都有其自身的問題、缺陷和最佳實(shí)踐。當(dāng)前的實(shí)際情況是,很多網(wǎng)站都是由開發(fā)人員快速而廉價(jià)地創(chuàng)建,通常沒有任何IT人員或者經(jīng)理,只是由程序員來管理系統(tǒng)。
造成的結(jié)果是,雖然花費(fèi)很低的成本網(wǎng)站就可以開始運(yùn)行,但是當(dāng)擁有大量用戶、 需要擴(kuò)展規(guī)模的時(shí)候,通常就會(huì)面臨真正的問題。畢竟,中國擁有三億八千萬的Internet用戶,如果其中的0.01%訪問這個(gè)站點(diǎn),就很容易引發(fā)25 萬~50萬的頁面訪問量。
這些問題在各個(gè)級(jí)別上都會(huì)產(chǎn)生,下面總結(jié)的規(guī)則是對(duì)最一般的問題進(jìn)行概述,并且說明為什么這些規(guī)則如此重要,以及最好采用什么方法來修正它們。遵循這些建議的站點(diǎn)會(huì)提高它的可伸縮性、安全性以及操作上的穩(wěn)定性。
使用合適的會(huì)話管理
第一個(gè)想到的擴(kuò)展系統(tǒng)的方法就是添加更多硬件。例如,使用兩臺(tái)服務(wù)器而不是一臺(tái)。這聽著合理,但會(huì)產(chǎn)生潛在問題:會(huì)話管理。這對(duì)Java程序來說是很嚴(yán)重的問題,在PHP中也會(huì)產(chǎn)生可延展性問題, 對(duì)于數(shù)據(jù)庫的負(fù)載尤其如此。
會(huì)話被定義為單獨(dú)的最終用戶登錄或者連接一 段時(shí)間,其中通常會(huì)包含多個(gè)TCP/IP的HTTP連接、幾個(gè)Web頁面,通常還包括幾十個(gè)甚至上百個(gè)頁面元素,如框架、菜單、Ajax更新等。所有這些 HTTP請(qǐng)求都需要知道用戶是誰,才能滿足安全的要求,并向用戶傳送適當(dāng)?shù)膬?nèi)容,因?yàn)檫@些都是會(huì)話的組成部分。通常每個(gè)會(huì)話都會(huì)包括相互關(guān)聯(lián)的會(huì)話數(shù)據(jù), 如用戶名、用戶ID、歷史、購物車、統(tǒng)計(jì)資料等等信息。
問題在于,在有兩臺(tái)Web服務(wù)器和多個(gè)HTTP連接的情況下,用戶流量會(huì)在兩臺(tái)服務(wù)器之間分配和移動(dòng),服務(wù)器很難知道用戶是誰,并對(duì)所有數(shù)據(jù)進(jìn)行跟蹤,因?yàn)槊總€(gè)頁面或者頁面的組成部分都可能來 自不同的服務(wù)器。在PHP中,通常是這樣解決的,在第一次連接或登錄的時(shí)候就創(chuàng)建一個(gè)會(huì)話ID并將其放在Cookie中,然后這個(gè)Cookie會(huì)和每個(gè) HTTP請(qǐng)求一起發(fā)送。
這樣做帶來一個(gè)問題,接下來每段PHP腳本 都需要基于ID來查找會(huì)話數(shù)據(jù)。由于PHP無法在執(zhí)行過程之間保持狀態(tài)(這與Java不同),這個(gè)會(huì)話數(shù)據(jù)需要存儲(chǔ)在某個(gè)地方,通常是在數(shù)據(jù)庫中。但是, 如果復(fù)雜的頁面需要在每個(gè)頁面載入過程中對(duì)其進(jìn)行十次查找(這是經(jīng)常要做的),那就意味著每個(gè)頁面都要執(zhí)行10次SQL查詢,這會(huì)導(dǎo)致數(shù)據(jù)庫上很大的負(fù)載。
在前面所舉的中國Internet用戶 0.01%的例子中,可能很容易在每秒內(nèi)僅僅為了管理會(huì)話就生成上百個(gè)查詢。解決方法是一直使用位于Cookie中的會(huì)話ID,并且使用像Memcached之類的服務(wù)來緩存會(huì)話數(shù)據(jù)以獲得高性能。
還要注 意其中存在安全性的問題,因?yàn)楹诳涂?以偽造另一個(gè)用戶的會(huì)話ID,這是很容易找到或看到的,特別是在公用的Wi-Fi中。解決方法是對(duì)會(huì)話ID進(jìn)行恰當(dāng)?shù)募用芑蛘吆灻?,并將其與時(shí)間區(qū)間、 IP地址以及其他關(guān)鍵信息 像瀏覽器或者其他細(xì)節(jié)相綁定。在Internet上有很多不錯(cuò)的關(guān)于良好的會(huì)話管理的例子,你可以根據(jù)需要找到最適合的。
總是要考慮安全性
盡管編寫像防止SQL注入和登錄安全之類的 代碼涉及很多安全問題,但不幸的是,幾乎沒有人考慮過安全性,而那些考慮到的人也沒有對(duì)其進(jìn)行很好地理解。而本文要關(guān)注的是操作性的系統(tǒng)安全。對(duì)于這類安 全,我們的焦點(diǎn)集中在三個(gè)安全領(lǐng)域:防火墻、運(yùn)行的用戶以及文件訪問權(quán)限。
除了配置專門的硬件防火墻(像Cisco的 ASA)之外,所有服務(wù)器都還應(yīng)該運(yùn)行像Iptables之類的防火墻,它會(huì)保護(hù)服務(wù)器免受其他威脅和攻擊。這些威脅和攻擊可能來自公共的 Internet、其他服務(wù)器或本地服務(wù)器,也包括使用VPN或者SSH通道的開發(fā)和操作人員。我們僅對(duì)指定的IP開放確實(shí)需要的端口。Iptables 可能會(huì)很復(fù)雜,但是有很多不錯(cuò)的模板,我們通常可以使用它們來幫助客戶創(chuàng)建Iptables。例如,默認(rèn)的RedHat或者CentOS防火墻的配置說明 只有10行,顯然并不實(shí)用。我們最佳實(shí)踐的Iptables配置大概有5頁,這其中包含了Linux所能提供的最高級(jí)的安全防范。
所有公用的服務(wù),都應(yīng)該運(yùn)行在專門的用戶 下,如Apache。切記永遠(yuǎn)都不要使用Root用戶運(yùn)行,因?yàn)檫@會(huì)讓任何闖入到Apache的用戶接管整個(gè)服務(wù)器。如果Apache只是運(yùn)行在 Apache用戶下或者運(yùn)行在Nobody下,那么闖入Apache就不是一件容易的事情了。
Web服務(wù)器運(yùn)行或者服務(wù)的文件 (像.php和.html文件)對(duì)于Web服務(wù)器的用戶應(yīng)該是不可寫的。這意味著Apache或者Nginx用戶不應(yīng)該擁有Web目錄的寫權(quán)限。有很多方 法都可以做到這一點(diǎn),而最簡單的就是將這些文件為其他用戶所有,然后讓Apache/Nginx等用戶歸屬于能夠使用640權(quán)限讀取文件的組中。這會(huì)防范 幾乎所有的黑客和針對(duì)頁面的攻擊。
此外,永遠(yuǎn)不要使用Ftp來上傳文件,特別是在公用的Wi-Fi環(huán)境中,因?yàn)樵谄渲泻诳秃苋菀妆I取用戶名和密碼。取而代之的是使用Sftp會(huì)更加安全。另外,每個(gè)雇員都應(yīng)該擁有自己的用戶ID和隨機(jī)密碼。#p#
使用標(biāo)準(zhǔn)的路徑和安裝配置
一個(gè)令人討厭的部署問題是,開發(fā)者很少考慮 他們的軟件會(huì)被部署到生產(chǎn)Web服務(wù)器的什么位置,以及如何部署。我們看到過許多大型的系統(tǒng)將它們的PHP代碼部署在/home/xiaofeng或者 /web/code路徑下。事實(shí)上,這兩個(gè)路徑都是非常不標(biāo)準(zhǔn)的,并且會(huì)帶來操作和安全性的問題。當(dāng)這些系統(tǒng)從開發(fā)環(huán)境轉(zhuǎn)移到測試環(huán)境再到生產(chǎn)環(huán)境中時(shí), 因?yàn)槊總€(gè)安裝配置都是非標(biāo)準(zhǔn)的,所以經(jīng)常會(huì)出現(xiàn)問題,這時(shí)就需要開發(fā)者調(diào)整才能夠正常工作。
你應(yīng)該總是使用標(biāo)準(zhǔn)的安裝包和二進(jìn)制文件來 安裝像Apache之類的服務(wù)器。不要從源代碼編譯或者安裝Tarball,因?yàn)檫@會(huì)導(dǎo)致長期穩(wěn)定性和管理上的問題,另外在服務(wù)器上安裝多個(gè)不同的版本也 會(huì)造成混淆。
Web 站點(diǎn)應(yīng)該總是在指定的平臺(tái)和 Linux發(fā)布的標(biāo)準(zhǔn)路徑下進(jìn)行測試和部署,像RedHat 或者CentOS下的/var/www/html路徑。這有助于對(duì)系統(tǒng)進(jìn)行有效的權(quán)限管 理、備份、配置、監(jiān)控以及其他操作。
Web 服務(wù)器的日志應(yīng)該存放在/var /logs或者/var/logs/app_name下,而不應(yīng)該位于主代碼區(qū)域。這樣做的原因不僅僅是因?yàn)檫@些標(biāo)準(zhǔn)的路徑很重要,更應(yīng)該關(guān)注的是,恰當(dāng) 地配置服務(wù)器會(huì)將/var配置為分離的文件系統(tǒng)。如果應(yīng)用程序突然寫入了大量日志并占用所有磁盤空間,由于我們做了以上的配置就不會(huì)導(dǎo)致系統(tǒng)崩潰,或者其 他嚴(yán)重的問題。如果日志位于其他位置,就可能會(huì)產(chǎn)生問題。
總是使用日志
在Web系統(tǒng)中做多少日志都不為過。所有系統(tǒng)都應(yīng)該將重要的數(shù)據(jù)寫入到日志中,不管是它們自己的日志還是系統(tǒng)的Syslog。Cron的Job以及其他Shell腳本或者C語言的程序,對(duì)日志都有 相應(yīng)標(biāo)準(zhǔn)以及簡單的函數(shù)。在Shell腳本中,只需要使用 Logger命令就可以實(shí)現(xiàn)日志的寫入。在腳本啟動(dòng)/停止、重要的腳本執(zhí)行以及實(shí)時(shí)數(shù)據(jù)產(chǎn)生的 情況下都要執(zhí)行寫入日志操作。這樣出現(xiàn)問題的時(shí)候,查看主要的系統(tǒng)日志就可以很容易地看到發(fā)生了什么。
大型系統(tǒng)經(jīng)常會(huì)使用專門的工具如 Local5來記錄日志,并配置Syslog或者Syslog-ng來將其存放在單獨(dú)的文件中,這樣會(huì)更容易使用。需要注意的是,Syslog工具和 Logger(以及任何Syslog調(diào)用)默認(rèn)優(yōu)先使用user.notice,如有必要,你可以對(duì)其進(jìn)行調(diào)整。
一個(gè)好的系統(tǒng)會(huì)對(duì)程序進(jìn)行配置,用來打開或者關(guān)閉日志,并可以選擇在每模塊或者功能的級(jí)別上應(yīng)用不同級(jí)別的日志。這使得我們可以記錄非常詳細(xì)和強(qiáng)大的日志,用來分析和調(diào)試在生產(chǎn)操作中所發(fā)生的問題。
使用良好的數(shù)據(jù)庫設(shè)計(jì)和SQL
在任何系統(tǒng)中,數(shù)據(jù)庫通常是最大的性能瓶 頸。而影響數(shù)據(jù)庫性能的最大兩個(gè)問題是數(shù)據(jù)庫設(shè)計(jì)和SQL代碼質(zhì)量。很多系統(tǒng)都擁有良好的或者至少是可用的數(shù)據(jù)庫設(shè)計(jì),但由于沒有經(jīng)過適當(dāng)?shù)男阅軠y 試,SQL代碼質(zhì)量通常都會(huì)很差。這樣的SQL代碼在開發(fā)環(huán)境中可能運(yùn)行很快,因?yàn)槠渲兄挥行?shù)據(jù)集和最小的負(fù)載。但是當(dāng)成千上萬的用戶同時(shí)讀取數(shù)據(jù)庫中 上百萬條記錄的時(shí)候,它就很可能會(huì)崩潰。
不幸的 是,這些問題一開始并不明顯,直到系統(tǒng)增大、突然開始崩潰的時(shí)候才會(huì)顯現(xiàn)出來。在增大的過程中,數(shù)據(jù)庫系統(tǒng)看起來運(yùn)行得很快(因?yàn)閿?shù)據(jù)都位于內(nèi)存中,而且很少有并發(fā)的查詢),并且對(duì)用戶的響 應(yīng)也很快,但實(shí)際上它的內(nèi)部運(yùn)行效率很低。這并不重要,我們關(guān)注的是在系統(tǒng)增大并遇到性能問題之前找到這些問題并加以解決。
關(guān)于這個(gè)問題有很多不錯(cuò)的書和站點(diǎn)進(jìn)行了解析,其中的關(guān)鍵工具包括慢查詢?nèi)罩?、INNODB狀態(tài)系統(tǒng),以及描述當(dāng)前性能的MySQL統(tǒng)計(jì)信息。我們見到過很多系統(tǒng)每秒會(huì)讀取500,000條數(shù)據(jù), 這是出現(xiàn)SQL問題的明顯預(yù)兆,但公司往往對(duì)其一無所知直到服務(wù)器開始崩潰。
MySQL系統(tǒng)應(yīng)該對(duì)所有數(shù)據(jù)使用 INNODB存儲(chǔ)引擎,因?yàn)镮NNODB與之前的MyISAM相比,運(yùn)行得更快、更穩(wěn)定,并且管理性能和備份工作也更加容易和快捷。在主配置文件 中,INNODB應(yīng)該被設(shè)置為默認(rèn)的數(shù)據(jù)庫引擎,并且系統(tǒng)應(yīng)該不時(shí)地進(jìn)行檢查,看是否意外創(chuàng)建了MyISAM的表。
總要擁有良好的DB配置和備份
很多公司都沒有良好的備份機(jī)制,也不知道如 何恰當(dāng)?shù)赝瓿蛇@項(xiàng)工作。MySQL的Dump是不夠的,因?yàn)樽詈玫膫浞莘椒ㄊ鞘褂肔VM快照和INNODB對(duì)系統(tǒng)進(jìn)行熱備份,從而得到超快的速度和超高的 可靠性。
另外,在將所有備份文件從服務(wù)器上轉(zhuǎn)移出來 之前要進(jìn)行壓縮和加密。另外還要確保擁有設(shè)計(jì)合理的MySQL配置。MySQL默認(rèn)安裝使用說明中只有5~10行關(guān)于配置的說明,這根本不適合開發(fā)使用。 而我們提供給客戶的最佳實(shí)踐文檔足足有10頁那么長。文檔中大約有100種有用的關(guān)于安全、性能和穩(wěn)定性問題的設(shè)定,包括防止數(shù)據(jù)敗壞,其中很多設(shè)定都是非常重要的。#p#
使用讀/寫數(shù)據(jù)庫分離
隨著系統(tǒng)變得越來越龐大,特別是當(dāng)它們擁有 很差的SQL時(shí),一臺(tái)數(shù)據(jù)庫服務(wù)器通常不足以處理負(fù)載。但是多個(gè)數(shù)據(jù)庫意味著重復(fù),除非你對(duì)數(shù)據(jù)進(jìn)行了分離。更一般地,這意味著建立主/從副本系統(tǒng),其中程序會(huì)對(duì)主庫編寫所有的Update、Insert和Delete變更語句,而所有Select的數(shù)據(jù)都讀取自從數(shù)據(jù)庫(或者多個(gè)從數(shù)據(jù)庫)。
盡管概念上很簡單,但是想要合理、精確地實(shí) 現(xiàn)并不容易,這可能需要大量的代碼工作。因此,即便在開始時(shí)使用同一臺(tái)數(shù)據(jù)庫服務(wù)器,也要盡早計(jì)劃在PHP中使用分離的DB連接來進(jìn)行讀寫操作。如果正確 地完成該項(xiàng)工作,那么系統(tǒng)就可以擴(kuò)展到2臺(tái)、3臺(tái)甚至12臺(tái)服務(wù)器,并具備高可用性和穩(wěn)定性。
使用類似Memcached之類的數(shù)據(jù)庫緩存
即便有了好的數(shù)據(jù)庫設(shè)計(jì)、SQL和讀寫分離,大型的系統(tǒng)仍然需要更快的性能,特別是對(duì)會(huì)話狀態(tài)、好友列表以及BBS文字之類的東西。為了達(dá)到這個(gè)目的,我們可以使用像MemCached之類的數(shù) 據(jù)緩存,它是一個(gè)高性能的簡單數(shù)據(jù)緩存,已經(jīng)被所有最大型的站點(diǎn)使用。但是要小心的是,不要100%依賴于一臺(tái)Memcache服務(wù)器來提高性能,因?yàn)槿?果那臺(tái)服務(wù)器崩潰了,就會(huì)破壞整個(gè)系統(tǒng)的性能。在這種情況下,應(yīng)該使用2~3臺(tái)Memcache服務(wù)器形成簇集架構(gòu),并且有選擇地包含一個(gè)緩存準(zhǔn)備過程, 如果緩存服務(wù)器重啟,需要重新載入數(shù)據(jù),它能夠快速地載入緩存。
構(gòu)建測試和開發(fā)環(huán)境
很多公司只有開發(fā)者的桌面系統(tǒng)和他們的生產(chǎn) 服務(wù)器。當(dāng)系統(tǒng)變得越來越大、越來越復(fù)雜時(shí),測試和管理代碼就會(huì)導(dǎo)致嚴(yán)重的問題。最佳的實(shí)踐是擁有兩個(gè)測試系統(tǒng),一個(gè)用于開發(fā)者的代碼和功能的整合測試, 另一個(gè)要與生產(chǎn)環(huán)境完全一致,從而更容易向生產(chǎn)環(huán)境平滑地過渡。幸運(yùn)的是,現(xiàn)在使用云計(jì)算(或者私有云)可以輕松達(dá)到這一點(diǎn)。一個(gè)5~10臺(tái)服務(wù)器的生產(chǎn) 環(huán)境,可以很容易地在辦公室或者IDC中使用一臺(tái)服務(wù)器來復(fù)制,從而用于測試,而這臺(tái)服務(wù)器我們可以用于多個(gè)客戶的項(xiàng)目。
使用版本控制
最后,要對(duì)一切使用版本控制,包括測試和生產(chǎn)環(huán)境的部署。很多開發(fā)者都使用SVN或者類似的方法。在理想狀態(tài)下,這些方法可以被用于所有代碼、腳本、HTML、圖片、配置、文檔和測試。版本控制應(yīng)該是代碼轉(zhuǎn)移到測試環(huán)境的必經(jīng)之路,而不是簡單地復(fù)制或者使用tar文件,因?yàn)檫@二者都是不可靠的。開發(fā)者應(yīng)該將所有一切都簽入,打上標(biāo)簽,然后將它們簽 出到測試系統(tǒng)。如果所有都沒問題,那么它們會(huì)將該版本簽出到生產(chǎn)環(huán)境。
【編輯推薦】




























