Python同步和異步IO一直都是新手心目中比較難搞懂的問題，那么現(xiàn)在就一起來追根究底探究一下。先說個容易懂得事情，同步呢，就是你去麥當(dāng)勞訂個漢堡，你一直在服務(wù)臺等著漢堡好了交到你手上。異步就是，你去麥當(dāng)勞訂漢堡，然后你不等漢堡好了沒有就去隔壁商城逛街了，直到麥當(dāng)勞的服務(wù)員喊你過去拿漢堡為止?？傊?句話，同步有等待，異步?jīng)]有等待!

[[244796]]

Linux操作系統(tǒng)基礎(chǔ)知識

[[244797]]

用戶空間和內(nèi)核空間

操作系統(tǒng)的核心是內(nèi)核，獨立于普通的應(yīng)用程序，可以訪問受保護(hù)的內(nèi)存空間，也有訪問底層硬件設(shè)備的所有權(quán)限。為了保證用戶進(jìn)程不能直接操作內(nèi)核保證內(nèi)核的安全，操心系統(tǒng)將虛擬空間劃分為兩部分，一部分為內(nèi)核空間，一部分為用戶空間。

對32位操作系統(tǒng)而言，它的尋址空間(虛擬存儲空間)為4G)。針對linux操作系統(tǒng)而言，將***的1G字節(jié)(從虛擬地址0xC0000000到0xFFFFFFFF)，供內(nèi)核使用，稱為內(nèi)核空間，而將較低的3G字節(jié)(從虛擬地址0x00000000到0xBFFFFFFF)，供各個進(jìn)程使用，稱為用戶空間。

文件描述符

File descriptor用于表述只想文件的引用的抽象概念。文件描述符在形式上是一個非負(fù)整數(shù)。實際上，它是一個索引值，指向內(nèi)核為每一個進(jìn)程所維護(hù)的該進(jìn)程打開文件的記錄表。當(dāng)程序打開一個現(xiàn)有文件或者創(chuàng)建一個新文件時，內(nèi)核向進(jìn)程返回一個文件描述符。在程序設(shè)計中，一些涉及底層的程序編寫往往會圍繞著文件描述符展開。但是文件描述符這一概念往往只適用于UNIX、Linux這樣的操作系統(tǒng)。

進(jìn)程阻塞

正在執(zhí)行的進(jìn)程，由于期待的某些事件未發(fā)生，如請求系統(tǒng)資源失敗、等待某種操作的完成、新數(shù)據(jù)尚未到達(dá)或無新工作做等，則由系統(tǒng)自動執(zhí)行阻塞原語(Block)，使自己由運行狀態(tài)變?yōu)樽枞麪顟B(tài)。

可見，進(jìn)程的阻塞是進(jìn)程自身的一種主動行為，也因此只有處于運行態(tài)的進(jìn)程(獲得CPU)，才可能將其轉(zhuǎn)為阻塞狀態(tài)。當(dāng)進(jìn)程進(jìn)入阻塞狀態(tài)，是不占用CPU資源的。

進(jìn)程切換

為了控制進(jìn)程的執(zhí)行，內(nèi)核必須有能力掛起正在CPU上運行的進(jìn)程，并恢復(fù)以前掛起的某個進(jìn)程的執(zhí)行。這種行為被稱為進(jìn)程切換。因此可以說，任何進(jìn)程都是在操作系統(tǒng)內(nèi)核的支持下運行的，是與內(nèi)核緊密相關(guān)的。

從一個進(jìn)程的運行轉(zhuǎn)到另一個進(jìn)程上運行，這個過程中經(jīng)過下面這些變化：

1. 保存處理機上下文，包括程序計數(shù)器和其他寄存器。

上下文就是內(nèi)核再次喚醒當(dāng)前進(jìn)程時所需要的狀態(tài)，由一些對象(程序計數(shù)器、狀態(tài)寄存器、用戶棧等各種內(nèi)核數(shù)據(jù)結(jié)構(gòu))的值組成。

這些值包括描繪地址空間的頁表、包含進(jìn)程相關(guān)信息的進(jìn)程表、文件表等。

2. 更新PCB信息。

3. 把進(jìn)程的PCB移入相應(yīng)的隊列，如就緒、在某事件阻塞等隊列。

4. 選擇另一個進(jìn)程執(zhí)行，并更新其PCB。

5. 更新內(nèi)存管理的數(shù)據(jù)結(jié)構(gòu)。

6. 恢復(fù)處理機上下文。

總而言之就是很耗資源，具體的可以參考這篇文章：進(jìn)程切換

直接IO和緩存IO

緩存 I/O 又被稱作標(biāo)準(zhǔn) I/O，大多數(shù)文件系統(tǒng)的默認(rèn) I/O 操作都是緩存 I/O。在 Linux 的緩存 I/O 機制中，操作系統(tǒng)會將 I/O 的數(shù)據(jù)緩存在文件系統(tǒng)的頁緩存( page cache )中，也就是說，數(shù)據(jù)會先被拷貝到操作系統(tǒng)內(nèi)核的緩沖區(qū)中，然后才會從操作系統(tǒng)內(nèi)核的緩沖區(qū)拷貝到應(yīng)用程序的地址空間。

以write為例，數(shù)據(jù)會先被拷貝進(jìn)程緩沖區(qū)，在拷貝到操作系統(tǒng)內(nèi)核的緩沖區(qū)中，然后才會寫到存儲設(shè)備中。

直接I/O的write：(少了拷貝到進(jìn)程緩沖區(qū)這一步)

緩存 I/O 的缺點：

數(shù)據(jù)在傳輸過程中需要在應(yīng)用程序地址空間和內(nèi)核進(jìn)行多次數(shù)據(jù)拷貝操作，這些數(shù)據(jù)拷貝操作所帶來的 CPU 以及內(nèi)存開銷是非常大的。

IO 模式

對于一次IO訪問(以read舉例)，數(shù)據(jù)會先被拷貝到操作系統(tǒng)內(nèi)核的緩沖區(qū)中，然后才會從操作系統(tǒng)內(nèi)核的緩沖區(qū)拷貝到應(yīng)用程序的地址空間。所以說，當(dāng)一個read操作發(fā)生時，它會經(jīng)歷兩個階段：

1. 等待數(shù)據(jù)準(zhǔn)備 (Waiting for the data to be ready)

2. 將數(shù)據(jù)從內(nèi)核拷貝到進(jìn)程中 (Copying the data from the kernel to the process)

正式因為這兩個階段，linux系統(tǒng)產(chǎn)生了下面五種網(wǎng)絡(luò)模式的方案。

- 阻塞 I/O(blocking IO)

- 非阻塞 I/O(nonblocking IO)

- I/O 多路復(fù)用( IO multiplexing)

- 信號驅(qū)動 I/O( signal driven IO)實際中并不常用

- 異步 I/O(asynchronous IO)

阻塞IO

在linux中，默認(rèn)情況下所有的socket都是blocking，一個典型的讀操作流程大概是這樣：

read為例：

進(jìn)程發(fā)起read，進(jìn)行recvfrom系統(tǒng)調(diào)用;

內(nèi)核開始***階段，準(zhǔn)備數(shù)據(jù)(從磁盤拷貝到內(nèi)核緩沖區(qū))，進(jìn)程請求的數(shù)據(jù)并不是一下就能準(zhǔn)備好;準(zhǔn)備數(shù)據(jù)是要消耗時間的;

在這個過程中，整個用戶進(jìn)程將會被阻塞(進(jìn)程自己選擇的阻塞)，等待數(shù)據(jù);

直到數(shù)據(jù)從內(nèi)核拷貝到了用戶空間，內(nèi)核返回結(jié)果，進(jìn)程解除阻塞，重新運行起來。

因此，內(nèi)核準(zhǔn)備數(shù)據(jù)和數(shù)據(jù)從內(nèi)核拷貝到進(jìn)程內(nèi)存地址這兩個過程都是阻塞的。

非阻塞IO模型

可以通過設(shè)置socket使其變?yōu)閚on-blocking。當(dāng)對一個non-blocking socket執(zhí)行讀操作時，流程是這個樣子：

當(dāng)用戶進(jìn)程發(fā)出read操作時，如果kernel中的數(shù)據(jù)還沒有準(zhǔn)備好;

那么它并不會block用戶進(jìn)程，而是立刻返回一個error，從用戶進(jìn)程角度講 ，它發(fā)起一個read操作后，并不需要等待，而是馬上就得到了一個結(jié)果;

用戶進(jìn)程判斷結(jié)果是一個error時，它就知道數(shù)據(jù)還沒有準(zhǔn)備好，于是它可以再次發(fā)送read操作。一旦kernel中的數(shù)據(jù)準(zhǔn)備好了，并且又再次收到了用戶進(jìn)程的system call;

那么它馬上就將數(shù)據(jù)拷貝到了用戶內(nèi)存，然后返回。

所以，nonblocking IO的特點是用戶進(jìn)程在內(nèi)核準(zhǔn)備數(shù)據(jù)的階段需要不斷的主動詢問數(shù)據(jù)好了沒有。

IO多路復(fù)用

I/O多路復(fù)用使用select, poll, epoll監(jiān)聽多個io對象，當(dāng)io對象有變化(有數(shù)據(jù))的時候就通知用戶進(jìn)程。好處就是單個進(jìn)程可以處理多個socket。當(dāng)然具體區(qū)別我們后面再討論，現(xiàn)在先來看下I/O多路復(fù)用的流程：

當(dāng)用戶進(jìn)程調(diào)用了select，那么整個進(jìn)程會被block;

而同時，kernel會“監(jiān)視”所有select負(fù)責(zé)的socket;

當(dāng)任何一個socket中的數(shù)據(jù)準(zhǔn)備好了，select就會返回;

這個時候用戶進(jìn)程再調(diào)用read操作，將數(shù)據(jù)從kernel拷貝到用戶進(jìn)程。

所以，I/O 多路復(fù)用的特點是通過一種機制一個進(jìn)程能同時等待多個文件描述符，而這些文件描述符(套接字描述符)其中的任意一個進(jìn)入讀就緒狀態(tài)，select()函數(shù)就可以返回。

和阻塞IO相比，這里需要使用兩個system call (select 和 recvfrom)，而blocking IO只調(diào)用了一個system call (recvfrom)。但是，用select的優(yōu)勢在于它可以同時處理多個connection。

所以，如果處理的連接數(shù)不是很高的話，使用select/epoll的web server不一定比使用多線程 + 阻塞 IO的web server性能更好，可能延遲還更大。

select/epoll的優(yōu)勢并不是對于單個連接能處理得更快，而是在于能處理更多的連接。

在IO multiplexing Model中，實際中，對于每一個socket，一般都設(shè)置成為non-blocking，但是，如上圖所示，整個用戶的process其實是一直被block的。只不過process是被select這個函數(shù)block，而不是被socket IO給block。

異步 IO

用戶進(jìn)程發(fā)起read操作之后，立刻就可以開始去做其它的事。

而另一方面，從kernel的角度，當(dāng)它受到一個asynchronous read之后，首先它會立刻返回，所以不會對用戶進(jìn)程產(chǎn)生任何block。

然后，kernel會等待數(shù)據(jù)準(zhǔn)備完成，然后將數(shù)據(jù)拷貝到用戶內(nèi)存，當(dāng)這一切都完成之后，kernel會給用戶進(jìn)程發(fā)送一個signal，告訴它read操作完成了。

小結(jié)

在non-blocking IO中，雖然進(jìn)程大部分時間都不會被block，但是它仍然要求進(jìn)程去主動的check，并且當(dāng)數(shù)據(jù)準(zhǔn)備完成以后，也需要進(jìn)程主動的再次調(diào)用recvfrom來將數(shù)據(jù)拷貝到用戶內(nèi)存。

而asynchronous IO則完全不同。它就像是用戶進(jìn)程將整個IO操作交給了他人(kernel)完成，然后他人做完后發(fā)信號通知。在此期間，用戶進(jìn)程不需要去檢查IO操作的狀態(tài)，也不需要主動的去拷貝數(shù)據(jù)。