詳細(xì)解讀ASP.NET的異步
在前文中,介紹了.NET下的多種異步的形式,在WEB程序中,天生就是多線程的,因此使用異步應(yīng)該更為謹(jǐn)慎。本文將著重展開ASP.NET中的異步。
【注意】本文中提到的異步指的是服務(wù)器端異步,而非客戶端異步(Ajax)。
對于HTTP的請求響應(yīng)模型,服務(wù)器無法主動通知或回調(diào)客戶端,當(dāng)客戶端發(fā)起一個請求后,必須保持連接等待服務(wù)器的返回結(jié)果,才能繼續(xù)處理,因此,對于客戶端來說,請求與響應(yīng)是無法異步進(jìn)行,也就是說無論服務(wù)器如何處理請求,對于客戶端來說沒有任何差別。

那么ASP.NET異步指的又是什么,解決了什么問題呢?
在解釋ASP.NET異步前,先來考察下ASP.NET線程模型。
ASP.NET線程模型
我們知道,一個WEB服務(wù)可以同時服務(wù)器多個用戶,我們可以想象一下,WEB程序應(yīng)該運(yùn)行于多線程環(huán)境中,對于運(yùn)行WEB程序的線程,我們可以稱之為WEB線程,那么,先來看看WEB線程長什么樣子吧。
我們可以用一個HttpHandler輸出一些內(nèi)容。
- public class Handler : IHttpHandler
 - {
 - public void ProcessRequest(HttpContext context)
 - {
 - context.Response.ContentType = "text/plain";
 - var thread = Thread.CurrentThread;
 - context.Response.Write(
 - string.Format("Name:{0}\r\nManagedThreadId:{1}\r\nIsBackground:{2}\r\nIsThreadPoolThread:{3}",
 - thread.Name,
 - thread.ManagedThreadId,
 - thread.IsBackground,
 - thread.IsThreadPoolThread)
 - );
 - }
 - public bool IsReusable
 - {
 - get {return true;}
 - }
 - }
 
你可以看到類似于這樣的結(jié)果:
Name:
ManagedThreadId:57
IsBackground:True
IsThreadPoolThread:True
這里可以看到,WEB線程是一個沒有名稱的線程池中的線程,如果刷新這個頁面,還有機(jī)會看到 ManagedThreadId 在不斷變化,并且可能重復(fù)出現(xiàn)。說明WEB程序有機(jī)會運(yùn)行于線程池中的不同線程。
為了模擬多用戶并發(fā)訪問的情況,我們需要對這個處理程序添加人為的延時,并輸出線程相關(guān)信息與開始結(jié)束時間,再通過客戶端程序同時發(fā)起多個請求,查看返回的內(nèi)容,分析請求的處理情況。
- public void ProcessRequest(HttpContext context)
 - {
 - DateTime begin = DateTime.Now;
 - int t1, t2, t3;
 - ThreadPool.GetAvailableThreads(out t1, out t3);
 - ThreadPool.GetMaxThreads(out t2, out t3);
 - Thread.Sleep(TimeSpan.FromSeconds(10));
 - DateTime end = DateTime.Now;
 - context.Response.ContentType = "text/plain";
 - var thread = Thread.CurrentThread;
 - context.Response.Write(
 - string.Format("TId:{0}\tApp:{1}\tBegin:{2:mm:ss,ffff}\tEnd:{3:mm:ss,ffff}\tTPool:{4}",
 - thread.ManagedThreadId,
 - context.ApplicationInstance.GetHashCode(),
 - begin,
 - end,
 - t2 - t1
 - )
 - );
 - }
 
我們用一個命令行程序來發(fā)起請求,并顯示結(jié)果。
- static void Main()
 - {
 - var url = new Uri("http://localhost:8012/Handler.ashx");
 - var num = 50;
 - for (int i = 0; i < num; i++)
 - {
 - var request = WebRequest.Create(url);
 - request.GetResponseAsync().ContinueWith(t =>
 - {
 - var stream = t.Result.GetResponseStream();
 - using (TextReader tr = new StreamReader(stream))
 - {
 - Console.WriteLine(tr.ReadToEnd());
 - }
 - });
 - }
 - Console.ReadLine();
 - }
 
這里,我們同時發(fā)起了50個請求,然后觀察響應(yīng)的情況。
【注意】后面的結(jié)果會因為操作系統(tǒng)、IIS版本、管道模式、.NET版本、配置項 的不同而不同,以下結(jié)果為在Windows Server 2008 R2 + IIS7.5 + .NET 4.5 beta(.NET 4 runtime) + 默認(rèn)配置 中測試的結(jié)果,在沒有特別說明的情況下,均為重啟IIS后第一次運(yùn)行的情況。
這個程序在我的電腦運(yùn)行結(jié)果是這樣的: 
- TId:6 App:35898671 Begin:55:30,3176 End:55:40,3182 TPool:2
 - TId:5 App:22288629 Begin:55:30,3176 End:55:40,3212 TPool:2
 - TId:7 App:12549444 Begin:55:31,0426 End:55:41,0432 TPool:3
 - TId:8 App:22008501 Begin:55:31,5747 End:55:41,5752 TPool:4
 - TId:9 App:37121646 Begin:55:32,1067 End:55:42,1073 TPool:5
 - TId:10 App:33156464 Begin:55:32,6387 End:55:42,6393 TPool:6
 - TId:11 App:7995840 Begin:55:33,1707 End:55:43,1713 TPool:7
 - TId:12 App:36610825 Begin:55:33,7028 End:55:43,7033 TPool:8
 - TId:13 App:20554616 Begin:55:34,2048 End:55:44,2054 TPool:9
 - TId:14 App:15510466 Begin:55:35,2069 End:55:45,2074 TPool:10
 - TId:15 App:23324256 Begin:55:36,2049 End:55:46,2055 TPool:11
 - TId:16 App:34250480 Begin:55:37,2050 End:55:47,2055 TPool:12
 - TId:17 App:58408916 Begin:55:38,2050 End:55:48,2056 TPool:13
 - TId:18 App:2348279 Begin:55:39,2051 End:55:49,2057 TPool:14
 - TId:19 App:61669314 Begin:55:40,2051 End:55:50,2057 TPool:15
 - TId:6 App:35898671 Begin:55:40,3212 End:55:50,3217 TPool:15
 - TId:5 App:22288629 Begin:55:40,3232 End:55:50,3237 TPool:15
 - TId:7 App:12549444 Begin:55:41,0432 End:55:51,0438 TPool:15
 - TId:8 App:22008501 Begin:55:41,5752 End:55:51,5758 TPool:15
 - TId:9 App:37121646 Begin:55:42,1073 End:55:52,1078 TPool:15
 - TId:10 App:33156464 Begin:55:42,6393 End:55:52,6399 TPool:15
 - TId:11 App:7995840 Begin:55:43,1713 End:55:53,1719 TPool:15
 - TId:12 App:36610825 Begin:55:43,7043 End:55:53,7049 TPool:15
 - TId:13 App:20554616 Begin:55:44,2054 End:55:54,2059 TPool:15
 - TId:20 App:36865354 Begin:55:45,2074 End:55:55,2080 TPool:16
 - TId:14 App:15510466 Begin:55:45,2084 End:55:55,2090 TPool:16
 - TId:21 App:3196068 Begin:55:46,2055 End:55:56,2061 TPool:17
 - TId:15 App:23324256 Begin:55:46,2065 End:55:56,2071 TPool:17
 - TId:22 App:4186222 Begin:55:47,2055 End:55:57,2061 TPool:18
 - TId:16 App:34250480 Begin:55:47,2065 End:55:57,2071 TPool:18
 - TId:23 App:764807 Begin:55:48,2046 End:55:58,2052 TPool:19
 - TId:17 App:58408916 Begin:55:48,2056 End:55:58,2062 TPool:19
 - TId:24 App:10479095 Begin:55:49,2047 End:55:59,2052 TPool:20
 - TId:18 App:2348279 Begin:55:49,2057 End:55:59,2062 TPool:20
 - TId:25 App:4684807 Begin:55:50,2047 End:56:00,2053 TPool:21
 - TId:19 App:61669314 Begin:55:50,2057 End:56:00,2063 TPool:21
 - TId:6 App:35898671 Begin:55:50,3227 End:56:00,3233 TPool:21
 - TId:5 App:22288629 Begin:55:50,3237 End:56:00,3243 TPool:21
 - TId:7 App:12549444 Begin:55:51,0438 End:56:01,0443 TPool:21
 - TId:8 App:22008501 Begin:55:51,5758 End:56:01,5764 TPool:21
 - TId:9 App:37121646 Begin:55:52,1078 End:56:02,1084 TPool:21
 - TId:10 App:33156464 Begin:55:52,6399 End:56:02,6404 TPool:21
 - TId:11 App:7995840 Begin:55:53,1719 End:56:03,1725 TPool:21
 - TId:26 App:41662089 Begin:55:53,7049 End:56:03,7055 TPool:22
 - TId:12 App:36610825 Begin:55:53,7059 End:56:03,7065 TPool:22
 - TId:13 App:20554616 Begin:55:54,2069 End:56:04,2075 TPool:22
 - TId:27 App:46338128 Begin:55:55,2070 End:56:05,2076 TPool:23
 - TId:14 App:15510466 Begin:55:55,2090 End:56:05,2096 TPool:23
 - TId:20 App:36865354 Begin:55:55,2090 End:56:05,2096 TPool:23
 - TId:28 App:28975576 Begin:55:56,2051 End:56:06,2056 TPool:24
 
從這個結(jié)果大概可以看出,開始兩個請求幾乎同時開始處理,因為線程池最小線程數(shù)為2(可配置),緊接著后面的請求會每隔半秒鐘開始一個,因為如果池中的線程都忙,會等待半秒(.NET版本不同而不同),如果還是沒有線程釋放則開啟新的線程,直到達(dá)到最大線程數(shù)(可配置)。未能在線程池中處理的請求將被放入請求隊列,當(dāng)一個線程釋放后,下一個請求緊接著開始在該線程處理。
最終50個請求共產(chǎn)生24個線程,總用時約35.9秒。
光看數(shù)據(jù)不夠形象,用簡單的代碼把數(shù)據(jù)轉(zhuǎn)換成圖形吧,下面是100個請求的處理過程。

我們可以看到,當(dāng)WEB線程長時間被占用時,請求會由于線程池而阻塞,同時產(chǎn)生大量的線程,最終響應(yīng)時間變長。
作為對比,我們列出處理時間10毫秒的數(shù)據(jù)。
- TId:6 App:44665200 Begin:41:07,9932 End:41:08,0032 TPool:2
 - TId:5 App:37489757 Begin:41:07,9932 End:41:08,0032 TPool:2
 - TId:5 App:44665200 Begin:41:08,0042 End:41:08,0142 TPool:2
 - TId:6 App:37489757 Begin:41:08,0052 End:41:08,0152 TPool:2
 - TId:5 App:44665200 Begin:41:08,0142 End:41:08,0242 TPool:2
 - TId:6 App:37489757 Begin:41:08,0152 End:41:08,0252 TPool:2
 - TId:5 App:44665200 Begin:41:08,0242 End:41:08,0342 TPool:2
 - TId:6 App:37489757 Begin:41:08,0252 End:41:08,0352 TPool:2
 - TId:5 App:44665200 Begin:41:08,0342 End:41:08,0442 TPool:2
 - TId:6 App:37489757 Begin:41:08,0352 End:41:08,0452 TPool:2
 - TId:5 App:44665200 Begin:41:08,0442 End:41:08,0542 TPool:2
 - TId:6 App:37489757 Begin:41:08,0452 End:41:08,0552 TPool:2
 - TId:5 App:44665200 Begin:41:08,0542 End:41:08,0642 TPool:2
 - TId:6 App:37489757 Begin:41:08,0552 End:41:08,0652 TPool:2
 - TId:5 App:44665200 Begin:41:08,0642 End:41:08,0742 TPool:2
 - TId:6 App:37489757 Begin:41:08,0652 End:41:08,0752 TPool:2
 - TId:5 App:44665200 Begin:41:08,0742 End:41:08,0842 TPool:2
 - TId:6 App:37489757 Begin:41:08,0752 End:41:08,0852 TPool:2
 - TId:5 App:44665200 Begin:41:08,0842 End:41:08,0942 TPool:2
 - TId:6 App:37489757 Begin:41:08,0852 End:41:08,0952 TPool:2
 - TId:5 App:44665200 Begin:41:08,0942 End:41:08,1042 TPool:2
 - TId:6 App:37489757 Begin:41:08,0952 End:41:08,1052 TPool:2
 - TId:5 App:44665200 Begin:41:08,1042 End:41:08,1142 TPool:2
 - TId:6 App:37489757 Begin:41:08,1052 End:41:08,1152 TPool:2
 - TId:5 App:44665200 Begin:41:08,1142 End:41:08,1242 TPool:2
 - TId:6 App:37489757 Begin:41:08,1152 End:41:08,1252 TPool:2
 - TId:5 App:44665200 Begin:41:08,1242 End:41:08,1342 TPool:2
 - TId:6 App:37489757 Begin:41:08,1252 End:41:08,1352 TPool:2
 - TId:5 App:44665200 Begin:41:08,1342 End:41:08,1442 TPool:2
 - TId:6 App:37489757 Begin:41:08,1352 End:41:08,1452 TPool:2
 - TId:5 App:44665200 Begin:41:08,1442 End:41:08,1542 TPool:2
 - TId:6 App:37489757 Begin:41:08,1452 End:41:08,1552 TPool:2
 - TId:5 App:44665200 Begin:41:08,1542 End:41:08,1642 TPool:2
 - TId:6 App:37489757 Begin:41:08,1552 End:41:08,1652 TPool:2
 - TId:5 App:44665200 Begin:41:08,1642 End:41:08,1742 TPool:2
 - TId:6 App:37489757 Begin:41:08,1652 End:41:08,1752 TPool:2
 - TId:5 App:44665200 Begin:41:08,1742 End:41:08,1842 TPool:3
 - TId:7 App:12547953 Begin:41:08,1752 End:41:08,1852 TPool:3
 - TId:6 App:37489757 Begin:41:08,1762 End:41:08,1862 TPool:3
 - TId:5 App:44665200 Begin:41:08,1842 End:41:08,1942 TPool:3
 - TId:7 App:12547953 Begin:41:08,1852 End:41:08,1952 TPool:3
 - TId:6 App:37489757 Begin:41:08,1862 End:41:08,1962 TPool:3
 - TId:5 App:44665200 Begin:41:08,1942 End:41:08,2042 TPool:3
 - TId:7 App:12547953 Begin:41:08,1952 End:41:08,2092 TPool:3
 - TId:6 App:37489757 Begin:41:08,1962 End:41:08,2102 TPool:3
 - TId:5 App:44665200 Begin:41:08,2052 End:41:08,2152 TPool:3
 - TId:7 App:12547953 Begin:41:08,2092 End:41:08,2192 TPool:3
 - TId:6 App:37489757 Begin:41:08,2102 End:41:08,2202 TPool:3
 - TId:5 App:44665200 Begin:41:08,2152 End:41:08,2252 TPool:3
 - TId:7 App:12547953 Begin:41:08,2192 End:41:08,2292 TPool:3
 
共產(chǎn)生線程3個,總用時0.236秒。
根據(jù)以上的數(shù)據(jù),我們可以得出結(jié)論,要提高系統(tǒng)響應(yīng)時間與并發(fā)處理數(shù),應(yīng)盡可能減少WEB線程的等待。
【略】請各位自行查驗當(dāng)一次并發(fā)全部處理完畢后再次測試的處理情況。
【略】請各位自行查驗當(dāng)處理程序中使用線程池處理等待任務(wù)的處理情況。
如何減少WEB線程的等待呢,那就應(yīng)該盡早的結(jié)果ProcessRequest方法,前一篇中講到,對于一些需要等待完成的任務(wù),可以使用異步方法來做,于是我們可以在ProcessRequest中調(diào)用異步方法,但問題是當(dāng)ProcessRequest結(jié)束后,請求處理也即將結(jié)束,一但請求結(jié)束,將沒有辦法在這一次請求中返回結(jié)果給客戶端,但是此時,異步任務(wù)還沒有完成,當(dāng)異步任務(wù)完成時,也許再也沒有辦法將結(jié)果傳給客戶端了。(難道用輪詢?囧)
我們需要的方案是,處理請求時可以暫停處理(不是暫停線程),并保持客戶端連接,在需要時,向客戶端輸出結(jié)果,并結(jié)束請求。

在這個模型中,可以看到,對于WebServerRuntime來說,我們的請求處理程序就是一個異步方法,而對于客戶端來說,卻并不知道后面的處理情況。無論在WebServerRuntime或是我們的處理程序,都沒有直接占用線程,一切由何時SetComplete決定。同時可以看到,這種模式需要WebServerRuntime的緊密配合,提供調(diào)用異步方法的接口。在ASP.NET中,這個接口就是IHttpAsyncHandler。
異步ASP.NET處理程序
首先,我們來實現(xiàn)第一個異步處理程序,在適當(dāng)?shù)臅r候觸發(fā)結(jié)束,在開始和結(jié)束時輸出一些信息。
- public class Handler : IHttpHandler, IHttpAsyncHandler
 - {
 - public void ProcessRequest(HttpContext context)
 - {
 - //異步處理器不執(zhí)行該方法
 - }
 - public bool IsReusable
 - {
 - //設(shè)置允許重用對象
 - get { return false; }
 - }
 - //請求開始時由ASP.NET調(diào)用此方法
 - public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)
 - {
 - context.Response.ContentType = "text/xml";
 - context.Response.Write("App:");
 - context.Response.Write(context.ApplicationInstance.GetHashCode());
 - context.Response.Write("\tBegin:");
 - context.Response.Write(DateTime.Now.ToString("mm:ss,ffff"));
 - //輸出當(dāng)前線程
 - context.Response.Write("\tThreadId:");
 - context.Response.Write(Thread.CurrentThread.ManagedThreadId);
 - //構(gòu)建異步結(jié)果并返回
 - var result = new WebAsyncResult(cb, context);
 - //用一個定時器來模擬異步觸發(fā)完成
 - Timer timer = null;
 - timer = new Timer(o =>
 - {
 - result.SetComplete();
 - timer.Dispose();
 - }, null, TimeSpan.FromSeconds(5), TimeSpan.FromSeconds(5));
 - return result;
 - }
 - //異步結(jié)束時,由ASP.NET調(diào)用此方法
 - public void EndProcessRequest(IAsyncResult result)
 - {
 - WebAsyncResult webresult = (WebAsyncResult)result;
 - webresult.Context.Response.Write("\tEnd:");
 - webresult.Context.Response.Write(DateTime.Now.ToString("mm:ss,ffff"));
 - //輸出當(dāng)前線程
 - webresult.Context.Response.Write("\tThreadId:");
 - webresult.Context.Response.Write(Thread.CurrentThread.ManagedThreadId);
 - }
 - //WEB異步方法結(jié)果
 - class WebAsyncResult : IAsyncResult
 - {
 - private AsyncCallback _callback;
 - public WebAsyncResult(AsyncCallback cb, HttpContext context)
 - {
 - Context = context;
 - _callback = cb;
 - }
 - //當(dāng)異步完成時調(diào)用該方法
 - public void SetComplete()
 - {
 - IsCompleted = true;
 - if (_callback != null)
 - {
 - _callback(this);
 - }
 - }
 - public HttpContext Context
 - {
 - get;
 - private set;
 - }
 - public object AsyncState
 - {
 - get { return null; }
 - }
 - //由于ASP.NET不會等待WEB異步方法,所以不使用此對象
 - public WaitHandle AsyncWaitHandle
 - {
 - get { throw new NotImplementedException(); }
 - }
 - public bool CompletedSynchronously
 - {
 - get { return false; }
 - }
 - public bool IsCompleted
 - {
 - get;
 - private set;
 - }
 - }
 - }
 
在這里,我們實現(xiàn)了一個簡單的AsyncResult,由于ASP.NET通過回調(diào)方法獲取異步完成,不會等待異步,所以不需要WaitHandle。在開始請求時,建立一個AsyncResult后直接返回,當(dāng)異步完成時,調(diào)用AsyncResult的SetComplete方法,調(diào)用回調(diào)方法,再由 ASP.NET調(diào)用異步結(jié)束。此時整個請求即完成。
當(dāng)我們訪問這個地址,可以得到類似于下面的結(jié)果:
App:11240144 Begin:37:24,2676 ThreadId:6 End:37:29,2619 ThreadId:6
可以看到開始和結(jié)束在同一個線程中運(yùn)行。

當(dāng)有多個并發(fā)請求時,線程池將忙碌起來,開始與結(jié)束處理也獎有機(jī)會運(yùn)行于不同的線程上。50個請求并發(fā)時的處理數(shù)據(jù):
- App:52307948 Begin:39:47,8128 ThreadId:6 End:39:52,8231 ThreadId:5
 - App:58766839 Begin:39:47,8358 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:23825510 Begin:39:47,8348 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:30480920 Begin:39:47,8348 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:62301924 Begin:39:47,8348 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:28062782 Begin:39:47,8338 ThreadId:5 End:39:52,8321 ThreadId:6
 - App:41488021 Begin:39:47,8338 ThreadId:6 End:39:52,8321 ThreadId:7
 - App:15315213 Begin:39:47,8338 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:17228638 Begin:39:47,8328 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:51438283 Begin:39:47,8328 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:32901400 Begin:39:47,8328 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:61925337 Begin:39:47,8358 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:24914721 Begin:39:47,8318 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:26314214 Begin:39:47,8318 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:51004322 Begin:39:47,8358 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:51484875 Begin:39:47,8308 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:19420176 Begin:39:47,8308 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:16868352 Begin:39:47,8298 ThreadId:6 End:39:52,8321 ThreadId:7
 - App:61115195 Begin:39:47,8298 ThreadId:5 End:39:52,8321 ThreadId:6
 - App:63062333 Begin:39:47,8288 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:53447344 Begin:39:47,8298 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:31665793 Begin:39:47,8288 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:2174563 Begin:39:47,8288 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:12053474 Begin:39:47,8318 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:41728762 Begin:39:47,8278 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:6385742 Begin:39:47,8278 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:13009416 Begin:39:47,8268 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:43205102 Begin:39:47,8268 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:14333193 Begin:39:47,8268 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:2808346 Begin:39:47,8258 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:37489757 Begin:39:47,8128 ThreadId:5 End:39:52,8231 ThreadId:6
 - App:34106743 Begin:39:47,8258 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:30180123 Begin:39:47,8248 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:44313942 Begin:39:47,8248 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:12611187 Begin:39:47,8248 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:7141266 Begin:39:47,8238 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:25425822 Begin:39:47,8278 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:51288387 Begin:39:47,8238 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:66166301 Begin:39:47,8228 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:34678979 Begin:39:47,8228 ThreadId:6 End:39:52,8321 ThreadId:7
 - App:10104599 Begin:39:47,8218 ThreadId:5 End:39:52,8321 ThreadId:6
 - App:47362231 Begin:39:47,8258 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:40535505 Begin:39:47,8218 ThreadId:6 End:39:52,8321 ThreadId:7
 - App:20726372 Begin:39:47,8368 ThreadId:5 End:39:52,8321 ThreadId:5
 - App:2730334 Begin:39:47,8368 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:59884855 Begin:39:47,8368 ThreadId:5 End:39:52,8321 ThreadId:7
 - App:39774547 Begin:39:47,8238 ThreadId:6 End:39:52,8321 ThreadId:6
 - App:12070837 Begin:39:47,8378 ThreadId:6 End:39:52,8491 ThreadId:7
 - App:64828693 Begin:39:47,8218 ThreadId:5 End:39:52,8331 ThreadId:6
 - App:14509978 Begin:39:47,9308 ThreadId:6 End:39:52,9281 ThreadId:5
 
可以看到,從始至終只由3個線程處理所有的請求,總共時間約5.12秒。
為簡化分析,我們用下面的圖來示意異步處理程序的并發(fā)處理過程。

這樣,我們就可以通過異步的方式,將WEB線程撤底釋放出來。由WEB線程進(jìn)行請求的接收與結(jié)束處理,耗時的操作與等待都進(jìn)行異步處理。這樣少量的WEB線程就可以承受大量的并發(fā)請求,WEB線程將不再成為系統(tǒng)的瓶頸。
在大并發(fā)的異步模式下,和前面的數(shù)據(jù)相比較,可以看到HttpApplication的對象數(shù)量隨并發(fā)處理數(shù)提高而提高,隨之帶來的一系列數(shù)據(jù)結(jié)構(gòu),如 HttpHandler緩存,是需要考慮的內(nèi)存開銷。同時,在異步模式下,請求的完成需要編程的方式來控制,在觸發(fā)完成前,客戶端連接、 HttpContext對象都保持活動狀態(tài),客戶端也一直保持等待,直到超時。因此,異步模式下需要更細(xì)致的資源操作。
我們來看ASP.NET異步 的典型應(yīng)用場景。
場景一:處理過程中有需要等待的任務(wù),并且可以使用異步完成的。
- //同步方法
 - public void ProcessRequest(HttpContext context)
 - {
 - FileStream fs = new FileStream("", FileMode.Open, FileAccess.Read, FileShare.ReadWrite, 4096, FileOptions.Asynchronous);
 - fs.CopyTo(context.Response.OutputStream);
 - }
 - //異步方法開始
 - public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)
 - {
 - FileStream fs = new FileStream("D:\\a.txt", FileMode.Open, FileAccess.Read, FileShare.ReadWrite, 4096, FileOptions.Asynchronous);
 - var task = fs.CopyToAsync(context.Response.OutputStream);
 - task.GetAwaiter().OnCompleted(() => cb(task));
 - return task;
 - }
 - //異步方法結(jié)束
 - public void EndProcessRequest(IAsyncResult result)
 - {
 - }
 
這個處理程序讀取服務(wù)器的文件并輸出到客戶端。
- //同步方法
 - public void ProcessRequest(HttpContext context)
 - {
 - var url = context.Request.QueryString["url"];
 - var request = (HttpWebRequest)WebRequest.Create(url);
 - var response = request.GetResponse();
 - var stream = response.GetResponseStream();
 - stream.CopyTo(context.Response.OutputStream);
 - }
 - //異步方法開始
 - public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)
 - {
 - //構(gòu)建異步結(jié)果并返回
 - var result = new WebAsyncResult(cb, context);
 - var url = context.Request.QueryString["url"];
 - var request = (HttpWebRequest)WebRequest.Create(url);
 - var responseTask = request.GetResponseAsync();
 - responseTask.GetAwaiter().OnCompleted(() =>
 - {
 - var stream = responseTask.Result.GetResponseStream();
 - stream.CopyToAsync(context.Response.OutputStream).GetAwaiter().OnCompleted(() =>
 - {
 - result.SetComplete();
 - });
 - });
 - return result;
 - }
 - //異步方法結(jié)束
 - public void EndProcessRequest(IAsyncResult result)
 - {
 - }
 
這是一個簡單的代理,服務(wù)器獲取WEB資源后寫回。
在這類程序中,我們提供的異步處理程序調(diào)用了IOCP異步方法,使得大量節(jié)省了WEB線程的占用,相比同步處理程序來說,并發(fā)量會得到相當(dāng)大的提升。
【注意】前面提到,由于WEB線程屬于線程池線程,因此,如果在線程池中加入任務(wù),將同樣會影響并發(fā)處理數(shù)。而在異步處理程序中,由線程池來完成異步將得不到任何本質(zhì)上的提升,因此在異步處理程序中禁止操作線程池(ThreadPool.QueueUserWorkItem、 delegate.BeginInvoke,Task.Run等)。如果確定需要使用多線程來處理大量的計算,需要自己開啟線程或?qū)崿F(xiàn)自己的線程池。
- public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)
 - {
 - return new Action(() =>
 - {
 - Thread.Sleep(1000);
 - context.Response.Write("OK");
 - }).BeginInvoke(cb, extraData);
 - }
 
上面的代碼將無法達(dá)到異步的效果。

雖然等待工作交由另一線程去操作,但是該線程與WEB線程性質(zhì)相同,同樣會導(dǎo)致其他請求阻塞。
【思考】如果我們的程序中的確需要有大量的計算,那么可以考慮將這些計算提取到獨立的應(yīng)用服務(wù)器中,然后通過網(wǎng)絡(luò)IOCP異步調(diào)用,達(dá)到WEB服務(wù)器的高吞吐量與系統(tǒng)的平行擴(kuò)展性。
典型應(yīng)用場景二:長連接消息推送。
一般來說,在WEB中獲取服務(wù)器消息,采用輪詢的方式,這種方式不可避免會有延時,當(dāng)我們需要即時消息的推送時(如WEBIM),需要用到長連接。
長連接方式,由客戶端發(fā)起請求,服務(wù)器端接收后暫停處理并保持連接,當(dāng)需要發(fā)送消息給客戶端時,輸出內(nèi)容并結(jié)束處理,客戶端得到消息或者超時后,再次發(fā)起連接。如此達(dá)到在HTTP協(xié)議上服務(wù)器消息即時推送到客戶端的目的。

在這種情況下,我們希望服務(wù)器盡可能長時間保持連接,如果采用同步處理程序,則連接數(shù)受到服務(wù)器線程數(shù)的限制,而異步處理程序則可以很好的解決這個問題。異步處理程序開始時,收集相關(guān)信息,并放入集合后返回異步結(jié)果。當(dāng)需要向這個客戶端發(fā)送消息時,從客戶端集合中找到需要發(fā)送的目標(biāo),發(fā)送完成即可。
首先,我們需要對客戶端進(jìn)行標(biāo)識,這個標(biāo)識往往采用sessionid來做,本例中簡單起見,通過客戶端傳遞參數(shù)獲取。
- public class WebAsyncResult : IAsyncResult
 - {
 - private AsyncCallback _callback;
 - public WebAsyncResult(AsyncCallback cb, HttpContext context, string clientID)
 - {
 - Context = context;
 - ClientID = clientID;
 - _callback = cb;
 - }
 - //當(dāng)異步完成時調(diào)用該方法
 - public void SetComplete()
 - {
 - IsCompleted = true;
 - if (_callback != null)
 - {
 - _callback(this);
 - }
 - }
 
我們需要一個集合來保存連接中的客戶端,提供一個向這些客戶端發(fā)送消息的方法。
- public class WebAsyncResultCollection : List<WebAsyncResult>, ICollection<WebAsyncResult>
 - {
 - private static WebAsyncResultCollection _instance = new WebAsyncResultCollection();
 - public static WebAsyncResultCollection Instance
 - {
 - get { return WebAsyncResultCollection._instance; }
 - }
 - public bool SendMessage(string clientID, string message)
 - {
 - var result = this.FirstOrDefault(r => r.ClientID == clientID);
 - if (result != null)
 - {
 - Remove(result);
 - bool sendsuccess = false;
 - if (result.Context.Response.IsClientConnected)
 - {
 - sendsuccess = true;
 - result.Context.Response.Write(message);
 - }
 - result.SetComplete();
 - return sendsuccess;
 - }
 - return false;
 - }
 - }
 
對于異步處理程序的開始方法,我們收集信息并放入集合。
- public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)
 - {
 - var clientID = context.Request.QueryString["id"];
 - WebAsyncResultCollection.Instance.SendMessage(clientID, "ClearClientID");
 - WebAsyncResult result = new WebAsyncResult(cb, context, clientID);
 - WebAsyncResultCollection.Instance.Add(result);
 - return result;
 - }
 
【不完善】由于客戶端收到一次消息后結(jié)束請求,由客戶端再次發(fā)起請求,中間會有部分時間間隙,在這間隙中向該客戶端發(fā)送的消息將丟失,解決方案是維護(hù)另一個用戶是否在線的表,如果用戶不在線,則處理離線消息,如果在線,并且正在連接中,則按上述處理,如果不在連接中,則緩存在服務(wù)器,當(dāng)客戶端再次連接時,首先檢查緩存的消息,如果有未接消息,則獲取消息并立即返回。
發(fā)送消息的處理程序。
- public class SendMessage : IHttpHandler
 - {
 - public void ProcessRequest(HttpContext context)
 - {
 - var clientID = context.Request.QueryString["clientID"];
 - var message = context.Request.QueryString["message"];
 - WebAsyncResultCollection.Instance.SendMessage(clientID, message);
 - }
 - public bool IsReusable
 - {
 - get
 - {
 - return true;
 - }
 - }
 - }
 
可以在任何需要的位置向客戶端發(fā)送消息。
【不完善】我們需要定時刷新客戶端集合,對于長時間未處理的客戶端進(jìn)行超時結(jié)束處理。
通過異步處理程序構(gòu)建的長連接消息推送機(jī)制,單臺服務(wù)器可以輕松支持上萬個并發(fā)連接。
異步Action
在ASP.NET MVC 4中,添加了對異步Action的支持。

在ASP.NET MVC4中,整個處理過程都是異步的。
在圖中可以看到,最右邊的ActionDescriptor將決定如何調(diào)用我們的Action方法,而如何調(diào)用是由具體的Action方法形式?jīng)Q定,ASP.NET MVC會根據(jù)不同的方法形式創(chuàng)建不同的ActionDescriptor實例,從而調(diào)用不同的處理過程。對于傳統(tǒng)的方法,則使用 ReflectedActionDescriptor,他實現(xiàn)Execute方法,調(diào)用我們的Action,并在 AsyncControllerActionInvoker包裝成同步調(diào)用。而異步調(diào)用在ASP.NET MVC 4 中有兩種模式。
異步Action模式一:AsyncController/XXXAsync/XXXCompleted
我們可以使一個Controller繼承自AsyncController,按照約定同時提供兩個方法,分別命名為 XXXAsync/XXXCompleted,ASP.NET MVC則會將他們包裝成ReflectedAsyncActionDescriptor。
- public class DefaultController : AsyncController
 - {
 - public void DoAsync()
 - {
 - //注冊一次異步
 - AsyncManager.OutstandingOperations.Increment();
 - Timer timer = null;
 - timer = new Timer(o =>
 - {
 - //一次異步完成
 - AsyncManager.OutstandingOperations.Decrement();
 - timer.Dispose();
 - },null, 5000, 5000);
 - }
 - public ActionResult DoCompleted()
 - {
 - return Content("OK");
 - }
 - }
 
由于沒有IAsyncResult,我們需要通過AsyncManager來告訴ASP.NET MVC何時完成異步,我們可以在方法內(nèi)部在啟用異步時調(diào)用 AsyncManager.OutstandingOperations.Increment()告訴ASP.NET MVC開始了一次異步,完成異步時調(diào)用AsyncManager.OutstandingOperations.Decrement()告訴 ASP.NET MVC完成了一次異步,當(dāng)所有異步完成,AsyncManager會自動觸發(fā)異步完成事件,調(diào)用回調(diào)方法,最終調(diào)用我們的XXXComplete方法。我們也可以用AsyncManager.Finish()也觸發(fā)所有異步完成。當(dāng)不使用任何AsyncManager時,則不啟用異步。

可以看到整個異步過程由ASP.NET完成,在適當(dāng)?shù)臅r候會調(diào)用我們的方法。異步的開始、結(jié)束動作與及如何觸發(fā)完成都在我們的代碼中體現(xiàn)。
異步Action模式二:Task Action
對于Action,如果返回的類型是 Task,ASP.NET MVC則會將他們包裝成TaskAsyncActionDescriptor。
- public class DefaultController : Controller
 - {
 - public async Task<FileResult> Download()
 - {
 - using (FileStream fs = new FileStream("D:\\a.txt", FileMode.Open, FileAccess.Read, FileShare.ReadWrite, 4096, FileOptions.Asynchronous))
 - {
 - byte[] data = new byte[fs.Length];
 - await fs.ReadAsync(data, 0, data.Length);
 - return new FileContentResult(data, "application/octet-stream");
 - }
 - }
 - }
 
我只需要需提供一個返回類型為Task的方法即可,我里我們采用async/await語法構(gòu)建一個異步方法,在方法內(nèi)部調(diào)用其他的異步方法。

相比之前的模式,簡單了一些,特別是我們的Controller中,只有一個方法,異步的操作都交由Task完成。對于可以返回Task的方法來說(如通過async/await包裝多個異步方法),就顯得十分方便。
原文鏈接:http://www.cnblogs.com/wisdomqq/archive/2012/03/29/2417723.html
【編輯推薦】















 
 
 
 
 
 
 