異步編程：使用線程池管理線程

異步編程：使用線程池管理線程

 今後圖中咱們會發現 .NET 與C# 的每一個版本發佈都是有一個「主題」。即：C#1.0託管代碼→C#2.0泛型→C#3.0LINQ→C#4.0動態語言→C#5.0異步編程。如今我爲最新版本的「異步編程」主題寫系列分享，期待你的查看及點評。

 

現在的應用程序愈來愈複雜，咱們經常須要使用《異步編程：線程概述及使用》中提到的多線程技術來提升應用程序的響應速度。這時咱們頻繁的建立和銷燬線程來讓應用程序快速響應操做，這頻繁的建立和銷燬無疑會下降應用程序性能，咱們能夠引入緩存機制解決這個問題，此緩存機制須要解決如：緩存的大小問題、排隊執行任務、調度空閒線程、按需建立新線程及銷燬多餘空閒線程……現在微軟已經爲咱們提供了現成的緩存機制：線程池

         線程池原自於對象池，在詳細解說明線程池前讓咱們先來了解下何爲對象池。

流程圖：

 

 

         對於對象池的清理一般設計兩種方式：

1)         手動清理，即主動調用清理的方法。

2)         自動清理，即經過System.Threading.Timer來實現定時清理。

 

關鍵實現代碼：

 

 

public sealed class ObjectPool<T> where T : ICacheObjectProxy<T>
{
    // 最大容量
    private Int32 m_maxPoolCount = 30;
    // 最小容量
    private Int32 m_minPoolCount = 5;
    // 已存容量
    private Int32 m_currentCount;
    // 空閒+被用 對象列表
    private Hashtable m_listObjects;
    // 最大空閒時間
    private int maxIdleTime = 120;
    // 定時清理對象池對象
    private Timer timer = null;
 
    /// <summary>
    /// 建立對象池
    /// </summary>
    /// <param name="maxPoolCount">最小容量</param>
    /// <param name="minPoolCount">最大容量</param>
    /// <param name="create_params">待建立的實際對象的參數</param>
    public ObjectPool(Int32 maxPoolCount, Int32 minPoolCount, Object[] create_params){ }
 
    /// <summary>
    /// 獲取一個對象實例
    /// </summary>
    /// <returns>返回內部實際對象，若返回null則線程池已滿</returns>
    public T GetOne(){ }
 
    /// <summary>
    /// 釋放該對象池
    /// </summary>
    public void Dispose(){ }
 
    /// <summary>
    /// 將對象池中指定的對象重置並設置爲空閒狀態
    /// </summary>
    public void ReturnOne(T obj){ }
 
    /// <summary>
    /// 手動清理對象池
    /// </summary>
    public void ManualReleaseObject(){ }
 
    /// <summary>
    /// 自動清理對象池（對大於 最小容量 的空閒對象進行釋放）
    /// </summary>
    private void AutoReleaseObject(Object obj){ }
}

實現的關鍵代碼

 

經過對「對象池」的一個大致認識能幫咱們更快理解線程池。

 

線程池ThreadPool類詳解

ThreadPool靜態類，爲應用程序提供一個由系統管理的輔助線程池，從而使您能夠集中精力於應用程序任務而不是線程管理。每一個進程都有一個線程池,一個Process中只能有一個實例，它在各個應用程序域（AppDomain）是共享的。

在內部，線程池將本身的線程劃分工做者線程(輔助線程)和I/O線程。前者用於執行普通的操做，後者專用於異步IO，好比文件和網絡請求，注意，分類並不說明兩種線程自己有差異，內部依然是同樣的。

public static class ThreadPool
{
    // 將操做系統句柄綁定到System.Threading.ThreadPool。
    public static bool BindHandle(SafeHandle osHandle);
 
    // 檢索由ThreadPool.GetMaxThreads(Int32,Int32)方法返回的最大線程池線程數和當前活動線程數之間的差值。
    public static void GetAvailableThreads(out int workerThreads
            , out int completionPortThreads);
 
    // 設置和檢索能夠同時處於活動狀態的線程池請求的數目。
    // 全部大於此數目的請求將保持排隊狀態，直到線程池線程變爲可用。
    public static bool SetMaxThreads(int workerThreads, int completionPortThreads);
    public static void GetMaxThreads(out int workerThreads, out int completionPortThreads);
    // 設置和檢索線程池在新請求預測中維護的空閒線程數。
    public static bool SetMinThreads(int workerThreads, int completionPortThreads);
    public static void GetMinThreads(out int workerThreads, out int completionPortThreads);
 
    // 將方法排入隊列以便執行，並指定包含該方法所用數據的對象。此方法在有線程池線程變得可用時執行。
    public static bool QueueUserWorkItem(WaitCallback callBack, object state);
    // 將重疊的 I/O 操做排隊以便執行。若是成功地將此操做排隊到 I/O 完成端口，則爲 true；不然爲 false。
    // 參數overlapped:要排隊的System.Threading.NativeOverlapped結構。
    public static bool UnsafeQueueNativeOverlapped(NativeOverlapped* overlapped);
    // 將指定的委託排隊到線程池，但不會將調用堆棧傳播到工做者線程。
    public static bool UnsafeQueueUserWorkItem(WaitCallback callBack, object state);
 
    // 註冊一個等待Threading.WaitHandle的委託，並指定一個 32 位有符號整數來表示超時值（以毫秒爲單位）。
    // executeOnlyOnce若是爲 true，表示在調用了委託後，線程將再也不在waitObject參數上等待；
    // 若是爲 false，表示每次完成等待操做後都重置計時器，直到註銷等待。
    public static RegisteredWaitHandle RegisterWaitForSingleObject(
            WaitHandle waitObject
            , WaitOrTimerCallback callBack, object state, 
            Int millisecondsTimeOutInterval, bool executeOnlyOnce);
    public static RegisteredWaitHandle UnsafeRegisterWaitForSingleObject(
              WaitHandle waitObject
            , WaitOrTimerCallback callBack
            , object state
            , int millisecondsTimeOutInterval
            , bool executeOnlyOnce);
    ……
}

ThreadPool

1. 線程池線程數

1)         使用GetMaxThreads()和SetMaxThreads()獲取和設置最大線程數

可排隊到線程池的操做數僅受內存的限制；而線程池限制進程中能夠同時處於活動狀態的線程數（默認狀況下，限制每一個 CPU 可使用 25 個工做者線程和 1,000 個 I/O 線程(根據機器CPU個數和.net framework版本的不一樣，這些數據可能會有變化)），全部大於此數目的請求將保持排隊狀態，直到線程池線程變爲可用。

不建議更改線程池中的最大線程數：

a)         將線程池大小設置得太大，可能會形成更頻繁的執行上下文切換及加重資源的爭用狀況。

b)         其實FileStream的異步讀寫,異步發送接受Web請求,System.Threading.Timer定時器,甚至使用delegate的beginInvoke都會默認調用 ThreadPool,也就是說不只你的代碼可能使用到線程池,框架內部也可能使用到。

c)         一個應用程序池是一個獨立的進程,擁有一個線程池,應用程序池中能夠有多個WebApplication,每一個運行在一個單獨的AppDomain中,這些WebApplication公用一個線程池。

 

2)         使用GetMinThreads()和SetMinThreads()獲取和設置最小空閒線程數

爲避免向線程分配沒必要要的堆棧空間，線程池按照必定的時間間隔建立新的空閒線程（該間隔爲半秒）。因此若是最小空閒線程數設置的太小，在短時間內執行大量任務會由於建立新空閒線程的內置延遲致使性能瓶頸。最小空閒線程數默認值等於機器上的CPU核數，而且不建議更改最小空閒線程數。

在啓動線程池時，線程池具備一個內置延遲，用於啓用最小空閒線程數，以提升應用程序的吞吐量。

在線程池運行中，對於執行完任務的線程池線程，不會當即銷燬，而是返回到線程池，線程池會維護最小的空閒線程數(即便應用程序全部線程都是空閒狀態)，以便隊列任務能夠當即啓動。超過此最小數目的空閒線程一段時間沒事作後會本身醒來終止本身，以節省系統資源。

3)         靜態方法GetAvailableThreads()

經過靜態方法GetAvailableThreads()返回的線程池線程的最大數目和當前活動數目之間的差值，即獲取線程池中當前可用的線程數目

4)         兩個參數

方法GetMaxThreads()、SetMaxThreads()、GetMinThreads()、SetMinThreads()、GetAvailableThreads()鈞包含兩個參數。參數workerThreads指工做者線程；參數completionPortThreads指異步 I/O 線程。

1. 排隊工做項

經過調用 ThreadPool.QueueUserWorkItem 並傳遞 WaitCallback 委託來使用線程池。也能夠經過使用 ThreadPool.RegisterWaitForSingleObject 並傳遞 WaitHandle（在向其發出信號或超時時，它將引起對由 WaitOrTimerCallback 委託包裝的方法的調用）來將與等待操做相關的工做項排隊到線程池中。若要取消等待操做（即再也不執行WaitOrTimerCallback委託），可調用RegisterWaitForSingleObject()方法返回的RegisteredWaitHandle的 Unregister 方法。

若是您知道調用方的堆棧與在排隊任務執行期間執行的全部安全檢查不相關，則還可使用不安全的方法 ThreadPool.UnsafeQueueUserWorkItem 和 ThreadPool.UnsafeRegisterWaitForSingleObject。QueueUserWorkItem 和 RegisterWaitForSingleObject 都會捕獲調用方的堆棧，此堆棧將在線程池線程開始執行任務時合併到線程池線程的堆棧中。若是須要進行安全檢查，則必須檢查整個堆棧，但它還具備必定的性能開銷。使用「不安全的」方法調用並不會提供絕對的安全，但它會提供更好的性能。

1. 在一個內核構造可用時調用一個方法

讓一個線程不肯定地等待一個內核對象進入可用狀態，這對線程的內存資源來講是一種浪費。ThreadPool.RegisterWaitForSingleObject()爲咱們提供了一種方式：在一個內核對象變得可用的時候調用一個方法。

使用需注意：

1)         WaitOrTimerCallback委託參數，該委託接受一個名爲timeOut的Boolean參數。若是 WaitHandle 在指定時間內沒有收到信號（即，超時），則爲true，不然爲 false。回調方法能夠根據timeOut的值來針對性地採起措施。

2)         名爲executeOnlyOnce的Boolean參數。傳true則表示線程池線程只執行回調方法一次；若傳false則表示內核對象每次收到信號，線程池線程都會執行回調方法。等待一個AutoResetEvent對象時，這個功能尤爲有用。

3)         RegisterWaitForSingleObject()方法返回一個RegisteredWaitHandle對象的引用。這個對象標識了線程池正在它上面等待的內核對象。咱們能夠調用它的Unregister(WaitHandle waitObject)方法取消由RegisterWaitForSingleObject()註冊的等待操做(即WaitOrTimerCallback委託再也不執行)。Unregister(WaitHandle waitObject)的WaitHandle參數表示成功取消註冊的等待操做後線程池會向此對象發出信號(set())，若不想收到此通知能夠傳遞null。

         示例：

private static void Example_RegisterWaitForSingleObject()
{
    // 加endWaitHandle的緣由：若是執行過快退出方法會致使一些東西被釋放，形成排隊的任務不能執行，緣由還在研究
    AutoResetEvent endWaitHandle = new AutoResetEvent(false);
 
    AutoResetEvent notificWaitHandle = new AutoResetEvent(false);
    AutoResetEvent waitHandle = new AutoResetEvent(false);
    RegisteredWaitHandle registeredWaitHandle = ThreadPool.RegisterWaitForSingleObject(
        waitHandle,
        (Object state, bool timedOut) =>
        {
            if (timedOut)
                Console.WriteLine("RegisterWaitForSingleObject因超時而執行");
            else
                Console.WriteLine("RegisterWaitForSingleObject收到WaitHandle信號");
        },
        null, TimeSpan.FromSeconds(2), true
     );
 
    // 取消等待操做（即再也不執行WaitOrTimerCallback委託）
    registeredWaitHandle.Unregister(notificWaitHandle);
 
    // 通知
    ThreadPool.RegisterWaitForSingleObject(
        notificWaitHandle,
        (Object state, bool timedOut) =>
        {
            if (timedOut)
                Console.WriteLine("第一個RegisterWaitForSingleObject沒有調用Unregister()");
            else
                Console.WriteLine("第一個RegisterWaitForSingleObject調用了Unregister()");
 
            endWaitHandle.Set();
        },
        null, TimeSpan.FromSeconds(4), true
     );
 
    endWaitHandle.WaitOne();
}

示例

執行上下文

         上一小節中說到：線程池最大線程數設置過大可能會形成Windows頻繁執行上下文切換，下降程序性能。對於大多數園友不會滿意這樣的回答，我和你同樣也喜歡「知其然，再知其因此然」。

1. 上下文切換中的「上下文」是什麼？

.NET中上下文太多，我最後得出的結論是：上下文切換中的上下文專指「執行上下文」。

執行上下文包括：安全上下文、同步上下文(System.Threading.SynchronizationContext)、邏輯調用上下文(System.Runtime.Messaging.CallContext)。即：安全設置（壓縮棧、Thread的Principal屬性和Windows身份）、宿主設置（System.Threading.HostExcecutingContextManager）以及邏輯調用上下文數據(System.Runtime.Messaging.CallContext的LogicalSetData()和LogicalGetData()方法)。

1. 什麼時候執行「上下文切換」？

當一個「時間片」結束時，若是Windows決定再次調度同一個線程，那麼Windows不會執行上下文切換。若是Windows調度了一個不一樣的線程，這時Windows執行線程上下文切換。

1. 「上下文切換」形成的性能影響

         當Windows上下文切換到另外一個線程時，CPU將執行一個不一樣的線程，而以前線程的代碼和數據還在CPU的高速緩存中，（高速緩存使CPU沒必要常常訪問RAM，RAM的速度比CPU高速緩存慢得多），當Windows上下文切換到一個新線程時，這個新線程極有可能要執行不一樣的代碼並訪問不一樣的數據，這些代碼和數據不在CPU的高速緩存中。所以，CPU必須訪問RAM來填充它的高速緩存，以恢復高速執行狀態。可是，在其「時間片」執行完後，一次新的線程上下文切換又發生了。

上下文切換所產生的開銷不會換來任何內存和性能上的收益。執行上下文所需的時間取決於CPU架構和速度（即「時間片」的分配）。而填充CPU緩存所需的時間取決於系統運行的應用程序、CPU、緩存的大小以及其餘各類因素。因此，沒法爲每一次線程上下文切換的時間開銷給出一個肯定的值，甚至沒法給出一個估計的值。惟一肯定的是，若是要構建高性能的應用程序和組件，就應該儘量避免線程上下文切換。

除此以外，執行垃圾回收時，CLR必須掛起(暫停)全部線程，遍歷它們的棧來查找根以便對堆中的對象進行標記，再次遍歷它們的棧(有的對象在壓縮期間發生了移動，因此要更新它們的根)，再恢復全部線程。因此，減小線程的數量也會顯著提高垃圾回收器的性能。每次使用一個調試器並遇到一個斷點，Windows都會掛起正在調試的應用程序中的全部線程，並在單步執行或運行應用程序時恢復全部線程。所以，你用的線程越多，調試體驗也就越差。

1. 監視Windows上下文切換工具

Windows實際記錄了每一個線程被上下文切換到的次數。可使用像Microsoft Spy++這樣的工具查看這個數據。這個工具是Visual Studio附帶的一個小工具(vs按安裝路徑\Visual Studio 2012\Common7\Tools)，如圖

1. 執行上下文類詳解

在《異步編程：線程概述及使用》中我提到了Thread的兩個上下文，即：

1)         CurrentContext        獲取線程正在其中執行的當前上下文。主要用於線程內部存儲數據。

2)         ExecutionContext    獲取一個System.Threading.ExecutionContext對象，該對象包含有關當前線程的各類上下文的信息。主要用於線程間數據共享。

其中獲取到的System.Threading.ExecutionContext就是本小節要說的「執行上下文」。

public sealed class ExecutionContext : IDisposable, ISerializable
{
    public void Dispose();
    public void GetObjectData(SerializationInfo info, StreamingContext context);
 
    // 此方法對於將執行上下文從一個線程傳播到另外一個線程很是有用。
    public ExecutionContext CreateCopy();
    // 從當前線程捕獲執行上下文的一個副本。
    public static ExecutionContext Capture();
    // 在當前線程上的指定執行上下文中運行某個方法。
    public static void Run(ExecutionContext executionContext, ContextCallback callback, object state);
 
    // 取消執行上下文在異步線程之間的流動。
    public static AsyncFlowControl SuppressFlow();
    public static bool IsFlowSuppressed();
    // RestoreFlow  撤消之前的 SuppressFlow 方法調用的影響。
    // 此方法由 SuppressFlow 方法返回的 AsyncFlowControl 結構的 Undo 方法調用。
    // 應使用 Undo 方法（而不是 RestoreFlow 方法）恢復執行上下文的流動。
    public static void RestoreFlow();
}

View Code

ExecutionContext 類提供的功能讓用戶代碼能夠在用戶定義的異步點之間捕獲和傳輸此上下文。公共語言運行時(CLR)確保在託管進程內運行時定義的異步點之間一致地傳輸 ExecutionContext。

每當一個線程(初始線程)使用另外一個線程(輔助線程)執行任務時，CLR會將前者的執行上下文流向（複製到）輔助線程（注意這個自動流向是單方向的）。這就確保了輔助線程執行的任何操做使用的是相同的安全設置和宿主設置。還確保了初始線程的邏輯調用上下文能夠在輔助線程中使用。

但執行上下文的複製會形成必定的性能影響。由於執行上下文中包含大量信息，而收集全部這些信息，再把它們複製到輔助線程，要耗費很多時間。若是輔助線程又採用了更多地輔助線程，還必須建立和初始化更多的執行上下文數據結構。

因此，爲了提高應用程序性能，咱們能夠阻止執行上下文的流動。固然這隻有在輔助線程不須要或者不訪問上下文信息的時候才能進行阻止。

下面給出一個示例爲了演示：

1)         在線程間共享邏輯調用上下文數據（CallContext）。

2)         爲了提高性能，阻止\恢復執行上下文的流動。

3)         在當前線程上的指定執行上下文中運行某個方法。

private static void Example_ExecutionContext()
{
    CallContext.LogicalSetData("Name", "小紅");
    Console.WriteLine("主線程中Name爲：{0}", CallContext.LogicalGetData("Name"));
 
    // 1)   在線程間共享邏輯調用上下文數據（CallContext）。
    Console.WriteLine("1)在線程間共享邏輯調用上下文數據（CallContext）。");
    ThreadPool.QueueUserWorkItem((Object obj) 
        => Console.WriteLine("ThreadPool線程中Name爲：\"{0}\"", CallContext.LogicalGetData("Name")));
    Thread.Sleep(500);
    Console.WriteLine();
    // 2)   爲了提高性能，取消\恢復執行上下文的流動。
    ThreadPool.UnsafeQueueUserWorkItem((Object obj)
        => Console.WriteLine("ThreadPool線程使用Unsafe異步執行方法來取消執行上下文的流動。Name爲：\"{0}\""
        , CallContext.LogicalGetData("Name")), null);
    Console.WriteLine("2)爲了提高性能，取消/恢復執行上下文的流動。");
    AsyncFlowControl flowControl = ExecutionContext.SuppressFlow();
    ThreadPool.QueueUserWorkItem((Object obj) 
        => Console.WriteLine("(取消ExecutionContext流動)ThreadPool線程中Name爲：\"{0}\"", CallContext.LogicalGetData("Name")));
    Thread.Sleep(500);
    // 恢復不推薦使用ExecutionContext.RestoreFlow()
    flowControl.Undo();
    ThreadPool.QueueUserWorkItem((Object obj) 
        => Console.WriteLine("(恢復ExecutionContext流動)ThreadPool線程中Name爲：\"{0}\"", CallContext.LogicalGetData("Name")));
    Thread.Sleep(500);
    Console.WriteLine();
    // 3)   在當前線程上的指定執行上下文中運行某個方法。(經過獲取調用上下文數據驗證)
    Console.WriteLine("3)在當前線程上的指定執行上下文中運行某個方法。(經過獲取調用上下文數據驗證)");
    ExecutionContext curExecutionContext = ExecutionContext.Capture();
    ExecutionContext.SuppressFlow();
    ThreadPool.QueueUserWorkItem(
        (Object obj) =>
        {
            ExecutionContext innerExecutionContext = obj as ExecutionContext;
            ExecutionContext.Run(innerExecutionContext, (Object state) 
                => Console.WriteLine("ThreadPool線程中Name爲：\"{0}\""<br>                       , CallContext.LogicalGetData("Name")), null);
        }
        , curExecutionContext
     );
}

View Code

結果如圖：

 

 

 注意：

1)         示例中「在當前線程上的指定執行上下文中運行某個方法」：代碼中必須使用ExecutionContext.Capture()獲取當前執行上下文的一個副本。

a)         若直接使用Thread.CurrentThread.ExecutionContext則會報「沒法應用如下上下文: 跨 AppDomains 封送的上下文、不是經過捕獲操做獲取的上下文或已做爲 Set 調用的參數的上下文。」錯誤。

b)         若使用Thread.CurrentThread.ExecutionContext.CreateCopy()會報「只能複製新近捕獲(ExecutionContext.Capture())的上下文」。

2)         取消執行上下文流動除了使用ExecutionContext.SuppressFlow()方式外。還能夠經過使用ThreadPool的UnsafeQueueUserWorkItem 和 UnsafeRegisterWaitForSingleObject來執行委託方法。緣由是不安全的線程池操做不會傳輸壓縮堆棧。每當壓縮堆棧流動時，託管的主體、同步、區域設置和用戶上下文也隨之流動。

 

線程池線程中的異常

線程池線程中未處理的異常將終止進程。如下爲此規則的三種例外狀況： 
1. 因爲調用了 Abort，線程池線程中將引起ThreadAbortException。 
2. 因爲正在卸載應用程序域，線程池線程中將引起AppDomainUnloadedException。 
3. 公共語言運行庫或宿主進程將終止線程。

什麼時候不使用線程池線程

如今你們都已經知道線程池爲咱們提供了方便的異步API及託管的線程管理。那麼是否是任什麼時候候都應該使用線程池線程呢？固然不是，咱們仍是須要「因地制宜」的，在如下幾種狀況下，適合於建立並管理本身的線程而不是使用線程池線程：

1. 須要前臺線程。(線程池線程「始終」是後臺線程)
2. 須要使線程具備特定的優先級。(線程池線程都是默認優先級，「不建議」進行修改)
3. 任務會長時間佔用線程。因爲線程池具備最大線程數限制，所以大量佔用線程池線程可能會阻止任務啓動。
4. 須要將線程放入單線程單元(STA)。(全部ThreadPool線程「始終」是多線程單元(MTA)中)
5. 須要具備與線程關聯的穩定標識，或使某一線程專用於某一任務。

 

 

　　本博文介紹線程池以及其基礎對象池，ThreadPool類的使用及注意事項，如何排隊工做項到線程池，執行上下文及線程上下文傳遞問題…… 

線程池雖然爲咱們提供了異步操做的便利，可是它不支持對線程池中單個線程的複雜控制導致咱們有些狀況下會直接使用Thread。而且它對「等待」操做、「取消」操做、「延續」任務等操做比較繁瑣，可能迫使你重新造輪子。微軟也想到了，因此在.NET4.0的時候加入了「並行任務」並在.NET4.5中對其進行改進，想了解「並行任務」的園友能夠先看看《（譯）關於Async與Await的FAQ》。

本節到此結束，感謝你們的觀賞。讚的話還請多推薦啊 (*^_^*)

 

 

 

 

參考資料：《CLR via C#(第三版)》

 

 摘自：http://www.cnblogs.com/heyuquan/archive/2012/12/23/threadPool-manager.html