用.NET展現多核威力(1) - 從ThreadPool翻船談起

在進入主題前，先來爆個料:

踢爆黑心程式碼，瞎忙半天幫倒忙!!

昨天我貼了一篇關於匿名方法與具名方法效能比較的文章，不知有沒有人發現到，其實裡面藏了一個天大的祕密!! Lambda寫法無損效能的結論是對的，但是，在這個範例裡用ThreadPool處理卻錯得離譜!

不信? 那我們先保留第二段的ThreadPool + Lambda寫法，但將第一段改成

for (int i = 0; i < TIMES; i++)
    NamedMethod(i);

換句話說，第一段程式不再管什麼鬼ThreadPool，直接用迴圈把1000萬次做完。執行的結果可能會讓你大吃一驚:

Named Method = 154ms
Anonymous Method = 1,117ms
Named Method = 141ms
Anonymous Method = 946ms
Named Method = 142ms
Anonymous Method = 970ms
Named Method = 146ms
Anonymous Method = 1,027ms
Named Method = 141ms
Anonymous Method = 1,049ms

啥? 不用ThreadPool跑，1000萬次的Log10計算只需要150ms(其實還可以省掉NamedMethod中的Interlocked.Decrement及ManualResetEvent，還可以更快)，是用ThreadPool執行時間的1/7!!! 用了ThreadPool反而慢了七倍，那麼整個範例是寫心酸的? 於是我們學到第一課:

不是任何運算用ThreadPool執行都會加速!!

多執行緒程式不是很威嗎? 我測試的機器是Dual Core E6400，兩顆CPU分工合作不是應該要更快? 真相是---Multi-Threading的機制並非免費午餐，在運作時也要相對付出代價。ThreadPool的基本原理是將要執行的工作放進一個Queue裡，然後啟動多條Thread，每條Thread會去檢查Queue裡還有沒有工作要做，若有就取出來。由於要管控每件工作只交給其中一個Thread去處理，所以得動用lock機制；也就是同一時間只能開放一條Thread去檢查Queue並取出工作，可以想像成全部的Thread排成一列輪流存取。另外，在程式裡透過JOB_COUNT掌握工作何時全部做完，在遞減JOB_COUNT也要等同要啟動lock機制(Interlocked.Decrement)，任何時間下只允許一個Thread去修改它的值。另外還有一點，CPU在切換不同Thread執行時，也要保留與切換Thread相關的暫存器、快取、堆疊等環境，稱作Context Switch，也會損耗一些運算資源。

用個例子來比喻，我們找了50位電腦組裝達人齊聚一堂，在教室最前方放了一個籃子，要求大家排隊(Queue)到籃子裡取出要組裝的套件包(WorkItem)，組裝完成後再排隊(Interlocked.Decrement)到黑板畫正字統計件數。

50個高手分工合作一定比一個人單打獨鬥快嗎? 不一定!! 就要看組裝的套件是什麼。

如果要組裝的套件是"把筆蓋套到原子筆上"，那麼動用一整個教室50個人排隊加寫黑板就變成在莊孝維(或是或是安排這個遊戲的人會被50個人海扁)；但若是要處理的套件是"將CPU、MB、RAM、HD、Power、Case組成一台PC"，則我們可以肯定這種作業方式會比一個人組裝快了近50倍。

好，那我們改一下程式為ThreadPool雪恥，把原本的Log10

double d = Math.Log10(Convert.ToDouble(o));

改成產生1000次亂數

Random rnd = new Random();
for (int k = 0; k < 1000; k++)
    rnd.Next();

JOB_COUNT次數則調成10萬次，結果如下:

Named Method = 2,276ms
Anonymous Method = 1,406ms
Named Method = 2,328ms
Anonymous Method = 1,477ms
Named Method = 2,240ms
Anonymous Method = 1,262ms
Named Method = 2,244ms
Anonymous Method = 1,291ms
Named Method = 2,231ms
Anonymous Method = 1,324ms

這回就換成ThreadPool佔上風了，由以上的案例裡我們得到一個心得--ThreadPool機制是有代價的，因此當工作本身並不複雜時，機制的成本便會壓過多工產生的效益。

至於要怎麼充分擠出Multi-Core CPU的運算能力，還有蠻多有趣的議題，下回再聊。