進程

  我們都知道計算機的核心是CPU,，它承擔(dān)了所有的計算任務(wù),；而操作系統(tǒng)是計算機的管理者,，它負責(zé)任務(wù)的調(diào)度、資源的分配和管理,，統(tǒng)領(lǐng)整個計算機硬件,；應(yīng)用程序則是具有某種功能的程序，程序是運行于操作系統(tǒng)之上的,。

  進程是一個具有一定獨立功能的程序在一個數(shù)據(jù)集上的一次動態(tài)執(zhí)行的過程,，是操作系統(tǒng)進行資源分配和調(diào)度的一個獨立單位，是應(yīng)用程序運行的載體,。進程是一種抽象的概念,，從來沒有統(tǒng)一的標(biāo)準(zhǔn)定義。

進程一般由程序,、數(shù)據(jù)集合和進程控制塊三部分組成,。

• 程序用于描述進程要完成的功能，是控制進程執(zhí)行的指令集,；
• 數(shù)據(jù)集合是程序在執(zhí)行時所需要的數(shù)據(jù)和工作區(qū),；
• 程序控制塊(Program Control Block，簡稱PCB),，包含進程的描述信息和控制信息,，是進程存在的唯一標(biāo)志。

進程具有的特征：

• 動態(tài)性：進程是程序的一次執(zhí)行過程,，是臨時的,，有生命期的，是動態(tài)產(chǎn)生,，動態(tài)消亡的,；
• 并發(fā)性：任何進程都可以同其他進程一起并發(fā)執(zhí)行；
• 獨立性：進程是系統(tǒng)進行資源分配和調(diào)度的一個獨立單位,；
• 結(jié)構(gòu)性：進程由程序,、數(shù)據(jù)和進程控制塊三部分組成。

線程

  在早期的操作系統(tǒng)中并沒有線程的概念,，進程是能擁有資源和獨立運行的最小單位,，也是程序執(zhí)行的最小單位。任務(wù)調(diào)度采用的是時間片輪轉(zhuǎn)的搶占式調(diào)度方式,，而進程是任務(wù)調(diào)度的最小單位,，每個進程有各自獨立的一塊內(nèi)存，使得各個進程之間內(nèi)存地址相互隔離。

  后來,，隨著計算機的發(fā)展,，對CPU的要求越來越高，進程之間的切換開銷較大,，已經(jīng)無法滿足越來越復(fù)雜的程序的要求了,。于是就發(fā)明了線程。

  線程是程序執(zhí)行中一個單一的順序控制流程,，是程序執(zhí)行流的最小單元，是處理器調(diào)度和分派的基本單位,。一個進程可以有一個或多個線程,，各個線程之間共享程序的內(nèi)存空間(也就是所在進程的內(nèi)存空間)。一個標(biāo)準(zhǔn)的線程由線程ID,、當(dāng)前指令指針(PC),、寄存器和堆棧組成。而進程由內(nèi)存空間(代碼,、數(shù)據(jù),、進程空間、打開的文件)和一個或多個線程組成,。
（讀到這里可能有的讀者迷糊,，感覺這和Java的內(nèi)存空間模型不太一樣，但如果你深入的讀過深入理解Java虛擬機這本書的話你就會恍然大悟）

如上圖,，在任務(wù)管理器的進程一欄里,，有道詞典和有道云筆記就是進程，而在進程下又有著多個執(zhí)行不同任務(wù)的線程,。

任務(wù)調(diào)度

  線程是什么,？要理解這個概念，需要先了解一下操作系統(tǒng)的一些相關(guān)概念,。大部分操作系統(tǒng)(如Windows,、Linux)的任務(wù)調(diào)度是采用時間片輪轉(zhuǎn)的搶占式調(diào)度方式。

  在一個進程中,，當(dāng)一個線程任務(wù)執(zhí)行幾毫秒后,，會由操作系統(tǒng)的內(nèi)核（負責(zé)管理各個任務(wù)）進行調(diào)度，通過硬件的計數(shù)器中斷處理器,，讓該線程強制暫停并將該線程的寄存器放入內(nèi)存中,，通過查看線程列表決定接下來執(zhí)行哪一個線程，并從內(nèi)存中恢復(fù)該線程的寄存器,，最后恢復(fù)該線程的執(zhí)行,，從而去執(zhí)行下一個任務(wù)。
上述過程中，任務(wù)執(zhí)行的那一小段時間叫做時間片,，任務(wù)正在執(zhí)行時的狀態(tài)叫運行狀態(tài),，被暫停的線程任務(wù)狀態(tài)叫做就緒狀態(tài)，意為等待下一個屬于它的時間片的到來,。

  這種方式保證了每個線程輪流執(zhí)行,，由于CPU的執(zhí)行效率非常高，時間片非常短,，在各個任務(wù)之間快速地切換,，給人的感覺就是多個任務(wù)在“同時進行”，這也就是我們所說的并發(fā)(別覺得并發(fā)有多高深,，它的實現(xiàn)很復(fù)雜,，但它的概念很簡單，就是一句話：多個任務(wù)同時執(zhí)行),。多任務(wù)運行過程的示意圖如下：

圖1：操作系統(tǒng)中的任務(wù)調(diào)度

進程與線程的區(qū)別

  前面講了進程與線程,，但可能你還覺得迷糊，感覺他們很類似,。的確,，進程與線程有著千絲萬縷的關(guān)系，下面就讓我們一起來理一理：

1. 線程是程序執(zhí)行的最小單位,，而進程是操作系統(tǒng)分配資源的最小單位,；
2. 一個進程由一個或多個線程組成，線程是一個進程中代碼的不同執(zhí)行路線,；
3. 進程之間相互獨立,，但同一進程下的各個線程之間共享程序的內(nèi)存空間(包括代碼段、數(shù)據(jù)集,、堆等)及一些進程級的資源(如打開文件和信號),，某進程內(nèi)的線程在其它進程不可見；
4. 調(diào)度和切換：線程上下文切換比進程上下文切換要快得多,。
   　　線程與進程關(guān)系的示意圖：

圖2：進程與線程的資源共享關(guān)系

圖3：單線程與多線程的關(guān)系


  總之,，線程和進程都是一種抽象的概念，線程是一種比進程更小的抽象,，線程和進程都可用于實現(xiàn)并發(fā),。
在早期的操作系統(tǒng)中并沒有線程的概念，進程是能擁有資源和獨立運行的最小單位,，也是程序執(zhí)行的最小單位,。它相當(dāng)于一個進程里只有一個線程，進程本身就是線程,。所以線程有時被稱為輕量級進程(Lightweight Process,，LWP）,。

圖4：早期的操作系統(tǒng)只有進程，沒有線程

后來,，隨著計算機的發(fā)展,，對多個任務(wù)之間上下文切換的效率要求越來越高，就抽象出一個更小的概念——線程,，一般一個進程會有多個(也可是一個)線程,。
　　

圖5：線程的出現(xiàn)，使得一個進程可以有多個線程

多線程與多核

  上面提到的時間片輪轉(zhuǎn)的調(diào)度方式說一個任務(wù)執(zhí)行一小段時間后強制暫停去執(zhí)行下一個任務(wù),，每個任務(wù)輪流執(zhí)行,。很多操作系統(tǒng)的書都說“同一時間點只有一個任務(wù)在執(zhí)行”。那有人可能就要問雙核處理器呢,？難道兩個核不是同時運行嗎,？

  其實“同一時間點只有一個任務(wù)在執(zhí)行”這句話是不準(zhǔn)確的，至少它是不全面的,。那多核處理器的情況下，線程是怎樣執(zhí)行呢,？這就需要了解內(nèi)核線程,。

  多核(心)處理器是指在一個處理器上集成多個運算核心從而提高計算能力，也就是有多個真正并行計算的處理核心,，每一個處理核心對應(yīng)一個內(nèi)核線程,。
內(nèi)核線程（Kernel Thread，KLT）就是直接由操作系統(tǒng)內(nèi)核支持的線程,，這種線程由內(nèi)核來完成線程切換,，內(nèi)核通過操作調(diào)度器對線程進行調(diào)度，并負責(zé)將線程的任務(wù)映射到各個處理器上,。一般一個處理核心對應(yīng)一個內(nèi)核線程,，比如單核處理器對應(yīng)一個內(nèi)核線程，雙核處理器對應(yīng)兩個內(nèi)核線程,，四核處理器對應(yīng)四個內(nèi)核線程,。

  現(xiàn)在的電腦一般是雙核四線程、四核八線程,，是采用超線程技術(shù)將一個物理處理核心模擬成兩個邏輯處理核心,，對應(yīng)兩個內(nèi)核線程，所以在操作系統(tǒng)中看到的CPU數(shù)量是實際物理CPU數(shù)量的兩倍,，如你的電腦是雙核四線程,，打開“任務(wù)管理器\性能”可以看到4個CPU的監(jiān)視器，四核八線程可以看到8個CPU的監(jiān)視器,。

圖6：雙核四線程在Windows8下查看的結(jié)果

  超線程技術(shù)就是利用特殊的硬件指令,，把一個物理芯片模擬成兩個邏輯處理核心,，讓單個處理器都能使用線程級并行計算，進而兼容多線程操作系統(tǒng)和軟件,，減少了CPU的閑置時間,，提高的CPU的運行效率。這種超線程技術(shù)(如雙核四線程)由處理器硬件的決定,，同時也需要操作系統(tǒng)的支持才能在計算機中表現(xiàn)出來,。

  程序一般不會直接去使用內(nèi)核線程，而是去使用內(nèi)核線程的一種高級接口——輕量級進程（Lightweight Process,，LWP）,，輕量級進程就是我們通常意義上所講的線程，也被叫做用戶線程,。由于每個輕量級進程都由一個內(nèi)核線程支持,，因此只有先支持內(nèi)核線程，才能有輕量級進程,。用戶線程與內(nèi)核線程的對應(yīng)關(guān)系有三種模型：一對一模型,、多對一模型、多對多模型,，在這以4個內(nèi)核線程,、3個用戶線程為例對三種模型進行說明。

一對一模型

  對于一對一模型來說,，一個用戶線程就唯一地對應(yīng)一個內(nèi)核線程(反過來不一定成立,，一個內(nèi)核線程不一定有對應(yīng)的用戶線程)。這樣,，如果CPU沒有采用超線程技術(shù)(如四核四線程的計算機),，一個用戶線程就唯一地映射到一個物理CPU的內(nèi)核線程，線程之間的并發(fā)是真正的并發(fā),。一對一模型使用戶線程具有與內(nèi)核線程一樣的優(yōu)點,，一個線程因某種原因阻塞時其他線程的執(zhí)行不受影響；此處,，一對一模型也可以讓多線程程序在多處理器的系統(tǒng)上有更好的表現(xiàn),。

但一對一模型也有兩個缺點：

1. 許多操作系統(tǒng)限制了內(nèi)核線程的數(shù)量，因此一對一模型會使用戶線程的數(shù)量受到限制,；
2. 許多操作系統(tǒng)內(nèi)核線程調(diào)度時,，上下文切換的開銷較大，導(dǎo)致用戶線程的執(zhí)行效率下降,。

圖7：一對一模型

多對一模型

  多對一模型將多個用戶線程映射到一個內(nèi)核線程上,，線程之間的切換由用戶態(tài)的代碼來進行，系統(tǒng)內(nèi)核感受不到線程的實現(xiàn)方式,。用戶線程的建立,、同步,、銷毀等都在用戶態(tài)中完成，不需要內(nèi)核的介入,。因此相對一對一模型,，多對一模型的線程上下文切換速度要快許多；此外,，多對一模型對用戶線程的數(shù)量幾乎無限制,。

但多對一模型也有兩個缺點：

1. 如果其中一個用戶線程阻塞，那么其它所有線程都將無法執(zhí)行,，因為此時內(nèi)核線程也隨之阻塞了,；
2. 在多處理器系統(tǒng)上，處理器數(shù)量的增加對多對一模型的線程性能不會有明顯的增加,，因為所有的用戶線程都映射到一個處理器上了,。

 

圖8：多對一模型

多對多模型

  多對多模型結(jié)合了一對一模型和多對一模型的優(yōu)點，將多個用戶線程映射到多個內(nèi)核線程上,。由線程庫負責(zé)在可用的可調(diào)度實體上調(diào)度用戶線程,，這使得線程的上下文切換非常快,，因為它避免了系統(tǒng)調(diào)用,。但是增加了復(fù)雜性和優(yōu)先級倒置的可能性，以及在用戶態(tài)調(diào)度程序和內(nèi)核調(diào)度程序之間沒有廣泛（且高昂）協(xié)調(diào)的次優(yōu)調(diào)度,。

多對多模型的優(yōu)點有：

1. 一個用戶線程的阻塞不會導(dǎo)致所有線程的阻塞，因為此時還有別的內(nèi)核線程被調(diào)度來執(zhí)行,；
2. 多對多模型對用戶線程的數(shù)量沒有限制,；
3. 在多處理器的操作系統(tǒng)中，多對多模型的線程也能得到一定的性能提升,，但提升的幅度不如一對一模型的高,。

圖9：多對多模型

 

在現(xiàn)在流行的操作系統(tǒng)中，大都采用多對多的模型,。

查看進程與線程

  一個應(yīng)用程序可能是多線程的,，也可能是多進程的，如何查看呢,？在Windows下我們只須打開任務(wù)管理器就能查看一個應(yīng)用程序的進程和線程數(shù),。按“Ctrl+Alt+Del”或右鍵快捷工具欄打開任務(wù)管理器。

　　查看進程數(shù)和線程數(shù)：

圖10：查看線程數(shù)和進程數(shù)

 

  在“進程”選項卡下,，我們可以看到一個應(yīng)用程序包含的線程數(shù),。如果一個應(yīng)用程序有多個進程，我們能看到每一個進程,，如在上圖中,，Google的Chrome瀏覽器就有多個進程,。同時，如果打開了一個應(yīng)用程序的多個實例也會有多個進程,，如上圖中我打開了兩個cmd窗口,，就有兩個cmd進程。如果看不到線程數(shù)這一列,，可以再點擊“查看\選擇列”菜單,，增加監(jiān)聽的列。
　　查看CPU和內(nèi)存的使用率：
　　在性能選項卡中,，我們可以查看CPU和內(nèi)存的使用率,，根據(jù)CPU使用記錄的監(jiān)視器的個數(shù)還能看出邏輯處理核心的個數(shù)，如我的雙核四線程的計算機就有四個監(jiān)視器,。

圖11：查看CPU和內(nèi)存的使用率

 

線程的生命周期

  當(dāng)線程的數(shù)量小于處理器的數(shù)量時,，線程的并發(fā)是真正的并發(fā)，不同的線程運行在不同的處理器上,。但當(dāng)線程的數(shù)量大于處理器的數(shù)量時,，線程的并發(fā)會受到一些阻礙，此時并不是真正的并發(fā),，因為此時至少有一個處理器會運行多個線程,。

  在單個處理器運行多個線程時，并發(fā)是一種模擬出來的狀態(tài),。操作系統(tǒng)采用時間片輪轉(zhuǎn)的方式輪流執(zhí)行每一個線程?，F(xiàn)在，幾乎所有的現(xiàn)代操作系統(tǒng)采用的都是時間片輪轉(zhuǎn)的搶占式調(diào)度方式,，如我們熟悉的Unix,、Linux、Windows及macOS等流行的操作系統(tǒng),。

  我們知道線程是程序執(zhí)行的最小單位,，也是任務(wù)執(zhí)行的最小單位。在早期只有進程的操作系統(tǒng)中,，進程有五種狀態(tài),，創(chuàng)建、就緒,、運行,、阻塞(等待)、退出,。早期的進程相當(dāng)于現(xiàn)在的只有單個線程的進程,，那么現(xiàn)在的多線程也有五種狀態(tài)，現(xiàn)在的多線程的生命周期與早期進程的生命周期類似,。

圖12：早期進程的生命周期

 

  進程在運行過程有三種狀態(tài)：就緒,、運行,、阻塞，創(chuàng)建和退出狀態(tài)描述的是進程的創(chuàng)建過程和退出過程,。

• 創(chuàng)建：進程正在創(chuàng)建,，還不能運行。操作系統(tǒng)在創(chuàng)建進程時要進行的工作包括分配和建立進程控制塊表項,、建立資源表格并分配資源,、加載程序并建立地址空間；
• 就緒：時間片已用完,，此線程被強制暫停,，等待下一個屬于它的時間片到來；
• 運行：此線程正在執(zhí)行,，正在占用時間片,；
• 阻塞：也叫等待狀態(tài)，等待某一事件(如IO或另一個線程)執(zhí)行完,；
• 退出：進程已結(jié)束,，所以也稱結(jié)束狀態(tài)，釋放操作系統(tǒng)分配的資源,。

圖13：線程的生命周期

 

• 創(chuàng)建：一個新的線程被創(chuàng)建,，等待該線程被調(diào)用執(zhí)行；
• 就緒：時間片已用完,，此線程被強制暫停,，等待下一個屬于它的時間片到來；
• 運行：此線程正在執(zhí)行,，正在占用時間片,；
• 阻塞：也叫等待狀態(tài)，等待某一事件(如IO或另一個線程)執(zhí)行完,；
• 退出：一個線程完成任務(wù)或者其他終止條件發(fā)生,，該線程終止進入退出狀態(tài),，退出狀態(tài)釋放該線程所分配的資源,。

協(xié)程

協(xié)程，英文Coroutines,，是一種基于線程之上,，但又比線程更加輕量級的存在，這種由程序員自己寫程序來管理的輕量級線程叫做『用戶空間線程』,，具有對內(nèi)核來說不可見的特性,。

因為是自主開辟的異步任務(wù)，所以很多人也更喜歡叫它們纖程（Fiber）,，或者綠色線程（GreenThread）,。正如一個進程可以擁有多個線程一樣,，一個線程也可以擁有多個協(xié)程。

協(xié)程的目的

在傳統(tǒng)的J2EE系統(tǒng)中都是基于每個請求占用一個線程去完成完整的業(yè)務(wù)邏輯（包括事務(wù)）,。所以系統(tǒng)的吞吐能力取決于每個線程的操作耗時,。如果遇到很耗時的I/O行為，則整個系統(tǒng)的吞吐立刻下降,，因為這個時候線程一直處于阻塞狀態(tài),，如果線程很多的時候，會存在很多線程處于空閑狀態(tài)（等待該線程執(zhí)行完才能執(zhí)行）,，造成了資源應(yīng)用不徹底,。

最常見的例子就是JDBC（它是同步阻塞的），這也是為什么很多人都說數(shù)據(jù)庫是瓶頸的原因,。這里的耗時其實是讓CPU一直在等待I/O返回,，說白了線程根本沒有利用CPU去做運算，而是處于空轉(zhuǎn)狀態(tài),。而另外過多的線程,，也會帶來更多的ContextSwitch開銷。

對于上述問題,，現(xiàn)階段行業(yè)里的比較流行的解決方案之一就是單線程加上異步回調(diào),。其代表派是node.js以及Java里的新秀Vert.x。

而協(xié)程的目的就是當(dāng)出現(xiàn)長時間的I/O操作時,，通過讓出目前的協(xié)程調(diào)度,，執(zhí)行下一個任務(wù)的方式，來消除ContextSwitch上的開銷,。

協(xié)程的特點

1. 線程的切換由操作系統(tǒng)負責(zé)調(diào)度,，協(xié)程由用戶自己進行調(diào)度，因此減少了上下文切換,，提高了效率,。
2. 線程的默認(rèn)Stack大小是1M，而協(xié)程更輕量,，接近1K,。因此可以在相同的內(nèi)存中開啟更多的協(xié)程。
3. 由于在同一個線程上,，因此可以避免競爭關(guān)系而使用鎖,。
4. 適用于被阻塞的，且需要大量并發(fā)的場景,。但不適用于大量計算的多線程,，遇到此種情況，更好實用線程去解決。

協(xié)程的原理

當(dāng)出現(xiàn)IO阻塞的時候,，由協(xié)程的調(diào)度器進行調(diào)度,，通過將數(shù)據(jù)流立刻yield掉（主動讓出），并且記錄當(dāng)前棧上的數(shù)據(jù),，阻塞完后立刻再通過線程恢復(fù)棧,，并把阻塞的結(jié)果放到這個線程上去跑，這樣看上去好像跟寫同步代碼沒有任何差別,，這整個流程可以稱為coroutine,，而跑在由coroutine負責(zé)調(diào)度的線程稱為Fiber。比如Golang里的 go關(guān)鍵字其實就是負責(zé)開啟一個Fiber,，讓func邏輯跑在上面,。

由于協(xié)程的暫停完全由程序控制，發(fā)生在用戶態(tài)上,；而線程的阻塞狀態(tài)是由操作系統(tǒng)內(nèi)核來進行切換,，發(fā)生在內(nèi)核態(tài)上。
因此,，協(xié)程的開銷遠遠小于線程的開銷,，也就沒有了ContextSwitch上的開銷。

協(xié)程和線程的比較