為提高處理能力和并發(fā)度，Web容器一般會(huì)把處理請(qǐng)求的任務(wù)放到線程池，而JDK的原生線程池先天適合CPU密集型任務(wù)，并不適合我們通常的 I/O 密集任務(wù)處理，于是Tomcat改造之。

Tomcat 線程池原理

其實(shí)ThreadPoolExecutor的參數(shù)主要有如下關(guān)鍵點(diǎn)：

• 限制線程個(gè)數(shù) 

• 限制隊(duì)列長度

而Tomcat對(duì)這倆資源都需要限制，否則高并發(fā)下CPU、內(nèi)存都有被耗盡可能。因此Tomcat的線程池傳參：

1. // 定制的任務(wù)隊(duì)列 
2. taskqueue = new TaskQueue(maxQueueSize); 
3.  
4. // 定制的線程工廠 
5. TaskThreadFactory tf = new TaskThreadFactory(namePrefix, 
6.                                daemon, 
7.                                getThreadPriority() 
8. ); 
9.  
10. // 定制線程池 
11. executor = new ThreadPoolExecutor(getMinSpareThreads(), 
12.                   getMaxThreads(), 
13.                      maxIdleTime,  
14.                      TimeUnit.MILLISECONDS, 
15.                      taskqueue, 
16.                      tf); 

Tomcat對(duì)線程數(shù)也有限制，設(shè)置：

• 核心線程數(shù)(minSpareThreads)
• 最大線程池?cái)?shù)(maxThreads)

Tomcat線程池還有自己的特色任務(wù)處理流程，通過重寫execute方法實(shí)現(xiàn)了自己的特色任務(wù)處理邏輯：

1. 前corePoolSize個(gè)任務(wù)時(shí)，來一個(gè)任務(wù)就創(chuàng)建一個(gè)新線程
2. 再有任務(wù)，就把任務(wù)放入任務(wù)隊(duì)列，讓所有線程去搶。若隊(duì)列滿，就創(chuàng)建臨時(shí)線程
3. 總線程數(shù)達(dá)到maximumPoolSize，則繼續(xù)嘗試把任務(wù)放入任務(wù)隊(duì)列
4. 若緩沖隊(duì)列也滿了，插入失敗，執(zhí)行拒絕策略

和 JDK 線程池的區(qū)別就在step3，Tomcat在線程總數(shù)達(dá)到最大數(shù)時(shí)，不是立即執(zhí)行拒絕策略，而是再嘗試向任務(wù)隊(duì)列添加任務(wù)，添加失敗后再執(zhí)行拒絕策略。

具體又是如何實(shí)現(xiàn)的呢?

1. public void execute(Runnable command, long timeout, TimeUnit unit) { 
2.     submittedCount.incrementAndGet(); 
3.     try { 
4.         // 調(diào)用JDK原生線程池的execute執(zhí)行任務(wù) 
5.         super.execute(command); 
6.     } catch (RejectedExecutionException rx) { 
7.        // 總線程數(shù)達(dá)到maximumPoolSize后，JDK原生線程池會(huì)執(zhí)行默認(rèn)拒絕策略 
8.         if (super.getQueue() instanceof TaskQueue) { 
9.             final TaskQueue queue = (TaskQueue)super.getQueue(); 
10.             try { 
11.                 // 繼續(xù)嘗試把任務(wù)放入任務(wù)隊(duì)列 
12.                 if (!queue.force(command, timeout, unit)) { 
13.                     submittedCount.decrementAndGet(); 
14.                     // 若緩沖隊(duì)列還是滿了，插入失敗，執(zhí)行拒絕策略。 
15.                     throw new RejectedExecutionException("..."); 
16.                 } 
17.             }  
18.         } 
19.     } 
20. } 

定制任務(wù)隊(duì)列

Tomcat線程池的execute方法第一行：

1. submittedCount.incrementAndGet(); 

任務(wù)執(zhí)行失敗，拋異常時(shí)，將該計(jì)數(shù)器減一：

1. submittedCount.decrementAndGet(); 

Tomcat線程池使用 submittedCount 變量維護(hù)已提交到線程池，但未執(zhí)行完的任務(wù)數(shù)量。

為何要維護(hù)這樣一個(gè)變量呢?

Tomcat的任務(wù)隊(duì)列TaskQueue擴(kuò)展了JDK的LinkedBlockingQueue，Tomcat給了它一個(gè)capacity，傳給父類LinkedBlockingQueue的構(gòu)造器。

1. public class TaskQueue extends LinkedBlockingQueue<Runnable> { 
2.  
3.   public TaskQueue(int capacity) { 
4.       super(capacity); 
5.   } 
6.   ... 
7. } 

capacity參數(shù)通過Tomcat的 maxQueueSize 參數(shù)設(shè)置，但maxQueueSize默認(rèn)值為Integer.MAX_VALUE：這樣，當(dāng)前線程數(shù)達(dá)到核心線程數(shù)后，再來的任務(wù)，線程池會(huì)把任務(wù)添加到任務(wù)隊(duì)列，并且總會(huì)成功，就永遠(yuǎn)無機(jī)會(huì)創(chuàng)建新線程了。

為此，TaskQueue重寫了LinkedBlockingQueue#offer，在合適時(shí)機(jī)返回false，表示任務(wù)添加失敗，線程池此時(shí)會(huì)創(chuàng)建新的線程。

什么叫合適時(shí)機(jī)?

1. public class TaskQueue extends LinkedBlockingQueue<Runnable> { 
2.  
3.   ... 
4.    @Override 
5.   // 線程池調(diào)用任務(wù)隊(duì)列的方法時(shí)，當(dāng)前線程數(shù) ＞ core線程數(shù) 
6.   public boolean offer(Runnable o) { 
7.  
8.       // 若線程數(shù)已達(dá)max，則不能創(chuàng)建新線程，只能放入任務(wù)隊(duì)列 
9.       if (parent.getPoolSize() == parent.getMaximumPoolSize())  
10.           return super.offer(o); 
11.            
12.       // 至此，表明 max線程數(shù) > 當(dāng)前線程數(shù) ＞ core線程數(shù) 
13.       // 說明可創(chuàng)建新線程： 
14.        
15.       // 1. 若已提交任務(wù)數(shù) ＜ 當(dāng)前線程數(shù) 
16.       //    表明還有空閑線程，無需創(chuàng)建新線程 
17.       if (parent.getSubmittedCount()<=(parent.getPoolSize()))  
18.           return super.offer(o); 
19.            
20.       // 2. 若已提交任務(wù)數(shù) ＞ 當(dāng)前線程數(shù) 
21.       //    線程不夠用了，返回false去創(chuàng)建新線程 
22.       if (parent.getPoolSize()<parent.getMaximumPoolSize())  
23.           return false; 
24.            
25.       // 默認(rèn)情況下總是把任務(wù)放入任務(wù)隊(duì)列 
26.       return super.offer(o); 
27.   } 
28.    
29. } 

所以Tomcat維護(hù) 已提交任務(wù)數(shù) 是為了在任務(wù)隊(duì)列長度無限時(shí)，讓線程池還能有機(jī)會(huì)創(chuàng)建新線程。

原文鏈接：https://mp.weixin.qq.com/s/7MOOhnI5qsoi8uAihLXy7A