详解Java线程池和Executor原理的分析

详解Java线程池和Executor原理的分析

线程池作用与基本知识

在开始之前，我们先来讨论下“线程池”这个概念。“线程池”，顾名思义就是一个线程缓存。它是一个或者多个线程的集合，用户可以把需要执行的任务简单地扔给线程池，而不用过多的纠结与执行的细节。那么线程池有哪些作用？或者说与直接用Thread相比，有什么优势？我简单总结了以下几点：

减小线程创建和销毁带来的消耗

对于Java Thread的实现，我在前面的一篇blog中进行了分析。Java Thread与内核线程是1:1（Linux）的，再加上Thread在Java层与C++层都有不少成员数据，所以Java Thread其实是比较重的。创建和销毁一个Java Thread需要OS和JVM都做不少工作，因此如果将Java Thread缓存起来，可以实现一定的效率提升。

更加方便和透明的实现计算资源控制

讨论这一条，可能需要举一些例子。以非常闻名的web服务器Nginx为例，Nginx以强大的并发能力和低资源消耗而著称。Nginx为了实现这些严格的要求，它严格地限定了工作线程的数目（worker线程一般等于CPU数目）。这种设计的着眼点就是降低线程切换带来的性能损失，这条优化方式对Java同样适用。倘若，每来一个任务就新建一个Thread来运算，那最终的结果就是程序资源难以控制（某个功能把CPU跑满了），而且整体的执行速度也比较慢。 而Java线程池提供了FixedThreadPool，你可以使用它实现线程最大数目的控制。

上面说了这么多的“废话”，还是来结合Java线程池的实现来分析一下吧！Java的线程池有一下几种实现：

cached ThreadPool

缓存线程池的特点是它会缓存之前的线程，新提交的任务可以运行在缓存的线程中，即实现了前文所述的第一个优势。

fixed ThreadPool

cachedThreadPool的一个特点是——新提交的任务没有空闲线程可以执行了，就会创建一个新的线程。而fixedThreadPool不会这样，它会将任务保存起来，等到有空闲线程再执行。即实现了前文所述的第二个优势。

scheduled ThreadPool

scheduled ThreadPool的特点是可以实现任务的调度，比如任务的延迟执行和周期执行。

出了上面三种，Java还实现了newWorkStealingPool，这个是基于Fork/Join框架的。目前我还没研究这个，所以就先不管它了。Java的并发支持中，使用了Executor来包装各种线程池，“执行器”这个名称其实挺贴切的，线程池可不就是个执行器嘛！

1.cached ThreadPool、fixed ThreadPool的实现

从前文的描述就可以看出，这两种线程池非常类似。的确是这样，事实上它们是同时实现的，不行我们来看实际例子：

ThreadPoolExecutor executor1 = (ThreadPoolExecutor)Executors.newCachedThreadPool();

ThreadPoolExecutor executor2 = (ThreadPoolExecutor)Executors.newFixedThreadPool(4);

这是两种线程池的新建方法，看起来很像吧！如果你不这么认为，我只能让你看看真相了。

public static ExecutorService newCachedThreadPool() {
  return new ThreadPoolExecutor(0, Integer.MAX_VALUE,
                 60L, TimeUnit.SECONDS,
                 new SynchronousQueue<Runnable>());
}

public static ExecutorService newFixedThreadPool(int nThreads) {
  return new ThreadPoolExecutor(nThreads, nThreads,
                 0L, TimeUnit.MILLISECONDS,
                 new LinkedBlockingQueue<Runnable>());
}

是的，它们调用了同一个构造函数，只是参数略有不同。那么我们来看看这些参数的含义，以及两组参数的区别。首先还是需要贴一下ThreadPoolExecutor的构造函数了。

public ThreadPoolExecutor(int corePoolSize,
             int maximumPoolSize,
             long keepAliveTime,
             TimeUnit unit,
             BlockingQueue<Runnable> workQueue) {
  this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,
     Executors.defaultThreadFactory(), defaultHandler);
}

为了看起来清爽，再一层的构造函数我就不贴了，而且那个构造函数也只是简单的赋值而已。这里的函数原型已经能给我们很多很多信息了，不得不说JDK的代码命名确实好，简直就像注释一样。

maximumPoolSize就是线程池的最大线程数；对于cached ThreadPool来说，这个值是Integer.MAX_VALUE，基本相当于无穷大了，什么样的机器能跑几十亿线程！！对于fixed ThreadPool来讲，这个值就是用户设定的线程池的数目。
keepAliveTime和unit决定了线程的缓存过期时间；对于cached ThreadPool来讲，线程的缓存过期时间是一分钟，换言之，一个工作线程如果一分钟都无事可干，就把它撤销掉以节省资源。fixed ThreadPool传入的时间是0，这里的含义是fixed ThreadPool中的工作线程是永远不过期的。

corePoolSize是线程池的最小线程数；对于cached ThreadPool，这个值为0，因为在完全没有任务的情况下，cached ThreadPool的确会成为“光杆司令”。至于fixed ThreadPool，这个fixed已经表明corePoolSize是等于线程总数的。
接下来，我们根据一个简单的使用例子，来看看一下cached ThreadPool的流程。

public class Task implements Callable<String> {

private String name;
public Task(String name) {
  this.name = name;
}
@Override
public String call() throws Exception {
  System.out.printf("%s: Starting at : %s\n", this.name, new Date());
  return "hello, world";
}
public static void main(String[] args) {
  ThreadPoolExecutor executor = (ThreadPoolExecutor)Executors.newCachedThreadPool();
  Task task = new Task("test");
  Future<String> result = executor.submit(task);
  try {
    System.out.printf("%s\n", result.get());
  } catch (InterruptedException | ExecutionException e) {
    e.printStackTrace();
  }
  executor.shutdown();
  System.out.printf("Main ends at : %s\n", new Date());
}
}

首先，来看看executor.submit(task)，这其实调用了ThreadPoolExecutor.execute(Runnable command)方法，这个方法的代码如下，整段代码的逻辑是这样的。首先检查线程池的线程数是否不够corePoolSize，如果不够就直接新建线程并把command添加进去；如果线程数已经够了或者添加失败（多个线程增加添加的情况），就尝试把command添加到队列中（workQueue.offer(command)），如果添加失败了，就reject掉cmd。大体的逻辑是这样的，这段代码有很多基于线程安全的设计，这里为了不跑题，就先忽略细节了。

public void execute(Runnable command) {
  if (command == null)
    throw new NullPointerException();
  int c = ctl.get();
  if (workerCountOf(c) < corePoolSize) {
    if (addWorker(command, true))
      return;
    c = ctl.get();
  }
  if (isRunning(c) && workQueue.offer(command)) {
    int recheck = ctl.get();
    if (! isRunning(recheck) && remove(command))
      reject(command);
    else if (workerCountOf(recheck) == 0)
      addWorker(null, false);
  }
  else if (!addWorker(command, false))
    reject(command);
}

到这里，看起来线程池实现的整体思路其实也没多么复杂。但是还有一个问题——一个普通的Thread在执行完自己的run方法后会自动退出。那么线程池是如何实现Worker线程不断的干活，甚至在没有任务的时候。其实答案很简单，就是Worker其实在跑大循环，Worker实际运行方法如下：

final void runWorker(Worker w) {
  Thread wt = Thread.currentThread();
  Runnable task = w.firstTask;
  w.firstTask = null;
  w.unlock(); // allow interrupts
  boolean completedAbruptly = true;
  try {
    while (task != null || (task = getTask()) != null) {
      w.lock();
  /***/
      try {
        beforeExecute(wt, task);
        Throwable thrown = null;
        try {
          task.run();
        /***/
        } finally {
          afterExecute(task, thrown);
        }
      } finally {
        task = null;
        w.completedTasks++;
        w.unlock();
      }
    }
    completedAbruptly = false;
  } finally {
    processWorkerExit(w, completedAbruptly);
  }
}

关键就在这个while的判断条件，对于需要cached线程的情况下，getTask()会阻塞起来，如果缓存的时间过期，就会返回一个null，然后Worker就退出了，也就结束了它的服役周期。而在有任务的情况下，Woker会把task拿出来，然后调用task.run()执行任务，并通过Future通知客户线程（即future.get()返回）。这样一个简单的线程池使用过程就完了。。。

当然，线程池的很多精髓知识——基于线程安全的设计，我都没有分析。有兴趣可以自己分析一下，也可以和我讨论。此外Scheduled ThreadPool这里也没有分析，它的要点其实是调度，主要是根据时间最小堆来驱动的。

感谢阅读，希望能帮助到大家，谢谢大家对本站的支持，如有疑问请留言，或者到本站社区交流，大家共同进步！