springboot tomcat最大线程数与最大连接数解析

springboot tomcat最大线程数与最大连接数

首先看看springboot内置的tomcat，该如何配置这两个参数

# 在配置文件中添加如下内容
# tomcat最大线程数，默认为200
server.tomcat.max-threads=200
# tomcat最大连接数，默认为10000（网上的说法）
server.tomcat.max-connections=300

如何理解上面两个参数

为了方便理解，我这里使用了springboot编写了一个简单了的服务，包含一个模拟登录的接口，并使用jmeter进行测试，不了解jmeter如何使用的朋友可以翻看我的历史文章。部分代码如下

// java 代码
@RestController
@RequestMapping("/user")
public class UserController {
    @Autowired
    private UsersRepository usersRepository;

    @PostMapping("/login")
    public String login(Users user) throws InterruptedException {
        // 这里将线程挂起3秒，方便观察结果
        Thread.sleep(3000);
        Users checkUser = usersRepository.findByName(user.getName());
        if(checkUser == null)
            return "用户不存在";
        if(!checkUser.getPassword().equals(user.getPassword()))
            return "密码错误";
        System.out.println("用户:" + checkUser.getName() + ",登录成功");
        return "登录成功";
    }
}

接下来，设置jmeter中的线程数，分别测试以下场景返回的结果

注意：我在java代码中添加将线程挂起3秒的语句，实际的响应时间应该减去3秒

场景1：并发请求数 <= tomcat最大线程数200

设置jmeter并发请求数量为200

结果统计

结论：可以看到200个请求，平均响应时间为(3156-3000)=156ms,最小响应时间为23ms，最大响应时间为336ms,响应结果正常。

场景2：并发数 >tomcat最大线程数200，以下我将jmeter线程数设置为201，再来看看结果

看了下，平均值，最小值好像没什么异常，但是最大值却去到了5606毫秒，接近6S的时间。为什么会有个接近6S的最大值，原因很简单，因为tomcat最大的线程数为200,201的并发请求量，超出了并发处理的数量200，多出来的1个请求，需要等待某个处理中的请求处理完成。

这里我翻看了jmeter中大部分的http请求，验证了我的想法。大部分的http请求，响应时间都是3000多毫秒，只有最后一个响应的请求，响应的时间为5606毫秒，截图如下

场景3：请求数超过最大连接数300，这里将jmeter并发线程数设置为600

异常数量由原本的百分之0变成37.45%

可以看到有大量的没有正常响应的http请求，原因很简单，因为超过了tomcat设置的最大连接数，服务器拒绝了该次请求的连接

SpringBoot中修改tomcat最大连接数、最大线程数、最大等待数

1）maxThreads（最大线程数）

每一次HTTP请求到达Web服务器，Web服务器都会创建一个线程来处理该请求，该参数决定了应用服务同时可以处理多少个HTTP请求，tomcat默认为200；

2）accepCount（最大等待数）

当调用Web服务的HTTP请求数达到tomcat的最大线程数时，还有新的HTTP请求到来，这时tomcat会将该请求放在等待队列中，这个acceptCount就是指能够接受的最大等待数，默认100.如果等待队列也被放满了，这个时候再来新的请求就会被tomcat拒绝（connection refused）；

3）maxConnections（最大连接数）

这个参数是指在同一时间，tomcat能够接受的最大连接数。一般这个值要大于maxThreads+acceptCount。

根据公司用户量及机器配置信息，公司的最大连接数、最大线程数和最大等待数优化为：

   #最大连接数
   server.tomcat.max-connections=2000
   #最大线程数
   server.tomcat.max-threads=1000
   #最大等待数
   server.tomcat.accept-count=800

以上为个人经验，希望能给大家一个参考，也希望大家多多支持我们。