浅析Tomcat使用线程池配置高并发连接

目录
  • Tomcat使用线程池配置高并发连接
    • 1:配置executor属性
    • 2:配置Connector
  • 一.Tomcat内存优化
    • 1.JAVA_OPTS参数说明
  • 二.Tomcat并发优化
    • 1.Tomcat连接相关参数
      • 1.参数说明
      • 2.Tomcat中的配置示例
    • 2.调整连接器connector的并发处理能力
      • 1.参数说明
      • 2.Tomcat中的配置示例
    • 3.Tomcat缓存优化
      • 1.参数说明
      • 2.Tomcat中的配置示例
    • 4.参考配置
      • 1.旧有的配置
      • 2.更改后的配置

Tomcat使用线程池配置高并发连接

1:配置executor属性

打开/conf/server.xml文件,在Connector之前配置一个线程池:

<Executor name="tomcatThreadPool"
          namePrefix="tomcatThreadPool-"
          maxThreads="1000"
          maxIdleTime="300000"
          minSpareThreads="200"/>  

重要参数说明:
name:共享线程池的名字。这是Connector为了共享线程池要引用的名字,该名字必须唯一。默认值:None;
namePrefix:在JVM上,每个运行线程都可以有一个name 字符串。这一属性为线程池中每个线程的name字符串设置了一个前缀,Tomcat将把线程号追加到这一前缀的后面。默认值:tomcat-exec-;
maxThreads:该线程池可以容纳的最大线程数。默认值:200;
maxIdleTime:在Tomcat关闭一个空闲线程之前,允许空闲线程持续的时间(以毫秒为单位)。只有当前活跃的线程数大于minSpareThread的值,才会关闭空闲线程。默认值:60000(一分钟)。
minSpareThreads:Tomcat应该始终打开的最小不活跃线程数。默认值:25。

2:配置Connector

<Connector executor="tomcatThreadPool"
           port="8088"
           protocol="HTTP/1.1"
           connectionTimeout="20000"
           redirectPort="8443"
           minProcessors="5"
           maxProcessors="75"
           acceptCount="1000"/>  

重要参数说明:
executor:表示使用该参数值对应的线程池;
minProcessors:服务器启动时创建的处理请求的线程数;
maxProcessors:最大可以创建的处理请求的线程数;
acceptCount:指定当所有可以使用的处理请求的线程数都被使用时,可以放到处理队列中的请求数,超过这个数的请求将不予处理。

一.Tomcat内存优化

Tomcat内存优化主要是对 tomcat 启动参数优化,我们可以在 tomcat 的启动脚本 catalina.sh 中设置JAVA_OPTS 参数。

1.JAVA_OPTS参数说明

-server  启用jdk 的 server 版;
-Xms    java虚拟机初始化时的最小内存;
-Xmx   java虚拟机可使用的最大内存;
-XX:PermSize    内存永久保留区域
-XX:MaxPermSize   内存最大永久保留区域   

现公司服务器内存一般都可以加到最大2G ,所以可以采取以下配置:

cygwin=false前添加

JAVA_OPTS='-Xms1024m -Xmx2048m -XX:PermSize=256M -XX:MaxNewSize=256m -XX:MaxPermSize=256m'

配置完成后可重启Tomcat ,通过以下命令进行查看配置是否生效:

首先查看Tomcat 进程号:

lsof -i:8088

result

[root@izwz9ajtb45u2jzfp4ljixz ~]# lsof -i:8088
COMMAND   PID USER   FD   TYPE    DEVICE SIZE/OFF NODE NAME
java    27698 root   46u  IPv4 116945134      0t0  TCP *:radan-http (LISTEN)

我们可以看到Tomcat 进程号是27698

查看是否配置生效:

jmap –heap 27698

能在输出的信息中找到Heap Configuration中看到MaxHeapSize 等参数已经生效。

二.Tomcat并发优化

1.Tomcat连接相关参数

在Tomcat 配置文件 server.xml 中的 <Connector ... /> 配置中

1.参数说明

minProcessors:最小空闲连接线程数,用于提高系统处理性能,默认值为 10
maxProcessors:最大连接线程数,即:并发处理的最大请求数,默认值为 75
acceptCount:允许的最大连接数,应大于等于 maxProcessors ,默认值为 100
enableLookups:是否反查域名,取值为: true 或 false 。为了提高处理能力,应设置为 false
connectionTimeout:网络连接超时,单位:毫秒。设置为 0 表示永不超时,这样设置有隐患的。通常可设置为 30000 毫秒。
其中和最大连接数相关的参数为maxProcessors 和 acceptCount 。如果要加大并发连接数,应同时加大这两个参数。
web server允许的最大连接数还受制于操作系统的内核参数设置,通常 Windows 是 2000 个左右, Linux是 1000 个左右。

2.Tomcat中的配置示例

<Connector port="8088"
           protocol="HTTP/1.1"
           maxHttpHeaderSize="8192"
           minProcessors="100"
           maxProcessors="1000"
           acceptCount="1000"
           redirectPort="8443"
           disableUploadTimeout="true"/>

2.调整连接器connector的并发处理能力

1.参数说明

maxThreads:客户请求最大线程数
minSpareThreads:Tomcat初始化时创建的 socket 线程数
maxSpareThreads:Tomcat连接器的最大空闲 socket 线程数
enableLookups:若设为true, 则支持域名解析,可把 ip 地址解析为主机名
redirectPort:在需要基于安全通道的场合,把客户请求转发到基于SSL 的 redirectPort 端口
acceptAccount:监听端口队列最大数,满了之后客户请求会被拒绝(不能小于maxSpareThreads )
connectionTimeout:连接超时
minProcessors:服务器创建时的最小处理线程数
maxProcessors:服务器同时最大处理线程数
URIEncoding:URL统一编码

2.Tomcat中的配置示例

<Connector port="8088"
           protocol="HTTP/1.1"
           maxHttpHeaderSize="8192"
           maxThreads="1000"
           minSpareThreads="100"
           maxSpareThreads="1000"
           minProcessors="100"
           maxProcessors="1000"
           enableLookups="false"
           URIEncoding="utf-8"
           acceptCount="1000"
           redirectPort="8443"
           disableUploadTimeout="true"/> 

3.Tomcat缓存优化

1.参数说明

compression:打开压缩功能
compressionMinSize:启用压缩的输出内容大小,这里面默认为2KB
compressableMimeType:压缩类型
connectionTimeout:定义建立客户连接超时的时间. 如果为 -1, 表示不限制建立客户连接的时间

2.Tomcat中的配置示例

<Connector port="8088"
           protocol="HTTP/1.1"
           maxHttpHeaderSize="8192"
           maxThreads="1000"
           minSpareThreads="100"
           maxSpareThreads="1000"
           minProcessors="100"
           maxProcessors="1000"
           enableLookups="false"
           compression="on"
           compressionMinSize="2048"
           compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"
           connectionTimeout="20000"
           URIEncoding="utf-8"
           acceptCount="1000"
           redirectPort="8443"
           disableUploadTimeout="true"/>  

4.参考配置

1.旧有的配置

参考网络对服务器做过如下配置,拿出来分享下:

<Connector port="8088"
           protocol="HTTP/1.1"
           maxHttpHeaderSize="8192"
           maxThreads="1000"
           minSpareThreads="25"
           maxSpareThreads="75"
           enableLookups="false"
           compression="on"
           compressionMinSize="2048"
           compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"
           connectionTimeout="20000"
           URIEncoding="utf-8"
           acceptCount="200"
           redirectPort="8443"
           disableUploadTimeout="true" />  

后来发现在访问量达到3 百万多的时候出现性能瓶颈。

2.更改后的配置

<Connector port="8088"
           protocol="HTTP/1.1"
           maxHttpHeaderSize="8192"
           maxThreads="1000"
           minSpareThreads="100"
           maxSpareThreads="1000"
           minProcessors="100"
           maxProcessors="1000"
           enableLookups="false"
           compression="on"
           compressionMinSize="2048"
           compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"
           connectionTimeout="20000"
           URIEncoding="utf-8"
           acceptCount="1000"
           redirectPort="8443"
           disableUploadTimeout="true"/>  

到此这篇关于Tomcat使用线程池配置高并发连接的文章就介绍到这了,更多相关tomcat配置高并发连接内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们!

(0)

相关推荐

  • Tomcat使用线程池处理远程并发请求的方法

    通过了解学习tomcat如何处理并发请求,了解到线程池,锁,队列,unsafe类,下面的主要代码来自 java-jre: sun.misc.Unsafe java.util.concurrent.ThreadPoolExecutor java.util.concurrent.ThreadPoolExecutor.Worker java.util.concurrent.locks.AbstractQueuedSynchronizer java.util.concurrent.locks.Abstr

  • Tomcat+Mysql高并发配置优化讲解

    1.Tomcat优化配置 (1)更改Tomcat的catalina.bat 将java变成server模式,增大jvm的内存,在文件开始位置增加 setJAVA_OPTS=-server -Xms1024m -Xmx2048m -Xss512K -XX:PermSize=128m-XX:MaxPermSize=256m setCATALINA_OPTS=-server -Xms512m -Xmx512m 如下图: Xms:初始内存 Xmx:最大内存 (2)更改Tomcat的Server.xml

  • Tomcat修正JDK原生线程池bug的实现原理

    为提高处理能力和并发度,Web容器一般会把处理请求的任务放到线程池,而JDK的原生线程池先天适合CPU密集型任务,于是Tomcat改造之. Tomcat 线程池原理 其实ThreadPoolExecutor的参数主要有如下关键点: 限制线程个数 限制队列长度 而Tomcat对这俩资源都需要限制,否则高并发下CPU.内存都有被耗尽可能. 因此Tomcat的线程池传参: // 定制的任务队列 taskqueue = new TaskQueue(maxQueueSize); // 定制的线程工厂 Ta

  • Apache Tomcat如何高并发处理请求

    目录 介绍 接收Socket请求 Socket请求轮询 请求具体处理 总结 参考: 介绍 作为常用的http协议服务器,tomcat应用非常广泛.tomcat也是遵循Servelt协议的,Servelt协议可以让服务器与真实服务逻辑代码进行解耦.各自只需要关注Servlet协议即可.对于tomcat是如何作为一个高性能的服务器的呢?你是不是也会有这样的疑问? tomcat是如何接收网络请求? 如何做到高性能的http协议服务器? tomcat从8.0往后开始使用了NIO非阻塞io模型,提高了吞吐

  • 基于tomcat的连接数与线程池详解

    前言 在使用tomcat时,经常会遇到连接数.线程数之类的配置问题,要真正理解这些概念,必须先了解Tomcat的连接器(Connector). 在前面的文章 详解Tomcat配置文件server.xml 中写到过:Connector的主要功能,是接收连接请求,创建Request和Response对象用于和请求端交换数据:然后分配线程让Engine(也就是Servlet容器)来处理这个请求,并把产生的Request和Response对象传给Engine.当Engine处理完请求后,也会通过Conn

  • 浅析Tomcat使用线程池配置高并发连接

    目录 Tomcat使用线程池配置高并发连接 1:配置executor属性 2:配置Connector 一.Tomcat内存优化 1.JAVA_OPTS参数说明 二.Tomcat并发优化 1.Tomcat连接相关参数 1.参数说明 2.Tomcat中的配置示例 2.调整连接器connector的并发处理能力 1.参数说明 2.Tomcat中的配置示例 3.Tomcat缓存优化 1.参数说明 2.Tomcat中的配置示例 4.参考配置 1.旧有的配置 2.更改后的配置 Tomcat使用线程池配置高并

  • 基于springcloud异步线程池、高并发请求feign的解决方案

    ScenTaskTestApplication.java package com.test; import org.springframework.boot.SpringApplication; import org.springframework.boot.autoconfigure.SpringBootApplication; import org.springframework.cloud.openfeign.EnableFeignClients; /** * @author scen *

  • Java线程池配置的一些常见误区总结

    前言 由于线程的创建和销毁对操作系统来说都是比较重量级的操作,所以线程的池化在各种语言内都有实践,当然在 Java 语言中线程池是也非常重要的一部分,有 Doug Lea 大神对线程池的封装,我们使用的时候是非常方便,但也可能会因为不了解其具体实现,对线程池的配置参数存在误解. 我们经常在一些技术书籍或博客上看到,向线程池提交任务时,线程池的执行逻辑如下: 当一个任务被提交后,线程池首先检查正在运行的线程数是否达到核心线程数,如果未达到则创建一个线程. 如果线程池内正在运行的线程数已经达到了核心

  • Springboot应用中线程池配置详细教程(最新2021版)

    前言:日常开发中我们常用ThreadPoolExecutor提供的线程池服务帮我们管理线程,在Springboot中更是提供了@Async注解来简化业务逻辑提交到线程池中执行的过程.由于Springboot中默认设置的corePoolSize=1和queyeCapacity=Integer.MAX_VALUE,相当于采用单线程处理所有任务,这就与多线程的目的背道而驰,所以这就要求我们在使用@Async注解时要配置线程池.本文就讲述下Springboot应用下的线程池配置. 背景知识:Spring

  • SpringBoot异步使用@Async的原理以及线程池配置详解

    目录 前言 使用步骤 配置线程池类参数配置 自定义线程任务 总结 原理刨析 文章参考 前言 在实际项目开发中很多业务场景需要使用异步去完成,比如消息通知,日志记录,等非常常用的都可以通过异步去执行,提高效率,那么在Spring框架中应该如何去使用异步呢 使用步骤 完成异步操作一般有两种,消息队列MQ,和线程池处理ThreadPoolExecutor 而在Spring4中提供的对ThreadPoolExecutor封装的线程池ThreadPoolTaskExecutor,直接使用注解启用@Asyn

  • 关于python3的ThreadPoolExecutor线程池大小设置

    线程池的理想大小取决于被提交任务的类型以及所部署系统的特性. 线程池应该避免设置的过大或过小,如果线程池过大,大量的线程将在相对很少的CPU和内存资源上发生竞争,这不仅会导致更高的内存使用量,而且还可能耗尽资源.如果线程池过小,那么将导致许多空闲处理器无法执行任务,降低了系统吞吐率. 要想合理的配置线程池的大小,首先得分析任务的特性,可以从以下几个角度分析: 任务的性质:CPU密集型任务.IO密集型任务.混合型任务. 任务的优先级:高.中.低. 任务的执行时间:长.中.短. 任务的依赖性:是否依

  • DUCC配置平台实现一个动态化线程池示例代码

    目录 1.背景 2.代码实现 3.动态线程池应用 4.小结 作者:京东零售 张宾 1.背景 在后台开发中,会经常用到线程池技术,对于线程池核心参数的配置很大程度上依靠经验.然而,由于系统运行过程中存在的不确定性,我们很难一劳永逸地规划一个合理的线程池参数.在对线程池配置参数进行调整时,一般需要对服务进行重启,这样修改的成本就会偏高.一种解决办法就是,将线程池的配置放到配置平台侧,系统运行期间开发人员根据系统运行情况对核心参数进行动态配置. 本文以公司DUCC配置平台作为服务配置中心,以修改线程池

  • Spring Boot中配置定时任务、线程池与多线程池执行的方法

    配置基础的定时任务 最基本的配置方法,而且这样配置定时任务是单线程串行执行的,也就是说每次只能有一个定时任务可以执行,可以试着声明两个方法,在方法内写一个死循环,会发现一直卡在一个任务上不动,另一个也没有执行. 1.启动类 添加@EnableScheduling开启对定时任务的支持 @EnableScheduling @SpringBootApplication public class TestScheduledApplication extends SpringBootServletInit

随机推荐