Javaweb应用使用限流处理大量的并发请求详解

在web应用中，同一时间有大量的客户端请求同时发送到服务器，例如抢购、秒杀等。这个时候如何避免将大量的请求同时发送到业务系统。

第一种方法：在容器中配置最大请求数，如果大于改请求数，则客户端阻塞。该方法有效的阻止了大量的请求同时访问业务系统，但对用户不友好。

第二种方法：使用过滤器，保证一定数量的请求能够正常访问系统，多余的请求先跳转到排队页面，由排队页面定时发起请求。过滤器实现如下：

public class ServiceFilter implements Filter {

	private static final int MAX_COUNT = 20;

	private AtomicInteger filterCount = 0;

	public void doFilter(ServletRequest request, ServletResponse response,
			FilterChain chain) throws IOException, ServletException {
		System.out.println("before"+filterCount);
		if(filterCount > MAX_COUNT) {
			//请求个数太多，跳转到排队页面
			request.getRequestDispatcher("index.jsp").forward(request, response);
		} else {
			//请求个数加1
			filterCount.incrementAndGet();

			chain.doFilter(request, response);
			//访问结束，请求个数减1
			filterCount.decrementAndGet();
		}
	}

此种方式的实现就是限流。可以参考RateLimiter的令牌桶限流策略的实现。

public class RateLimiterUtils {
	private static Logger logger = LoggerFactory.getLogger(RateLimiterUtils.class);
	private static final ConcurrentHashMap<String, RateLimiter> resourceLimitMap =
			new ConcurrentHashMap<String, RateLimiter>();

	/**
	 * 限流
	 * @param resource 需要限流的对象的标识
	 * @return true表示得到了许可，没有达到限流阀值，false表示得不到许可，达到了限流阀值。
	 * @author: hejinen
	 * @date:2016年10月19日 上午11:08:49
	 */
	public static boolean rateLimit(String resource) {
		RateLimiter limit = getRateLimit(resource);
		return limit.tryAcquire();
	}
    /**
	 * 获取某个需限流对象的RateLimiter，如不存在则创建新的
	 * @param resouce 需要限流的对象标识
	 */
	public static RateLimiter getRateLimit(String resource) {
		RateLimiter limit = resourceLimitMap.get(resource);
		if(limit == null) {
			synchronized(RateLimiterUtils.class) {
				limit = resourceLimitMap.get(resource);
				double qps = getQpsByResource(resource);
				if(limit == null) {
					limit = RateLimiter.create(qps);
					resourceLimitMap.put(resource, limit);
					LoggerUtil.info(RateLimiterUtils.class, "create rate limiter for key:{0},QPS:{1}", resource,qps);
				}
			}
		}
		return resourceLimitMap.get(resource);
	}
}

总结

以上就是本文关于Javaweb应用使用限流处理大量的并发请求详解的全部内容，希望对大家有所帮助。感兴趣的朋友可以继续参阅本站：javaweb设计中filter粗粒度权限控制代码示例、Javaweb项目session超时解决方案、Javaweb使用cors完成跨域ajax数据交互等，有什么问题可以随时留言，小编会及时回复大家的。感谢朋友们对本站的支持！

赞 (0)

相关推荐

  • java高并发写入用户信息到数据库的几种方法

    假定存在这样一种情况 多个用户对数据库进行写,我们的业务逻辑规定,每个用户只能写一次,大部分用户也只发一次请求. public void write(Uers u){ // do something } 但是有一种情况(1%的情况下吧)的就是有的用户会发两次甚至更多次写请求(因为数据库限制,我们不方便在主键上做文章). 如果这个特殊的用户发送的两次请求时间间隔比较大,那就简单了,再每次写入的时候,写去数据库里看看,这个人有没有写过,如果已经写过了,就直接抛弃这个请求. public void w

  • java 并发中的原子性与可视性实例详解

    java 并发中的原子性与可视性实例详解 并发其实是一种解耦合的策略,它帮助我们把做什么(目标)和什么时候做(时机)分开.这样做可以明显改进应用程序的吞吐量(获得更多的CPU调度时间)和结构(程序有多个部分在协同工作).做过java Web开发的人都知道,Java Web中的Servlet程序在Servlet容器的支持下采用单实例多线程的工作模式,Servlet容器为你处理了并发问题. 原子性 原子是世界上的最小单位,具有不可分割性.比如 a=0:(a非long和double类型) 这个操作是不

  • java并发学习之BlockingQueue实现生产者消费者详解

    java并发学习之BlockingQueue实现生产者消费者详解

    1.介绍 阻塞队列 (BlockingQueue)是Java util.concurrent包下重要的数据结构,BlockingQueue提供了线程安全的队列访问方式:当阻塞队列进行插入数据时,如果队列已满,线程将会阻塞等待直到队列非满:从阻塞队列取数据时,如果队列已空,线程将会阻塞等待直到队列非空.并发包下很多高级同步类的实现都是基于BlockingQueue实现的. JDK7提供了以下7个阻塞队列: ArrayBlockingQueue :由数组结构组成的有界阻塞队列. LinkedBloc

  • java ThreadPoolExecutor 并发调用实例详解

    java ThreadPoolExecutor 并发调用实例详解 概述 通常为了提供任务的处理速度,会使用一些并发模型,ThreadPoolExecutor中的invokeAll便是一种. 代码 package test.current; import java.util.ArrayList; import java.util.Arrays; import java.util.List; import java.util.concurrent.Callable; import java.util

  • Java系统的高并发解决方法详解

    一个小型的网站,比如个人网站,可以使用最简单的html静态页面就实现了,配合一些图片达到美化效果,所有的页面均存放在一个目录下,这样的网站对系统架构.性能的要求都很简单,随着互联网业务的不断丰富,网站相关的技术经过这些年的发展,已经细分到很细的方方面面,尤其对于大型网站来说,所采用的技术更是涉及面非常广,从硬件到软件.编程语言.mysql" target="_blank" title="MySQL知识库">数据库.WebServer.防火墙等各个领域

  • 简单谈谈RxJava和多线程并发

    前言 相信对于RxJava,大家应该都很熟悉,他最核心的两个字就是异步,诚然,它对异步的处理非常的出色,但是异步绝对不等于并发,更不等于线程安全,如果把这几个概念搞混了,错误的使用RxJava,是会来带非常多的问题的. RxJava与并发 首先让我们来看一段RxJava协议的原文: Observables must issue notifications to observers serially (not in parallel). They may issue these notificat

  • java高并发锁的3种实现示例代码

    初级技巧 - 乐观锁 乐观锁适合这样的场景:读不会冲突,写会冲突.同时读的频率远大于写. 以下面的代码为例,悲观锁的实现: public Object get(Object key) { synchronized(map) { if(map.get(key) == null) { // set some values } return map.get(key); } } 乐观锁的实现: public Object get(Object key) { Object val = null; if((

  • Java 并发编程之ThreadLocal详解及实例

    Java 并发编程之ThreadLocal详解及实例

    Java 理解 ThreadLocal 摘要: ThreadLocal 又名线程局部变量,是 Java 中一种较为特殊的线程绑定机制,用于保证变量在不同线程间的隔离性,以方便每个线程处理自己的状态.进一步地,本文以ThreadLocal类的源码为切入点,深入分析了ThreadLocal类的作用原理,并给出应用场景和一般使用步骤. 一. 对 ThreadLocal 的理解 1). ThreadLocal 概述 ThreadLocal 又名 线程局部变量,是 Java 中一种较为特殊的 线程绑定机制

  • Javaweb应用使用限流处理大量的并发请求详解

    在web应用中,同一时间有大量的客户端请求同时发送到服务器,例如抢购.秒杀等.这个时候如何避免将大量的请求同时发送到业务系统. 第一种方法:在容器中配置最大请求数,如果大于改请求数,则客户端阻塞.该方法有效的阻止了大量的请求同时访问业务系统,但对用户不友好. 第二种方法:使用过滤器,保证一定数量的请求能够正常访问系统,多余的请求先跳转到排队页面,由排队页面定时发起请求.过滤器实现如下: public class ServiceFilter implements Filter { private

  • 在java8中使用流区分质数与非质数详解

    在java8中使用流区分质数与非质数详解

    我就废话不多说了,大家还是直接看代码吧~ public class PrimeTest { public static void main(String[] args) { Map<Boolean, List<Integer>> collect = IntStream.rangeClosed(2, 100).boxed().collect(partitioningBy(PrimeTest::isPrime)); System.out.println(collect.get(true

  • Java IO流之字节输入流的使用详解

    Java IO流之字节输入流的使用详解

    目录 一.InputStream字节输入流 二.FileInputStream文件输入类 三.文件复制 一.InputStream字节输入流 ①.是一个抽象类,不能够创建对象,需要被继承才能够使用 ②.在java.io包下,使用时需要导入 ③.公共的方法: 方法一: int read() 方法二: int read(byte[] b) 方法三: void close() 更多方法请查看官方API 二.FileInputStream文件输入类 ①.该类继承了InputStream,可以使用Inpu

  • JavaWeb servlet实现下载与上传功能的方法详解

    本文实例讲述了JavaWeb servlet实现下载与上传功能的方法.分享给大家供大家参考,具体如下: 本文内容: servlet实现下载功能 servlet实现上传功能 首发日期:2018-07-21 servlet实现下载功能 实现流程 1.首先制作一个jsp页面,主要是用来触发下载的.这里可以根据你的想法来做,当然servlet那边就要相应的更改了.我这里使用一个简单的a标签来触发. 2.设置响应信息,告诉浏览器要将传过来的数据识别成下载:根据提交上来的数据找到对应文件,转成流,返回给浏览

  • C#文件流读写和进度回调示例详解

    前言 前不久遇到一个问题,是公司早期的基础库遇到的,其实很低级,但是还是记录下来.出错点是一个 IO 流的写入bug,我们项目会有一种专有的数据格式,这个格式的奇葩点在于如果设置 IO 读缓冲区为 2014 字节的时候,整个文件刚好能读完,也就是说其 length 刚好是 1024 的倍数.后来在一次升级中增加了更多的文件格式,并且新的文件格式使用了新的自定义写入流,具有加密和压缩的作用,这样一来,文件的长度就不一定是 1024 的倍数了. 后来通过查看这个基础类的源代码发现因为是 .NET 2

  • Java使用I/O流读取文件内容的方法详解

    Java使用I/O流读取文件内容的方法详解

    本文实例讲述了Java使用I/O流读取文件内容的方法.分享给大家供大家参考,具体如下: 要利用I/O流读取文件内容,首先要掌握InputStream的体系结构. 这个体系中FileInputStream和BufferedInputStream是一定要掌握的,因为使用的频率比较高. InputStream的方法:InputStream位于java.io包下 OutputStream的方法: 读取文件(代码): package com.jredu.oopch11; import java.io.Fi

  • C++基于文件流与armadillo读取mnist示例详解

    C++基于文件流与armadillo读取mnist示例详解

    前言 发现网上大把都是用python读取mnist的,用C++大都是用opencv读取的,但我不怎么用opencv,因此自己摸索了个使用文件流读取mnist的方法,armadillo仅作为储存矩阵的一种方式. 1. mnist文件 首先避坑,这些文件要解压. 官网截图可知,文件头很简单,只有若干个32位整数,MSB,像素和标签均是无符号字节(即unsigned char)可以先读取文件头,再读取剩下的部分. 2. 读取文件头 我觉得没什么必要啊,直接跳过不行吗 文件头都是32位,那就整四个uns

  • 高并发系统的限流详解及实现

    在开发高并发系统时有三把利器用来保护系统:缓存.降级和限流.本文结合作者的一些经验介绍限流的相关概念.算法和常规的实现方式. 缓存 缓存比较好理解,在大型高并发系统中,如果没有缓存数据库将分分钟被爆,系统也会瞬间瘫痪.使用缓存不单单能够提升系统访问速度.提高并发访问量,也是保护数据库.保护系统的有效方式.大型网站一般主要是"读",缓存的使用很容易被想到.在大型"写"系统中,缓存也常常扮演者非常重要的角色.比如累积一些数据批量写入,内存里面的缓存队列(生产消费),以及

  • Java使用Semaphore对单接口进行限流

    Java使用Semaphore对单接口进行限流

    目录 一.实战说明 1.1 效果说明 1.2 核心知识点 二. 环境搭建 三.限流演示 3.1 并发请求工具 3.2 效果示例图 一.实战说明 1.1 效果说明 本篇主要讲如何使用Semaphore对单接口进行限流,例如有如下场景 a. A系统的有a接口主要给B系统调用,现在希望对B系统进行限流,例如处理峰值在100,超过100的请求快速失败 b. 接口作为总闸入口,希望限制所有外来访问,例如某个房间只能同时100个玩家在线,只有前面的处理完后面的才能继续请求 c. 其他类型场景,也就是资源固定

  • Nginx源码研究之nginx限流模块详解

    高并发系统有三把利器:缓存.降级和限流: 限流的目的是通过对并发访问/请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务(定向到错误页).排队等待(秒杀).降级(返回兜底数据或默认数据): 高并发系统常见的限流有:限制总并发数(数据库连接池).限制瞬时并发数(如nginx的limit_conn模块,用来限制瞬时并发连接数).限制时间窗口内的平均速率(nginx的limit_req模块,用来限制每秒的平均速率): 另外还可以根据网络连接数.网络流量.CPU或内存负载等来限流. 1.限流算法 最

随机推荐