java web如何解决瞬间高并发

1、任何的高并发,请求总是会有一个顺序的

2、java的队列的数据结构是先进先出的取值顺序

3、BlockingQueue类(线程安全)(使用方法可以百度)

一般使用LinkedBlockingQueue

利用以上几点,我们可以把高并发时候的请求放入一个队列,队列的大小可以自己定义,比如队列容量为1000个数据,那么可以利用过滤器或者拦截器把当前的请求放入队列,如果队列的容量满了,其余的请求可以丢掉或者作出相应回复

具体实施:

利用生产者、消费者模型:

将队列的请求一一处理完。

上代码:

/**
 * @author fuguangli
 * @description 前沿消费者类
 * @Create date:  2017/3/7
 * @using  EXAMPLE
 */
public class Customer implements Runnable{

  /**
   *     抛出异常  特殊值    阻塞     超时
   插入    add(e)  offer(e)  put(e)  offer(e, time, unit)
   移除    remove()  poll()  take()  poll(time, unit)
   检查    element()  peek()  不可用  不可用

   */
  private BlockingQueue blockingQueue;
  private AtomicInteger count = new AtomicInteger();
  public Customer(BlockingQueue blockingQueue) {
    this.blockingQueue = blockingQueue;
  }

  /**
   * When an object implementing interface <code>Runnable</code> is used
   * to create a thread, starting the thread causes the object's
   * <code>run</code> method to be called in that separately executing
   * thread.
   * <p/>
   * The general contract of the method <code>run</code> is that it may
   * take any action whatsoever.
   *
   * @see Thread#run()
   */
  @Override
  public void run() {
    System.out.println("消费者线程启动...");
    LockFlag.setCustomerRunningFlag(true);
    try {
      while (LockFlag.getProducerRunningFlag()){
        System.out.println(Thread.currentThread().getId()+"I'm Customer.Queue current size="+blockingQueue.size());
        String data = (String) blockingQueue.poll(10, TimeUnit.SECONDS);
        if(data!=null){
          System.out.println(Thread.currentThread().getId()+"*************正在消费数据 data="+data);
        }else{
          //表示超过取值时间,视为生产者不再生产数据
          System.out.println(Thread.currentThread().getId()+"队列为空无数据,请检查生产者是否阻塞");
        }
        Thread.sleep(50);
      }
      System.err.println("消费者程序执行完毕");
    } catch (InterruptedException e) {
      e.printStackTrace();
      System.err.println("消费者程序退出");
      LockFlag.setCustomerRunningFlag(false);//异常退出线程
      Thread.currentThread().interrupt();
    }
  }
}
package com.qysxy.framework.queue;

import java.util.concurrent.BlockingQueue;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.atomic.AtomicInteger;

/**
 * @author fuguangli
 * @description 队列生产者类
 * @Create date:  2017/3/7
 * @using    EXAMPLE
 */
public class Producer implements Runnable{

  /**
   *     抛出异常  特殊值    阻塞     超时
   插入  add(e)  offer(e)  put(e)  offer(e, time, unit)
   移除  remove()  poll()  take()  poll(time, unit)
   检查  element()  peek()  不可用  不可用

   */
  private BlockingQueue blockingQueue;
  private AtomicInteger count = new AtomicInteger();
  public Producer(BlockingQueue blockingQueue) {
    this.blockingQueue = blockingQueue;
  }

  /**
   * When an object implementing interface <code>Runnable</code> is used
   * to create a thread, starting the thread causes the object's
   * <code>run</code> method to be called in that separately executing
   * thread.
   * <p/>
   * The general contract of the method <code>run</code> is that it may
   * take any action whatsoever.
   *
   * @see Thread#run()
   */
  @Override
  public void run() {
    System.out.println("生产者线程启动...");
    LockFlag.setProducerRunningFlag(true);
    try {
      while (LockFlag.getProducerRunningFlag()){
        String data = "data:"+count.incrementAndGet();
        if(blockingQueue.offer(data,10, TimeUnit.SECONDS)){
          //返回true表示生产数据正确
          System.out.println("^^^^^^^^^^^^^^正在生产数据 data="+data);
        }else {
          //表示阻塞时间内还没有生产者生产数据
          System.out.println("生产者异常,无法生产数据");
        }
        Thread.sleep(50);

      }
    } catch (InterruptedException e) {
      e.printStackTrace();
      System.err.println("生产者程序退出");
      LockFlag.setProducerRunningFlag(false);//异常退出线程
      Thread.currentThread().interrupt();
    }
  }
}
package com.qysxy.framework.queue;

/**
 * @author fuguangli
 * @description 前沿生产者消费者模型的锁类
 * @Create date:  2017/3/7
 */
public class LockFlag {
  /**
   * 生产者互斥锁
   */
  private static Boolean producerRunningFlag = false;
  /**
   * 消费者互斥锁
   */
  private static Boolean customerRunningFlag = false;

  public static Boolean getProducerRunningFlag() {
    return producerRunningFlag;
  }

  public static void setProducerRunningFlag(Boolean producerRunningFlag) {
    LockFlag.producerRunningFlag = producerRunningFlag;
  }

  public static Boolean getCustomerRunningFlag() {
    return customerRunningFlag;
  }

  public static void setCustomerRunningFlag(Boolean customerRunningFlag) {
    LockFlag.customerRunningFlag = customerRunningFlag;
  }
}
package com.qysxy.framework.queue;

import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;
import java.util.Queue;
import java.util.concurrent.*;

/**
 * @author fuguangli
 * @description 前沿队列实用类,用于大量并发用户
 * @Create date:  2017/3/7
 */
public class BlockingQueueHelper {

  private static final Integer maxQueueSize = 1000;
  private static BlockingQueue blockingQueue = new LinkedBlockingQueue(maxQueueSize);
  private static ExecutorService threadPool = Executors.newCachedThreadPool();

  public static BlockingQueue getBlockingQueue() {
    if (blockingQueue == null) {
      blockingQueue = new LinkedBlockingQueue(maxQueueSize);
    }
    return blockingQueue;
  }

  /**
   * @param o 队列处理对象(包含request,response,data)
   */
  public static void requestQueue(Object o) {
    //检测当前的队列大小
    if (blockingQueue != null && blockingQueue.size() < maxQueueSize) {
      //可以正常进入队列
      if (blockingQueue.offer(o)) {
        //添加成功,检测数据处理线程是否正常
        if (LockFlag.getCustomerRunningFlag()) {
          //说明处理线程类正常运行
        } else {
          //说明处理线程类停止,此时,应重新启动线程进行数据处理
          LockFlag.setCustomerRunningFlag(true);

          //example:run
          Customer customer = new Customer(blockingQueue);
          threadPool.execute(customer);

        }

      } else {
        //进入队列失败,做出相应的处理,或者尝试重新进入队列

      }
    } else {
      //队列不正常,或队列大小已达上限,做出相应处理

    }

  }
}

好了,这时候,利用过滤器或者拦截器将每个请求封装成队列元素进行处理就行。

当然了,对于多应用服务器的部署架构来说,数据库也需要加锁,数据库隔离级别下篇再说。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持我们。

(0)

相关推荐

  • Java系统的高并发解决方法详解

    一个小型的网站,比如个人网站,可以使用最简单的html静态页面就实现了,配合一些图片达到美化效果,所有的页面均存放在一个目录下,这样的网站对系统架构.性能的要求都很简单,随着互联网业务的不断丰富,网站相关的技术经过这些年的发展,已经细分到很细的方方面面,尤其对于大型网站来说,所采用的技术更是涉及面非常广,从硬件到软件.编程语言.mysql" target="_blank" title="MySQL知识库">数据库.WebServer.防火墙等各个领域

  • Java 高并发八:NIO和AIO详解

    IO感觉上和多线程并没有多大关系,但是NIO改变了线程在应用层面使用的方式,也解决了一些实际的困难.而AIO是异步IO和前面的系列也有点关系.在此,为了学习和记录,也写一篇文章来介绍NIO和AIO. 1. 什么是NIO NIO是New I/O的简称,与旧式的基于流的I/O方法相对,从名字看,它表示新的一套Java I/O标 准.它是在Java 1.4中被纳入到JDK中的,并具有以下特性: NIO是基于块(Block)的,它以块为基本单位处理数据 (硬盘上存储的单位也是按Block来存储,这样性能

  • Java 高并发六:JDK并发包2详解

    1. 线程池的基本使用 1.1.为什么需要线程池 平时的业务中,如果要使用多线程,那么我们会在业务开始前创建线程,业务结束后,销毁线程.但是对于业务来说,线程的创建和销毁是与业务本身无关的,只关心线程所执行的任务.因此希望把尽可能多的cpu用在执行任务上面,而不是用在与业务无关的线程创建和销毁上面.而线程池则解决了这个问题,线程池的作用就是将线程进行复用. 1.2.JDK为我们提供了哪些支持 JDK中的相关类图如上图所示. 其中要提到的几个特别的类. Callable类和Runable类相似,但

  • Java 高并发十: JDK8对并发的新支持详解

    1. LongAdder 和AtomicLong类似的使用方式,但是性能比AtomicLong更好. LongAdder与AtomicLong都是使用了原子操作来提高性能.但是LongAdder在AtomicLong的基础上进行了热点分离,热点分离类似于有锁操作中的减小锁粒度,将一个锁分离成若干个锁来提高性能.在无锁中,也可以用类似的方式来增加CAS的成功率,从而提高性能. LongAdder原理图: AtomicLong的实现方式是内部有个value 变量,当多线程并发自增,自减时,均通过CA

  • java web如何解决瞬间高并发

    1.任何的高并发,请求总是会有一个顺序的 2.java的队列的数据结构是先进先出的取值顺序 3.BlockingQueue类(线程安全)(使用方法可以百度) 一般使用LinkedBlockingQueue 利用以上几点,我们可以把高并发时候的请求放入一个队列,队列的大小可以自己定义,比如队列容量为1000个数据,那么可以利用过滤器或者拦截器把当前的请求放入队列,如果队列的容量满了,其余的请求可以丢掉或者作出相应回复 具体实施: 利用生产者.消费者模型: 将队列的请求一一处理完. 上代码: /**

  • Java Web中解决路径(绝对路径与相对路径)问题

    Java Web中解决路径问题: Java中使用的路径,分为两种:绝对路径和相对路径.归根结底,Java本质上只能使用绝对路径来寻找资源.所有的相对路径寻找资源的方法,都不过是一些便利方法.不过是API在底层帮助我们构建了绝对路径,从而找到资源的! 在开发Web方面的应用时, 经常需要获取 服务器中当前WebRoot的物理路径. 如果是Servlet , Action , Controller, 或则Filter , Listener , 拦截器等相关类时, 我们只需要获得ServletCont

  • Java面试必备之JMM高并发编程详解

    目录 一.什么是JMM 二.JMM定义了什么 原子性 可见性 有序性 三.八种内存交互操作 四.volatile关键字 可见性 volatile一定能保证线程安全吗 禁止指令重排序 volatile禁止指令重排序的原理 五.总结 一.什么是JMM JMM就是Java内存模型(java memory model).因为在不同的硬件生产商和不同的操作系统下,内存的访问有一定的差异,所以会造成相同的代码运行在不同的系统上会出现各种问题.所以java内存模型(JMM)屏蔽掉各种硬件和操作系统的内存访问差

  • 详解利用redis + lua解决抢红包高并发的问题

    抢红包的需求分析 抢红包的场景有点像秒杀,但是要比秒杀简单点. 因为秒杀通常要和库存相关.而抢红包则可以允许有些红包没有被抢到,因为发红包的人不会有损失,没抢完的钱再退回给发红包的人即可. 另外像小米这样的抢购也要比淘宝的要简单,也是因为像小米这样是一个公司的,如果有少量没有抢到,则下次再抢,人工修复下数据是很简单的事.而像淘宝这么多商品,要是每一个都存在着修复数据的风险,那如果出故障了则很麻烦. 基于redis的抢红包方案 下面介绍一种基于Redis的抢红包方案. 把原始的红包称为大红包,拆分

  • Java httpClient连接池支持多线程高并发的实现

    当采用HttpClient httpClient = HttpClients.createDefault() 实例化的时候.会导致Address already in use的异常. 信息: I/O exception (java.net.BindException) caught when processing request to {}->http://**.**.**.** Address already in use: connect 十一月 22, 2018 5:02:13 下午 or

  • java web在高并发和分布式下实现订单号生成唯一的解决方案

    方案一: 如果没有并发,订单号只在一个线程内产生,那么由于程序是顺序执行的,不同订单的生成时间戳正常不同,因此用时间戳+随机数(或自增数)就可以区分各个订单.如果存在并发,且订单号是由一个进程中的多个线程产生的,那么只要把线程ID添加到序列号中就可以保证订单号唯一.如果存在并发,且订单号是由同一台主机中的多个进程产生的,那么只要把进程ID添加到序列号中就可以保证订单号唯一.如果存在并发,且订单号是由不同台主机产生的,那么MAC地址.IP地址或CPU序列号等能够区分主机的号码添加到序列号中就可以保

  • Java多线程高并发中解决ArrayList与HashSet和HashMap不安全的方案

    1.ArrayList的线程不安全解决方案 将main方法的第一行注释打开,多执行几次,会看到如下图这样的异常信息:

  • Java 高并发一:前言

    1.关于高并发的几个重要概念 1.1 同步和异步 首先这里说的同步和异步是指函数/方法调用方面. 很明显,同步调用会等待方法的返回,异步调用会瞬间返回,但是异步调用瞬间返回并不代表你的任务就完成了,他会在后台起个线程继续进行任务. 1.2 并发和并行 并发和并行在外在表象来说,是差不多的.由图所示,并行则是两个任务同时进行,而并发呢,则是一会做一个任务一会又切换做另一个任务.所以单个cpu是不能做并行的,只能是并发. 1.3 临界区 临界区用来表示一种公共资源或者说是共享数据,可以被多个线程使用

  • PHP解决高并发的优化方案实例

    我们通常衡量一个Web系统的吞吐率的指标是QPS(Query Per Second,每秒处理请求数),解决每秒数万次的高并发场景,这个指标非常关键.举个例子,我们假设处理一个业务请求平均响应时间为100ms,同时,系统内有20台Apache的Web服务器,配置MaxClients为500个(表示Apache的最大连接数目). 那么,我们的Web系统的理论峰值QPS为(理想化的计算方式): 20*500/0.1 = 100000 (10万QPS) 咦?我们的系统似乎很强大,1秒钟可以处理完10万的

随机推荐