spring boot如何实现切割分片上传

这篇文章主要介绍了spring boot如何实现切割分片上传,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下

文件上传是web开发中经常会遇到的

springboot的默认配置为10MB,大于10M的是传不上服务器的,需要修改默认配置

但是如果修改支持大文件又会增加服务器的负担。

当文件大于一定程度时,不仅服务器会占用大量内存,而且http传输极可能会中断。

可以采用切割分片上传

html5提供的文件API中可以轻松的对文件进行分割切片,然后通过ajax异步处理向服务器传输数据,突破对大文件上传的限制,

同时异步处理在一定程度上也提高了文件上传的效率。

过程描述:

  • 将文件分割成N片
  • 处理分片,前台会多次调用上传接口,每次都会上传文件的一部分到服务端
  • N个分片都上传完成后,将N个文件合并为一个文件,并将N个分片文件删除

1.服务端

(1)添加依赖

<dependency>
   <groupId>commons-fileupload</groupId>
   <artifactId>commons-fileupload</artifactId>
   <version>1.3.3</version>
</dependency>

(2)UploadController

package com.example.demo.controller;

import com.example.demo.core.Result;
import org.apache.commons.fileupload.servlet.ServletFileUpload;
import org.apache.commons.io.FileUtils;
import org.springframework.stereotype.Controller;
import org.springframework.web.bind.annotation.CrossOrigin;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.ResponseBody;
import org.springframework.web.multipart.MultipartFile;

import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;
import java.io.File;
import java.io.FileOutputStream;
import java.io.IOException;
import java.text.SimpleDateFormat;
import java.util.Date;
@CrossOrigin
@Controller
@RequestMapping("/api/upload")
public class UploadController {
  @PostMapping("/part")
  @ResponseBody
  public Result bigFile(HttpServletRequest request, HttpServletResponse response, String guid, Integer chunk, MultipartFile file, Integer chunks) {
    try {
      String projectUrl = System.getProperty("user.dir").replaceAll("\\\\", "/");
      ;
      boolean isMultipart = ServletFileUpload.isMultipartContent(request);
      if (isMultipart) {
        if (chunk == null) chunk = 0;
        // 临时目录用来存放所有分片文件
        String tempFileDir = projectUrl + "/upload/" + guid;
        File parentFileDir = new File(tempFileDir);
        if (!parentFileDir.exists()) {
          parentFileDir.mkdirs();
        }
        // 分片处理时,前台会多次调用上传接口,每次都会上传文件的一部分到后台
        File tempPartFile = new File(parentFileDir, guid + "_" + chunk + ".part");
        FileUtils.copyInputStreamToFile(file.getInputStream(), tempPartFile);
      }

    } catch (Exception e) {
      return Result.failMessage(400,e.getMessage());
    }
    return Result.successMessage(200,"上次成功");
  }

  @RequestMapping("merge")
  @ResponseBody
  public Result mergeFile(String guid, String fileName) {
    // 得到 destTempFile 就是最终的文件
    String projectUrl = System.getProperty("user.dir").replaceAll("\\\\", "/");
    try {
      String sname = fileName.substring(fileName.lastIndexOf("."));
      //时间格式化格式
      Date currentTime = new Date();
      SimpleDateFormat simpleDateFormat = new SimpleDateFormat("yyyyMMddHHmmssSSS");
      //获取当前时间并作为时间戳
      String timeStamp = simpleDateFormat.format(currentTime);
      //拼接新的文件名
      String newName = timeStamp + sname;
      simpleDateFormat = new SimpleDateFormat("yyyyMM");
      String path = projectUrl + "/upload/";
      String tmp = simpleDateFormat.format(currentTime);
      File parentFileDir = new File(path + guid);
      if (parentFileDir.isDirectory()) {
        File destTempFile = new File(path + tmp, newName);
        if (!destTempFile.exists()) {
          //先得到文件的上级目录,并创建上级目录,在创建文件
          destTempFile.getParentFile().mkdir();
          try {
            destTempFile.createNewFile();
          } catch (IOException e) {
            e.printStackTrace();
          }
        }
        for (int i = 0; i < parentFileDir.listFiles().length; i++) {
          File partFile = new File(parentFileDir, guid + "_" + i + ".part");
          FileOutputStream destTempfos = new FileOutputStream(destTempFile, true);
          //遍历"所有分片文件"到"最终文件"中
          FileUtils.copyFile(partFile, destTempfos);
          destTempfos.close();
        }
        // 删除临时目录中的分片文件
        FileUtils.deleteDirectory(parentFileDir);
        return Result.successMessage(200,"合并成功");
      }else{
        return Result.failMessage(400,"没找到目录");
      }

    } catch (Exception e) {
      return Result.failMessage(400,e.getMessage());
    }

  }

}

说明:

注解 @CrossOrigin 解决跨域问题

(3)Result

package com.example.demo.core;

import com.alibaba.fastjson.JSON;

/**
 * Created by Beibei on 19/02/22
 * API响应结果
 */
public class Result<T> {
  private int code;
  private String message;
  private T data;

  public Result setCode(Integer code) {
    this.code = code;
    return this;
  }

  public int getCode() {
    return code;
  }

  public String getMessage() {
    return message;
  }

  public Result setMessage(String message) {
    this.message = message;
    return this;
  }

  public T getData() {
    return data;
  }

  public Result setData(T data) {
    this.data = data;
    return this;
  }

  @Override
  public String toString() {
    return JSON.toJSONString(this);
  }

  public static <T> Result<T> fail(Integer code,T data) {
    Result<T> ret = new Result<T>();
    ret.setCode(code);
    ret.setData(data);
    return ret;
  }

  public static <T> Result<T> failMessage(Integer code,String msg) {
    Result<T> ret = new Result<T>();
    ret.setCode(code);
    ret.setMessage(msg);
    return ret;
  }
  public static <T> Result<T> successMessage(Integer code,String msg) {
    Result<T> ret = new Result<T>();
    ret.setCode(code);
    ret.setMessage(msg);
    return ret;
  }

  public static <T> Result<T> success(Integer code,T data) {
    Result<T> ret = new Result<T>();
    ret.setCode(code);
    ret.setData(data);
    return ret;
  }

}

2.前端

(1)使用插件

webuploader,下载  https://github.com/fex-team/webuploader/releases

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml">
<head>
  <meta http-equiv="Content-Type" content="text/html; charset=utf-8" />
  <link href="css/webuploader.css" rel="external nofollow" rel="stylesheet" type="text/css" />
  <script type="text/javascript" src="jquery-1.10.1.min.js"></script>
  <script type="text/javascript" src="dist/webuploader.min.js"></script>
</head>
<body>
  <div id="uploader">
   <div class="btns">
     <div id="picker">选择文件</div>
     <button id="startBtn" class="btn btn-default">开始上传</button>
   </div>
  </div>
</body>
<script type="text/javascript">
var GUID = WebUploader.Base.guid();//一个GUID
var uploader = WebUploader.create({
  // swf文件路径
  swf: 'dist/Uploader.swf',
  // 文件接收服务端。
  server: 'http://localhost:8080/api/upload/part',
  formData:{
    guid : GUID
  },
  pick: '#picker',
  chunked : true, // 分片处理
  chunkSize : 1 * 1024 * 1024, // 每片1M,
  chunkRetry : false,// 如果失败,则不重试
  threads : 1,// 上传并发数。允许同时最大上传进程数。
  resize: false
});
$("#startBtn").click(function () {
  uploader.upload();
});
//当文件上传成功时触发。
uploader.on( "uploadSuccess", function( file ) {
  $.post('http://localhost:8080/api/upload/merge', { guid: GUID, fileName: file.name}, function (data) {
    if(data.code == 200){
     alert('上传成功!');
    }
   });
});
</script>
</html>

(2)不使用插件

直接用HTML5的File API

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml">
  <head>
    <script src="jquery-1.10.1.min.js" type="text/javascript">
    </script>
    <meta content="text/html; charset=utf-8" http-equiv="Content-Type"/>
  </head>
  <body>
    <div id="uploader">
      <div class="btns">
        <input id="file" name="file" type="file"/>
        <br>
          <br>
            <button id="startBtn">
              开始上传
            </button>
          </br>
        </br>
      </div>
      <div id="output">
      </div>
    </div>
  </body>
  <script type="text/javascript">
    var status = 0;
    var page = {
    init: function(){
      $("#startBtn").click($.proxy(this.upload, this));
    },
    upload: function(){
      status = 0;
      var GUID = this.guid();
      var file = $("#file")[0].files[0], //文件对象
        name = file.name,    //文件名
        size = file.size;    //总大小
      var shardSize = 20 * 1024 * 1024,  //以1MB为一个分片
        shardCount = Math.ceil(size / shardSize); //总片数
      for(var i = 0;i < shardCount;++i){
        //计算每一片的起始与结束位置
        var start = i * shardSize,
        end = Math.min(size, start + shardSize);
        var partFile = file.slice(start,end);
        this.partUpload(GUID,partFile,name,shardCount,i);
      }
    },
    partUpload:function(GUID,partFile,name,chunks,chunk){
      //构造一个表单,FormData是HTML5新增的
      var now = this;
      var form = new FormData();
      form.append("guid", GUID);
      form.append("file", partFile); //slice方法用于切出文件的一部分
      form.append("fileName", name);
      form.append("chunks", chunks); //总片数
      form.append("chunk", chunk);    //当前是第几片
        //Ajax提交
        $.ajax({
          url: "http://localhost:8080/api/upload/part",
          type: "POST",
          data: form,
          async: true,    //异步
          processData: false, //很重要,告诉jquery不要对form进行处理
          contentType: false, //很重要,指定为false才能形成正确的Content-Type
          success: function(data){
            status++;
            if(data.code == 200){
              $("#output").html(status+ " / " + chunks);
            }
            if(status==chunks){
              now.mergeFile(GUID,name);
            }
          }
        });
    },
    mergeFile:function(GUID,name){
      var formMerge = new FormData();
      formMerge.append("guid", GUID);
      formMerge.append("fileName", name);
      $.ajax({
        url: "http://localhost:8080/api/upload/merge",
        type: "POST",
        data: formMerge,
        processData: false, //很重要,告诉jquery不要对form进行处理
        contentType: false, //很重要,指定为false才能形成正确的Content-Type
        success: function(data){
          if(data.code == 200){
            alert('上传成功!');
          }
        }
      });
    },
    guid:function(prefix){
        var counter = 0;
        var guid = (+new Date()).toString( 32 ),
          i = 0;
        for ( ; i < 5; i++ ) {
          guid += Math.floor( Math.random() * 65535 ).toString( 32 );
        }
        return (prefix || 'wu_') + guid + (counter++).toString( 32 );
    }
  };

  $(function(){
    page.init();
  });
  </script>
</html>

3.优化 

springboot的默认配置为10MB,前端分片改为20M时,就会报错

org.apache.tomcat.util.http.fileupload.FileUploadBase$SizeLimitExceededException: the request was rejected because its size (10486839) exceeds the configured maximum (10485760)

解决方法:

在 src/main/resources 下的 application.properties里添加

spring.servlet.multipart.max-file-size=30MB
spring.servlet.multipart.max-request-size=35MB

说明:

设置的数值虽好比前端传过来的大,要不容易报错

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持我们。

(0)

相关推荐

  • SpringBoot图片上传和访问路径映射

    简介 做移动端对接,框架用的SpringBoot,接口RESTful,实现一个图片上传功能,图片上传是个经典的应用场景了,完成后,做个笔记记录一下,希望能帮到攻城狮们 开发步骤 1.先贴图片上传工具类 package com.prereadweb.utils; import java.io.File; import java.io.FileOutputStream; import java.util.UUID; /** * @Description: 文件工具类 * @author: Yangx

  • Springboot2.x+ShardingSphere实现分库分表的示例代码

    之前一篇文章中我们讲了基于Mysql8的读写分离(文末有链接),这次来说说分库分表的实现过程. 概念解析 垂直分片 按照业务拆分的方式称为垂直分片,又称为纵向拆分,它的核心理念是专库专用. 在拆分之前,一个数据库由多个数据表构成,每个表对应着不同的业务.而拆分之后,则是按照业务将表进行归类,分布到不同的数据库中,从而将压力分散至不同的数据库. 下图展示了根据业务需要,将用户表和订单表垂直分片到不同的数据库的方案. 垂直分片往往需要对架构和设计进行调整.通常来讲,是来不及应对互联网业务需求快速变化

  • SpringBoot集成Zipkin实现分布式全链路监控

    Zipkin 简介 Zipkin is a distributed tracing system. It helps gather timing data needed to troubleshoot latency problems in service architectures. Features include both the collection and lookup of this data. If you have a trace ID in a log file, you ca

  • springboot实现上传并解析Excel过程解析

    添加pom依赖 <!-- excel解析包 --> <!-- https://mvnrepository.com/artifact/org.apache.poi/poi --> <!--处理2003 excel--> <dependency> <groupId>org.apache.poi</groupId> <artifactId>poi</artifactId> <version>3.16<

  • SpringBoot 使用Mybatis分页插件实现详解

    这篇文章主要介绍了SpringBoot 使用Mybatis分页插件实现详解,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下 1.导入分页插件包和jpa包 <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-data-jpa</artifactId> </depende

  • SpringBoot集成阿里云OSS图片上传

    简述 最近做的公司项目,图片比较多,不想给其存储到自己服务器上,就买了阿里云的OSS服务器来哦进行存储,其实集成第三方平台,一般没什么难度,当然,你要仔细看对方的API文档,这篇主要说一下个人集成OSS的过程 步骤 1.pom.xml中添加OSS的SDK <!-- 图片上传 SDK 阿里云oss --> <dependency> <groupId>com.aliyun.oss</groupId> <artifactId>aliyun-sdk-os

  • SpringBoot集成Redisson实现分布式锁的方法示例

    上篇 <SpringBoot 集成 redis 分布式锁优化>对死锁的问题进行了优化,今天介绍的是 redis 官方推荐使用的 Redisson ,Redisson 架设在 redis 基础上的 Java 驻内存数据网格(In-Memory Data Grid),基于NIO的 Netty 框架上,利用了 redis 键值数据库.功能非常强大,解决了很多分布式架构中的问题. Github的wiki地址: https://github.com/redisson/redisson/wiki 官方文档

  • Spring Boot基于数据库如何实现简单的分布式锁

    1.简介 分布式锁的方式有很多种,通常方案有: 基于mysql数据库 基于redis 基于ZooKeeper 网上的实现方式有很多,本文主要介绍的是如果使用mysql实现简单的分布式锁,加锁流程如下图: 其实大致思想如下: 1.根据一个值来获取锁(也就是我这里的tag),如果当前不存在锁,那么在数据库插入一条记录,然后进行处理业务,当结束,释放锁(删除锁). 2.如果存在锁,判断锁是否过期,如果过期则更新锁的有效期,然后继续处理业务,当结束时,释放锁.如果没有过期,那么获取锁失败,退出. 2.数

  • spring boot + mybatis如何实现数据库的读写分离

    介绍 随着业务的发展,除了拆分业务模块外,数据库的读写分离也是常见的优化手段. 方案使用了AbstractRoutingDataSource和mybatis plugin来动态的选择数据源 选择这个方案的原因主要是不需要改动原有业务代码,非常友好 注: demo中使用了mybatis-plus,实际使用mybatis也是一样的 demo中使用的数据库是postgres,实际任一类型主从备份的数据库示例都是一样的 demo中使用了alibaba的druid数据源,实际其他类型的数据源也是一样的 环

  • spring boot如何实现切割分片上传

    这篇文章主要介绍了spring boot如何实现切割分片上传,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下 文件上传是web开发中经常会遇到的 springboot的默认配置为10MB,大于10M的是传不上服务器的,需要修改默认配置 但是如果修改支持大文件又会增加服务器的负担. 当文件大于一定程度时,不仅服务器会占用大量内存,而且http传输极可能会中断. 可以采用切割分片上传 html5提供的文件API中可以轻松的对文件进行分割切片,然后通过

  • Spring Boot 利用WebUploader进行文件上传功能

    Web Uploader简介 WebUploader是由Baidu WebFE(FEX)团队开发的一个简单的以HTML5为主,FLASH为辅的现代文件上传组件.在现代的浏览器里面能充分发挥HTML5的优势,同时又不摒弃主流IE浏览器,沿用原来的FLASH运行时,兼容IE6+,iOS 6+, android 4+.两套运行时,同样的调用方式,可供用户任意选用.采用大文件分片并发上传,极大的提高了文件上传效率. 我们这里使用官网的一个例子来实现我们个人头像的上传. 我们的重点是在Spring Boo

  • Spring boot + LayIM + t-io 实现文件上传、 监听用户状态的实例代码

    前言 今天的主要内容是:LayIM消息中图片,文件的上传对接.用户状态的监听.群在线人数的监听.下面我将挨个介绍. 图片上传 关于Spring boot中的文件上传的博客很多,我也是摘抄了部分代码.上传部分简单介绍,主要介绍在开发过程中遇到的问题.首先我们看一下LayIM的相应的接口: layim.config({ //上传图片接口 ,uploadImage: {url: '/upload/file'} //上传文件接口 ,uploadFile: {url: '/upload/file'} //

  • Spring boot集成Go-FastDFS实现图片上传删除等功能实现

    一.背景 工作中接触到需要采集并管理大量图片的需求,本来是用的FastDFS,但是发现实际情况是在项目实施时难以找到linux服务器去安装FastDFS,所以经过调研,选择了可以在windows服务器上安装部署的Go-FastDFS文件服务器 二.Go-FastDFS简介 go-fastdfs是一个基于http协议的分布式文件系统,它基于大道至简的设计理念,一切从简设计,使得它的运维及扩展变得更加简单,它具有高性能.高可靠.无中心.免维护等优点. 三.安装Go-FastDFS文件服务器 1)下载

  • spring boot实现阿里云视频点播上传视频功能(复制粘贴即可)

    目录: 1.spring boot实现阿里云视频点播上传视频(复制粘贴即可) 2.spring boot 实现阿里云视频点播 --删除视频 准备工作: 阿里云地址: https://www.aliyun.com/ 登录阿里云,确保账户有余额,有几毛钱就够了,开发学习基本不花钱. 2.进入阿里云开通视频点播功能 3.获取阿里云密钥 代码编写: 目录结构: application.properties # 服务端口 server.port=8003 # 服务名 spring.application.

  • Spring Boot 2.x 实现文件上传功能

    文件上传的功能实现是我们做Web应用时候最为常见的应用场景,比如:实现头像的上传,Excel文件数据的导入等功能,都需要我们先实现文件的上传,然后再做图片的裁剪,excel数据的解析入库等后续操作. 今天通过这篇文章,我们就来一起学习一下如何在Spring Boot中实现文件的上传. 动手试试 第一步:创建一个基础的Spring Boot项目,如果还不会的话就先看看这篇<快速入门>. 第二步:在pom.xml中引入模版引擎依赖: <dependency> <groupId&g

  • spring boot搭建文件服务器解决同时上传多个图片和下载的问题

    在平时的业务场景中,避免不了,要搭建文件上传服务器,作为公共服务.一般情况,只做了单个文件的上传,实际业务场景中,却发现单个文件上传,并不能满足一些业务需求,因此我们需要解决如何写一个同时上传多个文件的接口,并返回可下载的文件地址: 废话不多讲,不再从头建立一个 Spring boot 项目,如果不知道的话,请直接前往官网查看实例. 下面我们以上传图片为例,示例相对简单,仅供参考: 1 后端上传图片接口逻辑 UploadController.java package com.zz.control

  • Java实现浏览器端大文件分片上传

    目录 背景介绍 项目介绍 需要知识点 启动项目 项目示范 核心讲解 核心原理 功能分析 分块上传 秒传功能 断点续传 总结 参考文献 背景介绍   Breakpoint-http,是不是觉得这个名字有点low,break point断点.这是一个大文件上传的一种实现.因为本来很久没写过前端了,本来想自己好好写一番js,可惜因为种种原因而作罢了.该项目是基于一款百度开源的前端上传控件:WebUploader(百度开源的东西文档一如既往的差,哈哈.或者是我理解能力差).   Breakpoint-h

  • javascript之分片上传,断点续传的实际项目实现详解

    总所周知,上传大文件时由于各种原因突然中断,然后整个文件需要从头开始上传,这种情况非常令人抓狂??,那么怎样才可以避免这种尴尬的情况呢?分片上传或许可以搞定这个痛点 原理:文件上传就是把文件切割成一个个小小的块,然后块逐一上传 后台约定接口: 1.getRestChunkInfo 获取当前文件的上传情况 输入:{fileName, fileSize, md5, token} 输出:{chunk_list, chunk_size, chunk_count} chunk_list是一个数组,未上传块

  • Vue.Js及Java实现文件分片上传代码实例

    说明 代码从项目中剥离修改,未经测试,仅提供思路. 前端 upload(file) { //从后台获取已经上传的文件分片数 getIdx(md5) .then(function(res) { let retry = 3; uploadPart(retry, file, res.data); }) .catch(); } uploadPart(retry, file, idx) { //设置分片大小(单位Byte) let bufferLength = 1024 * 1024 * 5; //计算开

随机推荐