Java实现文件切割拼接的实现代码

单线程实现

文件分割

在老的FAT32文件系统中,最大的单个文件大小必须保存在4G内,对于经常看电影的我这个是不能允许的。不过现在Windows有NTFS文件系统,Linux大部分发行版为Ext4文件系统,最大单个文件大小能大于4G。不过这二者并不能兼容。。格式化NTFS的U盘Linux不能识别,格式化Ext4的U盘Windows不能识别,只能用老的FAT32兼容二者。所以将文件分割,再进行拼接就很重要,文件经过分割了在网络上传输就十分方便,也能开多线程对每部分进行HASH提高处理效率。

最近看的BradPitt的《狂怒》

首先:对文件进行分割需要确定每一部分的大小,假设上面的 Fury.mkv 文件大小为 280M ,分割每一块设置默认大小为 64M ,所以:

对于最后一块,一般小于等于设定好的每块默认大小。 每块大小设置好了,接下来,就需要将文件的路径获取,代码中搭建输入流,将文件读入内存缓冲区中,再搭建输出流,将缓冲区输出到新的分割文件中。 再接下来实现就很简单了。 新建一个 FileSlice

类:有切割方法,拼接方法。

public class FileSlice {
 /**
  * 分割文件
  * @param filePath 文件路径
  * @param filePieceSize 文件每块大小,单位为字节,为-1则默认为每块64M
  * @return 成功返回True,出错则返回False
  */
 public static boolean slice(Path filePath, int filePieceSize){
  return true;
 }

 /**
  * 将分割好的文件重新链接
  * @param filePath 被分割好的其中之一文件路径,默认其他块与其在同一目录下
  * @param howManyParts 一共有多少块
  * @return 成功返回True,出错则返回False
  */
 public static boolean glue(Path filePath, int howManyParts){
  return true;
 }
}

接下来实现单线程的分割方法: 用图解的话应该是这样:

代码实现: 进入函数首先判断文件是否存在:

if (!Files.exists(filePath)){
 return false;
}

接下来判断每块大小是否使用默认值:

if(filePieceSize == -1){
 filePieceSize = 1024*1024*64;
}

将路径转换为文件对象,再计算将分割多少块:

File file = filePath.toFile();
int howManyParts = (int) Math.ceil(file.length() / (double)filePieceSize);

初始化输入输出流,出错输出错误信息,返回false,获得当前目录:

DataInputStream fileReader = null;
try {
 fileReader = new DataInputStream(new FileInputStream(file));
} catch (FileNotFoundException e) {
 e.printStackTrace();
 System.out.println("文件找不到!");
 return false;
}
DataOutputStream fileWriter;
Path dir = filePath.getParent();

接下来读取文件,并且分别输出到各个part文件中:

int readLength = -1;
long total = 0;

try {
 for (int i = 1; i <= howManyParts ; i++){
  //新建文件part i
  Path temp = Files.createFile(dir.resolve(filePath.getFileName() + ".part" + i));
  //搭建输出流
  fileWriter = new DataOutputStream(new FileOutputStream(temp.toFile()));
  //读取文件并输出
  while ( (readLength = fileReader.read(buffer)) != -1){
   fileWriter.write(buffer,0,readLength);
   fileWriter.flush();
   total += readLength;
   if (total == filePieceSize){
    total = 0;
    break;
   }
  }
  //part i的文件已经输出完毕,关闭流
  fileWriter.close();
 }
 //读取完毕,关闭输入流
 fileReader.close();
} catch (IOException e) {
 e.printStackTrace();
 System.out.println("IO错误!");
 return false;
}

该函数已经实现完毕,接下来测试(由于电影Fury有14G。。太大了。。还是换个吧):

我是大哥大第5集,有729M,大概能分个12个part吧。

public static void main(String[] args) throws IOException {
 double before = System.currentTimeMillis();

 Path bigboss = Paths.get("D:\\Video\\我是大哥大\\我是大哥大.Kyou.kara.Ore.wa.Ep05.Chi_Jap.HDTVrip.1280X720.mp4");

 FileSlice.slice(bigboss,-1);

 double after = System.currentTimeMillis();

 System.out.println("分割文件我是大哥大.Kyou.kara.Ore.wa.Ep05.Chi_Jap.HDTVrip.1280X720.mp4," + Files.size(bigboss) + "字节,总用时" + (after - before) + "ms" );

}

运行结果:

分割文件我是大哥大.Kyou.kara.Ore.wa.Ep05.Chi_Jap.HDTVrip.1280X720.mp4,765321889字节,总用时16335.0ms

速度还是挺慢的。。 下次还是换成多线程来实现,再来测试下速度。在单线程情况下一个普通的40分钟日剧都要15-30s左右,要是mkv格式的电影都要好久了。。不过其实极限应该不在CPU中执行的速度,而是在硬盘IO中,如果是普通硬盘那么就算是多线程也应该提速不了多少。。

文件拼接

这个就很简单了,和分割相反就OK。 直接上完整代码:

public static boolean glue(Path filePath, int howManyParts){
 if (!Files.exists(filePath)){
  return false;
 }
 //获取原始文件名
 String filename = getOriginalFileName(filePath.getFileName().toString());

 if (filename == null){
  System.out.println("传入part文件名解析出错!");
  return false;
 }
 //初始化缓冲区
 byte [] buffer = new byte[1024 * 8];
 //获取文件存储的路径
 Path dir = filePath.getParent();

 try {
  DataInputStream fileReader = null;
  //创建原始文件
  Files.createFile(dir.resolve(filename));
  //搭建原始文件输出流
  DataOutputStream fileWriter = new DataOutputStream(new FileOutputStream(dir.resolve(filename).toFile()));

  int readLength = -1;
  for (int i = 1; i <= howManyParts ; i++){
   //得到part i文件路径
   Path temp = dir.resolve(filename + ".part" + i);
   //搭建输入流
   fileReader = new DataInputStream(new FileInputStream(temp.toFile()));
   //读取文件并输出
   while ( (readLength = fileReader.read(buffer)) != -1){
    fileWriter.write(buffer,0,readLength);
    fileWriter.flush();
   }
   //part i的文件已经读入完毕,关闭流
   fileReader.close();
  }
  //写入完毕,关闭输出流
  fileWriter.close();
 } catch (IOException e) {
  e.printStackTrace();
  System.out.println("IO错误!");
  return false;
 }
 return true;
}

再测试刚刚分割好的我是大哥大第5集

public static void main(String[] args) throws IOException {
 double before = System.currentTimeMillis();

 Path bigboss = Paths.get("D:\\Video\\我是大哥大\\我是大哥大.Kyou.kara.Ore.wa.Ep05.Chi_Jap.HDTVrip.1280X720.mp4.part1");

 FileSlice.glue(bigboss,12);

 double after = System.currentTimeMillis();

 System.out.println("拼接12个part,用时" + (after - before) + "ms");

}

结果输出,用12s左右,还行。

拼接12个part,用时12147.0ms

打开播放毫无问题,最后截张图。

未完待续。。下次来使用多线程进行实现。

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持我们。

(0)

相关推荐

  • java字符串切割实例学习(获取文件名)

    上传文件路径为:C:/Documents and Settings/collin/My Documents/111-lazyloading.gif,欲取出文件名:111-lazyloading.gif.可以 复制代码 代码如下: String temp[] = name.split("////");if (temp.length > 1) {name = temp[temp.length - 1];} regex为////,因为在java中//表示一个/,而regex中//也表示

  • Java编程实现用hash方法切割文件

    Hash,一般翻译做"散列",也有直接音译为"哈希"的,就是把任意长度的输入(又叫做预映射, pre-image),通过散列算法,变换成固定长度的输出,该输出就是散列值.这种转换是一种压缩映射,也就是,散列值的空间通常远小于输入的空间,不同的输入可能会散列成相同的输出,所以不可能从散列值来唯一的确定输入值.简单的说就是一种将任意长度的消息压缩到某一固定长度的消息摘要的函数. 如果有大型数据文件(如每行为url或者ip或者单词等的),以G为单位的,处理的时候需先切分.

  • java 实现切割文件和合并文件的功能

    java 实现切割文件和合并文件的功能 一.切割文件代码如下: 需求:将一个媒体文件切割成多个碎片(每个碎片的大小为1M),并添加配置说明文件 1.创建(指定)一个文件夹,用于保存切割出来的碎片           2.创建源文件对象,并传入一个输入流对象           3.创建一个缓冲区为1M           4.创建一个输入流对象并将源文件对象传入,创建一个输出流对象引用           5.每个缓冲区获取到碎片时,使用输出对应流对象写入到一个新的文件           6.

  • Java实现大文件的切割与合并操作示例

    本文实例讲述了Java实现大文件的切割与合并操作.分享给大家供大家参考,具体如下: 这里实现对大文件的切割与合并. 按指定个数切(如把一个文件切成10份)或按指定大小切(如每份最大不超过10M),这两种方式都可以. 在这里我只是给大家写下我自己的一点简单的代码: package io2; import java.io.File; import java.io.FileInputStream; import java.io.FileNotFoundException; import java.io

  • 如何用Java来进行文件切割和简单的内容过滤的实现

    一 由来 去年由于项目的需求,要将一个任意一个文件制作成一个xml文件,并且需要保持文件内容本身不产生变化,还要能够将这个xml重新还原为原文件.如果小型的文件还好处理,大型的xml,比如几个G的文件,基本上就OOM了,很难直接从节点中提取数据.所以我采用了流的方式.于是有了这个文件的裁剪工具. 二 使用场景 本工具可能的使用场景: 1.对任一文件的切割/裁剪.通过字节流的方式,开始节点和终止节点,裁剪出两个节点之间的部分. 2.往任一文件的头/尾拼接指定字符串.可以很容易将一个文件嵌入在某一个

  • Java实现文件切割拼接的实现代码

    单线程实现 文件分割 在老的FAT32文件系统中,最大的单个文件大小必须保存在4G内,对于经常看电影的我这个是不能允许的.不过现在Windows有NTFS文件系统,Linux大部分发行版为Ext4文件系统,最大单个文件大小能大于4G.不过这二者并不能兼容..格式化NTFS的U盘Linux不能识别,格式化Ext4的U盘Windows不能识别,只能用老的FAT32兼容二者.所以将文件分割,再进行拼接就很重要,文件经过分割了在网络上传输就十分方便,也能开多线程对每部分进行HASH提高处理效率. 最近看

  • java 实现文件夹的拷贝实例代码

    java 实现文件夹的拷贝实例代码         这里就直接上代码,废话不多说,很简单很实用. 实例代码: import java.io.File; import java.io.FileInputStream; import java.io.FileNotFoundException; import java.io.FileOutputStream; public class CopyFile { public static void copy(String sourceFile , Str

  • Java实现文件监控器FileMonitor的实例代码

    应用场景: 代码可以实现文件变化后的监听,如文件变化,自动重新加载文件内容,实现配置文件的热部署. 代码: package com.yx.demo.filemonitor; import java.io.File; import java.lang.ref.WeakReference; import java.util.ArrayList; import java.util.Collection; import java.util.HashMap; import java.util.Iterat

  • Java黑科技之通过Google Java Style 文件配置IDEA和Ecplise代码风格

    一.引言 每一个公司,团队的代码风格可能都不一样,只要团队内有自己统一的风格就好.接下来,介绍Google Java 代码风格,并且如何在IDEA和Ecplise两种比较流行的Java集成开发环境中配置Google Java 代码风格. 如果不看google代码风格详细介绍的,可以下拉到最后查看 IDEA 和 Ecplise 配置 Google Java Style 教程和 Google Java Style 文件下载. 二.Google Java Style 介绍 2.1 源文件基础 文件名

  • java实现文件切片和合并的代码示例

    最近在学习大数据相关的知识点,其中需要实现文件的切片和合并,完整的java实现代码,以下贴出个人代码,仅供参考 首先建一个SplitUtil工具类,在工具类中有三个方法getSplitFile,getWrite,merge 1,文件拆分代码 public static void getSplitFile(String file,int count){ //预分配文件所占用的磁盘空间,在磁盘创建一个指定大小的文件,"r"表示只读,"rw"支持随机读写 try { Ra

  • Java实现图片切割功能

    本文实例为大家分享了Java实现图片切割功能的具体代码,供大家参考,具体内容如下 工具类 package com.xudaolong.Utils; import javax.imageio.IIOImage; import javax.imageio.ImageIO; import javax.imageio.ImageReader; import javax.imageio.ImageWriter; import javax.imageio.stream.ImageInputStream; i

  • Java实现文件上传的方法

    本文实例为大家分享了Java实现文件上传的具体代码,具体内容如下 1.java代码: package com.github.reston.servlet; import java.io.File; import java.io.FileOutputStream; import java.io.IOException; import java.io.PrintWriter; import java.util.Iterator; import java.util.List; import javax

  • Java利用文件输入输出流实现文件夹内所有文件拷贝到另一个文件夹

    一.基本目标 使用Java完成如下的操作: 把一个文件夹内的所有文件拷贝的另一的文件夹,例如,在F盘中有a与b两个文件夹: f:/a里面有一堆文件,运行Java程序之后就会全部复制到f:/b,并且完成重命名,在所有文件之前加rename_的前缀,如果里面有文件夹,则文件夹不重命名,里面的文件进行重命名,同样在所有文件之前加rename_的前缀: 二.制作过程 1.首先主函数非常简单,就是调用了上面FileTest类中的copyFolder函数 public class FileCopy { pu

  • java实现文件重命名功能

    本文实例为大家分享了java实现文件重命名的具体代码,供大家参考,具体内容如下 使用java i/o流读取文件夹中的所有的文件,并实现按照指定的规则进行重命名 1.直接建一个util类,来进行创建两个重命名的方法: package reName; import java.io.File; public class util { /** * 用于将文件名按照指定数字往后排 * @param startNum * @param url */ public static void sort(int s

  • java实现文件上传功能

    本文实例为大家分享了java实现文件上传的具体代码,供大家参考,具体内容如下 一.文件上传准备工作 对于文件上传,浏览器在上传的过程中将文件以流的形式提交到服务器. 可以选择apache的commons-fileupload包作为文件上传组件, commons-fileupload包依赖于commons-io包. 可以在Maven导入该commons-fileupload包,Maven会帮我们导入依赖的jar包commons-io. <dependency> <groupId>co

随机推荐