golang socket断点续传大文件的实现方法

在日常编程中,我们肯定会遇到用socket传送文件内容,如果是大文件的,总不能传送到一半因某原因断掉了,又从新传送文件内容吧。对,我们需要续传,也就是接着上次传送的位置继续发送文件内容。

续传的话,其实并不难,我理解的思路大概如下:

客户端发送消息询问服务端,你上次接收到的文件内容位置

服务端告诉客户端上次接收到的文件内容位置

客户端就从上次断点的位置继续发送文件内容

客户端发送文件内容完毕后通知服务端,然后断开连接

下面我们看看代码的实现

服务端

// file name: server.go

package main

import (
 "os"
 "io"
 "net"
 "log"
 "strconv"
 // "time"
)

// 把接收到的内容append到文件
func writeFile(content []byte) {
 if len(content) != 0 {
  fp, err := os.OpenFile("test_1.txt", os.O_CREATE|os.O_WRONLY|os.O_APPEND, 0755)
  defer fp.Close()
  if err != nil {
   log.Fatalf("open file faild: %s\n", err)
  }
  _, err = fp.Write(content)
  if err != nil {
   log.Fatalf("append content to file faild: %s\n", err)
  }
  log.Printf("append content: 【%s】 success\n", string(content))
 }
}

// 获取已接收内容的大小
// (断点续传需要把已接收内容大下通知客户端从哪里开始发送文件内容)
func getFileStat() int64 {
 fileinfo, err := os.Stat("test_1.txt")
 if err != nil {
  // 如果首次没有创建test_1.txt文件,则直接返回0
  // 告诉客户端从头开始发送文件内容
  if os.IsNotExist(err) {
   log.Printf("file size: %d\n", 0)
   return int64(0)
  }
  log.Fatalf("get file stat faild: %s\n", err)
 }
 log.Printf("file size: %d\n", fileinfo.Size())
 return fileinfo.Size()
}

func serverConn(conn net.Conn) {
 defer conn.Close()
 for {
  var buf = make([]byte, 10)
  n, err := conn.Read(buf)
  if err != nil {
   if err == io.EOF {
    log.Println("server io EOF\n")
    return
   }
   log.Fatalf("server read faild: %s\n", err)
  }
  log.Printf("recevice %d bytes, content is 【%s】\n", n, string(buf[:n]))
  // 判断客户端发送过来的消息
  // 如果是'start-->‘则表示需要告诉客户端从哪里开始读取文件数据发送
  switch string(buf[:n]) {
  case "start-->":
   off := getFileStat()
   // int conver string
   stringoff := strconv.FormatInt(off, 10)
   _, err = conn.Write([]byte(stringoff))
   if err != nil {
    log.Fatalf("server write faild: %s\n", err)
   }
   continue
  case "<--end":
   // 如果接收到客户端通知所有文件内容发送完毕消息则退出
   log.Fatalf("receive over\n")
   return
  // default:
  //  time.Sleep(time.Second * 1)
  }
  // 把客户端发送的内容保存到文件
  writeFile(buf[:n])
 }
}

func main() {
 // 建立监听
 l, err := net.Listen("tcp", ":8888")
 if err != nil {
  log.Fatalf("error listen: %s\n", err)
 }
 defer l.Close()

 log.Println("waiting accept.")
 // 允许客户端连接,在没有客户端连接时,会一直阻塞
 conn, err := l.Accept()
 if err != nil {
  log.Fatalf("accept faild: %s\n", err)
 }
 serverConn(conn)
}

客户端

// file name: client.go

package main

import (
 "os"
 "io"
 "net"
 "log"
 "time"
 "strconv"
)

// 获取服务端发送的消息
func clientRead(conn net.Conn) int {
 buf := make([]byte, 5)
 n, err := conn.Read(buf)
 if err != nil {
  log.Fatalf("receive server info faild: %s\n", err)
 }
 // string conver int
 off, err := strconv.Atoi(string(buf[:n]))
 if err != nil {
  log.Fatalf("string conver int faild: %s\n", err)
 }
 return off
}

// 发送消息到服务端
func clientWrite(conn net.Conn, data []byte) {
 _, err := conn.Write(data)
 if err != nil {
  log.Fatalf("send 【%s】 content faild: %s\n", string(data), err)
 }
 log.Printf("send 【%s】 content success\n", string(data))
}

// client conn
func clientConn(conn net.Conn) {
 defer conn.Close()

 // 发送"start-->"消息通知服务端,我要开始发送文件内容了
 // 你赶紧告诉我你那边已经接收了多少内容,我从你已经接收的内容处开始继续发送
 clientWrite(conn, []byte("start-->"))
 off := clientRead(conn)

 // send file content
 fp, err := os.OpenFile("test.txt", os.O_RDONLY, 0755)
 if err != nil {
  log.Fatalf("open file faild: %s\n", err)
 }
 defer fp.Close()

 // set file seek
 // 设置从哪里开始读取文件内容
 _, err = fp.Seek(int64(off), 0)
 if err != nil {
  log.Fatalf("set file seek faild: %s\n", err)
 }
 log.Printf("read file at seek: %d\n", off)

 for {
  // 每次发送10个字节大小的内容
  data := make([]byte, 10)
  n, err := fp.Read(data)
  if err != nil {
   if err == io.EOF {
    // 如果已经读取完文件内容
    // 就发送'<--end'消息通知服务端,文件内容发送完了
    time.Sleep(time.Second * 1)
    clientWrite(conn, []byte("<--end"))
    log.Println("send all content, now quit")
    break
   }
   log.Fatalf("read file err: %s\n", err)
  }
  // 发送文件内容到服务端
  clientWrite(conn, data[:n])
 }
}

func main() {
 // connect timeout 10s
 conn, err := net.DialTimeout("tcp", ":8888", time.Second * 10)
 if err != nil {
  log.Fatalf("client dial faild: %s\n", err)
 }
 clientConn(conn)
 }

客户端读取文件test.txt内容发送到服务端,服务端把接收到的文件内容保存在test_1.txt文件中。我们模拟断点续传的方式是:

第一次先发送test.txt文件内容到服务端

修改test.txt文件,加一些内容

再次运行server socket以及client socket,观察客户端是不是只发送新增的文件内容到服务端

# 假设我的test.txt文件有以下内容
$ cat test.txt
hello golang.

# 先运行server socket再运行client socket(分别在两个终端窗口运行)
$ go run server.go
$ go run client.go

# 服务端会输出以下内容
2018/04/05 23:37:13 waiting accept.
2018/04/05 23:37:15 recevice 8 bytes, content is 【start-->】
2018/04/05 23:37:15 file size: 0
2018/04/05 23:37:15 recevice 10 bytes, content is 【hello gola】
2018/04/05 23:37:15 append content: 【hello gola】 success
2018/04/05 23:37:15 recevice 2 bytes, content is 【n.】
2018/04/05 23:37:15 append content: 【n.】 success
2018/04/05 23:37:16 recevice 6 bytes, content is 【<--end】
2018/04/05 23:37:16 receive over
exit status 1

# 客户端会输出如下内容
2018/04/05 23:37:15 send 【start-->】 content success
2018/04/05 23:37:15 read file at seek: 0
2018/04/05 23:37:15 send 【hello gola】 content success
2018/04/05 23:37:15 send 【n.】 content success
2018/04/05 23:37:16 send 【<--end】 content success
2018/04/05 23:37:16 send all content, now quit

# 这时候我们看看test_1.txt内容跟test.txt完全一致
$ cat test_1.txt
hello golan.

# ------- 模拟断点续传 ----------
# 现在我们往test.txt追加内容: hello python.
$ cat test.txt
hello golang.
hello python.

# 我们再一次运行server socket 和 client socket(分别在两个终端窗口运行)
$ go run server.go
$ go run client.go

# 服务端会输出以下内容
2018/04/05 23:44:31 waiting accept.
2018/04/05 23:44:34 recevice 8 bytes, content is 【start-->】
2018/04/05 23:44:34 file size: 12
2018/04/05 23:44:34 recevice 10 bytes, content is 【
hello pyt】
2018/04/05 23:44:34 append content: 【
hello pyt】 success
2018/04/05 23:44:34 recevice 4 bytes, content is 【hon.】
2018/04/05 23:44:34 append content: 【hon.】 success
2018/04/05 23:44:35 recevice 6 bytes, content is 【<--end】
2018/04/05 23:44:35 receive over
exit status 1
# 服务端在接收到客户端发送的 start--> 信息后会获取上次接收到文件内容位置,并通知客户端(这里file size 是12)

# 客户端会输出以下内容
2018/04/05 23:44:34 send 【start-->】 content success
2018/04/05 23:44:34 read file at seek: 12
2018/04/05 23:44:34 send 【
hello pyt】 content success
2018/04/05 23:44:34 send 【hon.】 content success
2018/04/05 23:44:35 send 【<--end】 content success
2018/04/05 23:44:35 send all content, now quit
# 我们客户端获取到了服务端返回的文件位置,通过 Seek 来指定从哪里开始读取文件
# 通过日志可以看到我们客户端只发送了后面追加的内容: hello python. 到服务端

# 我们看看此时test_1.txt文件的内容是否跟test.txt一致
$ cat test_1.txt
hello golang.
hello python.

以上这篇golang socket断点续传大文件的实现方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持我们。

(0)

相关推荐

  • golang网络socket粘包问题的解决方法

    本文实例讲述了golang网络socket粘包问题的解决方法.分享给大家供大家参考,具体如下: 看到很多人问这个问题, 今天就写了个例子, 希望能帮助大家 首先说一下什么是粘包:百度上比较通俗的说法是指TCP协议中,发送方发送的若干包数据到接收方接收时粘成一包,从接收缓冲区看,后一包数据的头紧接着前一包数据的尾. 解决方案如下: 服务端: 复制代码 代码如下: package main import (     "bytes"     "encoding/binary&quo

  • Go get命令使用socket代理的方法

    由于某些不可描述的原因,国内使用 go get 命令安装某些包的时候会超时导致失败,比如 net 包. sys 包. tools 包等.第一种解决办法就是自己从git上下载后添加链接到 GOPATH 中,比如: git clone https://github.com/golang/net.git $GOPATH/src/github.com/golang/net git clone https://github.com/golang/sys.git $GOPATH/src/github.com

  • Go语言实现socket实例

    本文实例讲述了Go语言实现socket的方法.分享给大家供大家参考.具体分析如下: 用golang不用他的net包还有什么意义,这里提供一个测试代码: server.go 服务端: 复制代码 代码如下: package main import (     "fmt"     "log"     "net"     "bufio" ) func handleConnection(conn net.Conn) {     data

  • golang socket断点续传大文件的实现方法

    在日常编程中,我们肯定会遇到用socket传送文件内容,如果是大文件的,总不能传送到一半因某原因断掉了,又从新传送文件内容吧.对,我们需要续传,也就是接着上次传送的位置继续发送文件内容. 续传的话,其实并不难,我理解的思路大概如下: 客户端发送消息询问服务端,你上次接收到的文件内容位置 服务端告诉客户端上次接收到的文件内容位置 客户端就从上次断点的位置继续发送文件内容 客户端发送文件内容完毕后通知服务端,然后断开连接 下面我们看看代码的实现 服务端 // file name: server.go

  • 使用python socket分发大文件的实现方法

    思路: 使用socket传输文件过程中,如果单次传输每次只能发送一部分数据,如果针对大文件,一次传输肯定是不行的,所以需要我们在传输的时候提前把传输内容的大小先发送给客户端,在客户端循环接收数据即可. 代码部分: 一.服务器 #!/usr/bin/env python #-*- coding:utf-8 -*- #environment:2.7 import os,json,time,socket sk = socket.socket() ip_port=('127.0.0.1',9600) s

  • ASP.Net下载大文件的实现方法

    本文实例讲述了ASP.Net下载大文件的实现方法.分享给大家供大家参考.具体分析如下: 当我们的网站需要支持下载大文件时,如果不做控制可能会导致用户在访问下载页面时发生无响应,使得浏览器崩溃.可以参考如下代码来避免这个问题. 关于此代码的几点说明: 1. 将数据分成较小的部分,然后将其移动到输出流以供下载,从而获取这些数据. 2. 根据下载的文件类型来指定 Response.ContentType .(参考OSChina的这个网址可以找到大部分文件类型的对照表:http://tool.oschi

  • Python实现大文件排序的方法

    本文实例讲述了Python实现大文件排序的方法.分享给大家供大家参考.具体实现方法如下: import gzip import os from multiprocessing import Process, Queue, Pipe, current_process, freeze_support from datetime import datetime def sort_worker(input,output): while True: lines = input.get().splitlin

  • C#使用FileStream循环读取大文件数据的方法示例

    本文实例讲述了C#使用FileStream循环读取大文件数据的方法.分享给大家供大家参考,具体如下: 今天学习了FileStream的用法,用来读取文件流,教程上都是读取小文件,一次性读取,但是如果遇到大文件,那么我们就需要循环读取文件. 直接上代码. 引用命名空间 using System.IO; 下面就是循环读取大文件的代码 class Program { static void Main(string[] args) { //循环读取大文本文件 FileStream fsRead; //获

  • php实现断点续传大文件示例代码

    一.断点续传原理 所谓断点续传,也就是要从文件已经下载的地方开始继续下载.在以前版本的 HTTP 协议是不支持断点的,HTTP/1.1 开始就支持了.一般断点下载时才用到 Range 和 Content-Range 实体头. 不使用断点续传 get /down.zip http/1.1 accept: image/gif, image/x-xbitmap, image/jpeg, image/pjpeg, application/vnd.ms- excel, application/msword

  • ASP.NET解决上传大文件问题的方法

    上传文件的控件为:FileUpload Asp.Net对上传文件大小有限制.默认情况下用户只能上传4MB大小的文件,这会给用户带来不便.所以如果要上传40MB大小的文件.只能修改配置文件 关键代码如下 复制代码 代码如下: protected void btnSend_Click(object sender, EventArgs e) { try { //上传文件的思路: //获取上传文件的名称,此时为一个全路径的地址 string upFileName = fulFileName.FileNa

  • php fseek函数读取大文件两种方法

    php读取大文件,使用fseek函数是最为普遍的方式,它不需要将文件的内容全部读入内存,而是直接通过指针来操作,所以效率是相当高效的.在使用fseek来对文件进行操作时,也有多种不同的方法,效率可能也是略有差别的,下面是常用的两种方法. 方法一: 首先通过fseek找到文件的最后一位EOF,然后找最后一行的起始位置,取这一行的数据,再找次一行的起始位置,再取这一行的位置,依次类推,直到找到了$num行.实现代码如下: 整个代码执行完成耗时 0.0095 (s) function tail($fp

  • PHP读取大文件的多种方法介绍

    读取大文件一直是一个头痛的问题,我们像使用php开发读取小文件可以直接使用各种函数实现,但一到大文章就会发现常用的方法是无法正常使用或时间太长太卡了,下面我们就一起来看看关于php读取大文件问题解决办法,希望例子能帮助到各位. 在PHP中,对于文件的读取时,最快捷的方式莫过于使用一些诸如file.file_get_contents之类的函数,简简单单的几行代码就能 很漂亮的完成我们所需要的功能.但当所操作的文件是一个比较大的文件时,这些函数可能就显的力不从心, 下面将从一个需求入手来说明对于读取

  • 详解Android使用Socket对大文件进行加密传输

    前言 数据加密,是一门历史悠久的技术,指通过加密算法和加密密钥将明文转变为密文,而解密则是通过解密算法和解密密钥将密文恢复为明文.它的核心是密码学. 数据加密目前仍是计算机系统对信息进行保护的一种最可靠的办法.它利用密码技术对信息进行加密,实现信息隐蔽从而起到保护信息的安全的作用. 项目中使用Socket进行文件传输过程时,需要先进行加密.实现的过程中踏了一些坑,下面对实现过程进行一下总结. DES加密 由于加密过程中使用的是DES加密算法,下面贴一下DES加密代码: //秘钥算法 privat

随机推荐