golang网络通信超时设置方式

网络通信中,为了防止长时间无响应的情况,经常会用到网络连接超时、读写超时的设置。

本文结合例子简介golang的连接超时和读写超时设置。

1.超时设置

1.1 连接超时

func DialTimeout(network, address string, timeout time.Duration) (Conn, error)

第三个参数timeout可以用来设置连接超时设置。

如果超过timeout的指定的时间,连接没有完成,会返回超时错误。

1.2 读写超时

在Conn定义中,包括读写的超时时间设置。

type Conn interface {
 // SetDeadline sets the read and write deadlines associated
 // with the connection. It is equivalent to calling both
 // SetReadDeadline and SetWriteDeadline.
 //
 ... ...
 SetDeadline(t time.Time) error
 // SetReadDeadline sets the deadline for future Read calls
 // and any currently-blocked Read call.
 // A zero value for t means Read will not time out.
 SetReadDeadline(t time.Time) error
 // SetWriteDeadline sets the deadline for future Write calls
 // and any currently-blocked Write call.
 // Even if write times out, it may return n > 0, indicating that
 // some of the data was successfully written.
 // A zero value for t means Write will not time out.
 SetWriteDeadline(t time.Time) error
}

通过上面的函数说明,可以得知,这里的参数t是一个未来的时间点,所以每次读或写之前,都要调用SetXXX重新设置超时时间,

如果只设置一次,就会出现总是超时的问题。

2.例子

2.1 server

server端监听连接,如果收到连接请求,就是创建一个goroutine负责这个连接的数据收发。

为了测试超时,我们在写操作之前,sleep 3s。

package main
import (
  "net"
  "log"
  "time"
)
func main() {
  addr := "0.0.0.0:8080"
  tcpAddr, err := net.ResolveTCPAddr("tcp",addr)
  if err != nil {
    log.Fatalf("net.ResovleTCPAddr fail:%s", addr)
  }
  listener, err := net.ListenTCP("tcp", tcpAddr)
  if err != nil {
    log.Fatalf("listen %s fail: %s", addr, err)
  } else {
    log.Println("listening", addr)
  }
  for {
    conn, err := listener.Accept()
    if err != nil {
      log.Println("listener.Accept error:", err)
      continue
    }
    go handleConnection(conn)
  }
}
func handleConnection(conn net.Conn) {
  defer conn.Close()
  var buffer []byte = []byte("You are welcome. I'm server.")
  for {
    time.Sleep(3*time.Second)// sleep 3s
    n, err := conn.Write(buffer)
    if err != nil {
      log.Println("Write error:", err)
      break
    }
    log.Println("send:", n)
  }
  log.Println("connetion end")
}

2.2 client

client建立连接时,使用的超时时间是3s。

创建连接成功后,设置连接的读超时。

每次读之前,都重新设置超时时间。

package main
import (
  "log"
  "net"
  "os"
  "time"
)
func main() {
  connTimeout := 3*time.Second
  conn, err := net.DialTimeout("tcp", "127.0.0.1:8080", connTimeout) // 3s timeout
  if err != nil {
    log.Println("dial failed:", err)
    os.Exit(1)
  }
  defer conn.Close()
  readTimeout := 2*time.Second
  buffer := make([]byte, 512)
  for {
    err = conn.SetReadDeadline(time.Now().Add(readTimeout)) // timeout
    if err != nil {
      log.Println("setReadDeadline failed:", err)
    }
    n, err := conn.Read(buffer)
    if err != nil {
      log.Println("Read failed:", err)
      //break
    }
    log.Println("count:", n, "msg:", string(buffer))
  }
}

输出结果

2019/05/12 16:18:19 Read failed: read tcp 127.0.0.1:51718->127.0.0.1:8080: i/o timeout
2019/05/12 16:18:19 count: 0 msg:
2019/05/12 16:18:20 count: 28 msg: You are welcome. I'm server.
2019/05/12 16:18:22 Read failed: read tcp 127.0.0.1:51718->127.0.0.1:8080: i/o timeout
2019/05/12 16:18:22 count: 0 msg: You are welcome. I'm server.
2019/05/12 16:18:23 count: 28 msg: You are welcome. I'm server.
2019/05/12 16:18:25 Read failed: read tcp 127.0.0.1:51718->127.0.0.1:8080: i/o timeout
2019/05/12 16:18:25 count: 0 msg: You are welcome. I'm server.
2019/05/12 16:18:26 count: 28 msg: You are welcome. I'm server.

补充:Golang中的并发限制与超时控制

并发

package main
import (
 "fmt"
 "time"
)
func run(task_id, sleeptime int, ch chan string) {
 time.Sleep(time.Duration(sleeptime) * time.Second)
 ch <- fmt.Sprintf("task id %d , sleep %d second", task_id, sleeptime)
 return
}
func main() {
 input := []int{3, 2, 1}
 ch := make(chan string)
 startTime := time.Now()
 fmt.Println("Multirun start")
 for i, sleeptime := range input {
  go run(i, sleeptime, ch)
 }
 for range input {
  fmt.Println(<-ch)
 }
 endTime := time.Now()
 fmt.Printf("Multissh finished. Process time %s. Number of tasks is %d", endTime.Sub(startTime), len(input))
}

函数 run() 接受输入的参数,sleep 若干秒。然后通过 go 关键字并发执行,通过 channel 返回结果。

channel 顾名思义,他就是 goroutine 之间通信的“管道"。管道中的数据流通,实际上是 goroutine 之间的一种内存共享。我们通过他可以在 goroutine 之间交互数据。

ch <- xxx // 向 channel 写入数据

<- ch // 从 channel 中读取数据

channel 分为无缓冲(unbuffered)和缓冲(buffered)两种。例如刚才我们通过如下方式创建了一个无缓冲的 channel。

ch := make(chan string)

channel 的缓冲,我们一会再说,先看看刚才看看执行的结果。

三个 goroutine `分别 sleep 了 3,2,1秒。但总耗时只有 3 秒。所以并发生效了,go 的并发就是这么简单。

按序返回

刚才的示例中,我执行任务的顺序是 0,1,2。但是从 channel 中返回的顺序却是 2,1,0。这很好理解,因为 task 2 执行的最快嘛,所以先返回了进入了 channel,task 1 次之,task 0 最慢。

如果我们希望按照任务执行的顺序依次返回数据呢?可以通过一个 channel 数组(好吧,应该叫切片)来做,比如这样

package main
import (
 "fmt"
 "time"
)
func run(task_id, sleeptime int, ch chan string) {
 time.Sleep(time.Duration(sleeptime) * time.Second)
 ch <- fmt.Sprintf("task id %d , sleep %d second", task_id, sleeptime)
 return
}
func main() {
 input := []int{3, 2, 1}
 chs := make([]chan string, len(input))
 startTime := time.Now()
 fmt.Println("Multirun start")
 for i, sleeptime := range input {
  chs[i] = make(chan string)
  go run(i, sleeptime, chs[i])
 }
 for _, ch := range chs {
  fmt.Println(<-ch)
 }
 endTime := time.Now()
 fmt.Printf("Multissh finished. Process time %s. Number of tasks is %d", endTime.Sub(startTime), len(input))
}

超时控制

刚才的例子里我们没有考虑超时。然而如果某个 goroutine 运行时间太长了,那很肯定会拖累主 goroutine 被阻塞住,整个程序就挂起在那儿了。因此我们需要有超时的控制。

通常我们可以通过select + time.After 来进行超时检查,例如这样,我们增加一个函数 Run() ,在 Run() 中执行 go run() 。并通过 select + time.After 进行超时判断。

package main
import (
 "fmt"
 "time"
)
func Run(task_id, sleeptime, timeout int, ch chan string) {
 ch_run := make(chan string)
 go run(task_id, sleeptime, ch_run)
 select {
 case re := <-ch_run:
  ch <- re
 case <-time.After(time.Duration(timeout) * time.Second):
  re := fmt.Sprintf("task id %d , timeout", task_id)
  ch <- re
 }
}
func run(task_id, sleeptime int, ch chan string) {
 time.Sleep(time.Duration(sleeptime) * time.Second)
 ch <- fmt.Sprintf("task id %d , sleep %d second", task_id, sleeptime)
 return
}
func main() {
 input := []int{3, 2, 1}
 timeout := 2
 chs := make([]chan string, len(input))
 startTime := time.Now()
 fmt.Println("Multirun start")
 for i, sleeptime := range input {
  chs[i] = make(chan string)
  go Run(i, sleeptime, timeout, chs[i])
 }
 for _, ch := range chs {
  fmt.Println(<-ch)
 }
 endTime := time.Now()
 fmt.Printf("Multissh finished. Process time %s. Number of task is %d", endTime.Sub(startTime), len(input))
}

运行结果,task 0 和 task 1 已然超时

并发限制

如果任务数量太多,不加以限制的并发开启 goroutine 的话,可能会过多的占用资源,服务器可能会爆炸。所以实际环境中并发限制也是一定要做的。

一种常见的做法就是利用 channel 的缓冲机制。我们分别创建一个带缓冲和不带缓冲的 channel 看看

ch := make(chan string) // 这是一个无缓冲的 channel,或者说缓冲区长度是 0

ch := make(chan string, 1) // 这是一个带缓冲的 channel, 缓冲区长度是 1

这两者的区别在于,如果 channel 没有缓冲,或者缓冲区满了。goroutine 会自动阻塞,直到 channel 里的数据被读走为止。举个例子

package main
import (
 "fmt"
)
func main() {
 ch := make(chan string)
 ch <- "123"
 fmt.Println(<-ch)
}

这段代码执行将报错

fatal error: all goroutines are asleep - deadlock!
goroutine 1 [chan send]:
main.main()
 /tmp/sandbox531498664/main.go:9 +0x60
Program exited.

这是因为我们创建的 ch 是一个无缓冲的 channel。因此在执行到 ch<-"123",这个 goroutine 就阻塞了,后面的 fmt.Println(<-ch) 没有办法得到执行。所以将会报 deadlock 错误。

如果我们改成这样,程序就可执行

package main
import (
 "fmt"
)
func main() {
 ch := make(chan string, 1)
 ch <- "123"
 fmt.Println(<-ch)
}

执行

123

Program exited.

如果我们改成这样

package main
import (
 "fmt"
)
func main() {
 ch := make(chan string, 1)
 ch <- "123"
 ch <- "123"
 fmt.Println(<-ch)
 fmt.Println(<-ch)
}

尽管读取了两次 channel,但是程序还是会死锁,因为缓冲区满了,goroutine 阻塞挂起。第二个 ch<- "123" 是没有办法写入的。

因此,利用 channel 的缓冲设定,我们就可以来实现并发的限制。我们只要在执行并发的同时,往一个带有缓冲的 channel 里写入点东西(随便写啥,内容不重要)。让并发的 goroutine 在执行完成后把这个 channel 里的东西给读走。这样整个并发的数量就讲控制在这个 channel 的缓冲区大小上。

比如我们可以用一个 bool 类型的带缓冲 channel 作为并发限制的计数器。

然后在并发执行的地方,每创建一个新的 goroutine,都往 chLimit 里塞个东西。

for i, sleeptime := range input {
 chs[i] = make(chan string, 1)
 chLimit <- true
 go limitFunc(chLimit, chs[i], i, sleeptime, timeout)
}

这里通过 go 关键字并发执行的是新构造的函数。他在执行完原来的 Run() 后,会把 chLimit 的缓冲区里给消费掉一个。

limitFunc := func(chLimit chan bool, ch chan string, task_id, sleeptime, timeout int) {
 Run(task_id, sleeptime, timeout, ch)
 <-chLimit
}

这样一来,当创建的 goroutine 数量到达 chLimit 的缓冲区上限后。主 goroutine 就挂起阻塞了,直到这些 goroutine 执行完毕,消费掉了 chLimit 缓冲区中的数据,程序才会继续创建新的 goroutine。我们并发数量限制的目的也就达到了。

完整示例代码

package main
import (
 "fmt"
 "time"
)
func Run(task_id, sleeptime, timeout int, ch chan string) {
 ch_run := make(chan string)
 go run(task_id, sleeptime, ch_run)
 select {
 case re := <-ch_run:
  ch <- re
 case <-time.After(time.Duration(timeout) * time.Second):
  re := fmt.Sprintf("task id %d , timeout", task_id)
  ch <- re
 }
}
func run(task_id, sleeptime int, ch chan string) {
 time.Sleep(time.Duration(sleeptime) * time.Second)
 ch <- fmt.Sprintf("task id %d , sleep %d second", task_id, sleeptime)
 return
}
func main() {
 input := []int{3, 2, 1}
 timeout := 2
 chLimit := make(chan bool, 1)
 chs := make([]chan string, len(input))
 limitFunc := func(chLimit chan bool, ch chan string, task_id, sleeptime, timeout int) {
  Run(task_id, sleeptime, timeout, ch)
  <-chLimit
 }
 startTime := time.Now()
 fmt.Println("Multirun start")
 for i, sleeptime := range input {
  chs[i] = make(chan string, 1)
  chLimit <- true
  go limitFunc(chLimit, chs[i], i, sleeptime, timeout)
 }
 for _, ch := range chs {
  fmt.Println(<-ch)
 }
 endTime := time.Now()
 fmt.Printf("Multissh finished. Process time %s. Number of task is %d", endTime.Sub(startTime), len(input))
}

运行结果

Multirun start
task id 0 , timeout
task id 1 , timeout
task id 2 , sleep 1 second
Multissh finished. Process time 5s. Number of task is 3
Program exited.

chLimit 的缓冲是 1。task 0 和 task 1 耗时 2 秒超时。task 2 耗时 1 秒。总耗时 5 秒。并发限制生效了。

如果我们修改并发限制为 2

chLimit := make(chan bool, 2)

运行结果

Multirun start
task id 0 , timeout
task id 1 , timeout
task id 2 , sleep 1 second
Multissh finished. Process time 3s. Number of task is 3
Program exited.

task 0 , task 1 并发执行,耗时 2秒。task 2 耗时 1秒。总耗时 3 秒。符合预期。

有没有注意到代码里有个地方和之前不同。这里,用了一个带缓冲的 channel

chs[i] = make(chan string, 1)

还记得上面的例子么。如果 channel 不带缓冲,那么直到他被消费掉之前,这个 goroutine 都会被阻塞挂起。

然而如果这里的并发限制,也就是 chLimit 生效阻塞了主 goroutine,那么后面消费这些数据的代码并不会执行到。。。于是就 deadlock 拉!

for _, ch := range chs {
 fmt.Println(<-ch)
}

所以给他一个缓冲就好了。

以上为个人经验,希望能给大家一个参考,也希望大家多多支持我们。如有错误或未考虑完全的地方,望不吝赐教。

(0)

相关推荐

  • golang 限制同一时间的并发量操作

    go的并发量是很厉害的,goroutine创建的代价极小,其中一个重要的原因是因为go采用了分段栈技术,每一个goroutine只占极小的空间.与此同时,goroutine是语言层面的,减少了内核态到用户态的切换开销,并且goroutine摒弃了一些golang用不到的一些os thread的系统调用,创建代价小. 我们可以一瞬间创建很多个goroutine,这是相当容易的. 乍一看,这与题目完全不符,前面说了那么多,难道不是鼓励我们多创建goroutine吗?不不不,goroutine确实很好

  • Golang中使用Date进行日期格式化(沿用Java风格)

    本文介绍了Golang中使用Date进行日期格式化,分享给大家,具体如下: Github https://github.com/noogo/date Date Date是一个基于time包装的一个日期包,通过此包可以快速创建日期.获取时间戳.毫秒数及最重要的日期格式化,另外你还可以继续使用time包下的所有函数(除time.Foramt(string)外)你可以通过以下方法快速创建一个Date对象: Now() WithTime(t time.Time) WithTimestamp(timest

  • golang gorm中格式化时间问题详解

    前言 最近在开发项目时遇到了发现一个问题, gorm虽然可以自动帮你维护 created_at.updated_at.deleted_at这些关键时间字段.但是其原理与弊端需要了解一下. 1.使用方法 通过自定义一个localtime的结构,来控制时间的格式 package utils import ( "time" //"strconv" "fmt" "database/sql/driver" "strconv&q

  • golang 格式化输入输出操作

    格式化字符串由占位符和普通字符组合而成. 占位符由'%'打头,动词结尾. 占位符由五类元素组成: 标志位(flag),宽度,精度,参数索引,以及动词. 除了最后的动词之外,其他元素均可省略. 看下面的常用类型的例子描述: 缺省格式和类型 Value: []int64{0, 1} 格式化后的效果 动词 描述 [0 1] %v 缺省格式 []int64{0, 1} %#v go语法打印 []int64 %T 类型打印 整型(缩进, 进制类型, 正负符号) Value: 15 格式化后的效果 动词 描

  • golang网络通信超时设置方式

    网络通信中,为了防止长时间无响应的情况,经常会用到网络连接超时.读写超时的设置. 本文结合例子简介golang的连接超时和读写超时设置. 1.超时设置 1.1 连接超时 func DialTimeout(network, address string, timeout time.Duration) (Conn, error) 第三个参数timeout可以用来设置连接超时设置. 如果超过timeout的指定的时间,连接没有完成,会返回超时错误. 1.2 读写超时 在Conn定义中,包括读写的超时时

  • Android网络通信的实现方式

    Android网络编程分为两种:基于http协议的,和基于socket的. 基于Http协议:HttpClient.HttpURLConnection.AsyncHttpClient框架等 基于Socket: (1)针对TCP/IP的Socket.ServerSocket (2)针对UDP/IP的DatagramSocket.DatagramPackage (3)Apache Mina框架 一.HttpURLConnection的实现方式 String response = null; Url

  • JSP Session超时设置的实现方法

    JSP Session超时设置的实现方法 在Java Web开发中,Session为我们提供了很多方便,Session是由浏览器和服务器之间维护的.Session超时理解为:浏览器和服务器之间创建了一个Session,由于客户端长时间(休眠时间)没有与服务器交互,服务器将此Session销毁,客户端再一次与服务器交互时之前的Session就不存在了. 设置Session超时时间方式: 方式一:  在web.xml中设置session-config如下: <session-config> <

  • python爬虫之urllib,伪装,超时设置,异常处理的方法

    Urllib 1. Urllib.request.urlopen().read().decode() 返回一个二进制的对象,对这个对象进行read()操作,可以得到一个包含网页的二进制字符串,然后用decode()解码成html源码 2. urlretrieve() 将一个网页爬取到本地 3. urlclearup() 清除 urlretrieve()所产生的缓存 4. info() 返回一个httpMessage对象,表示远程服务器的头信息 5. getcode() 获取当前网页的状态码 20

  • go语言中GOPATH GOROOT的作用和设置方式

    GOPATH 和 GOROOT 不同于其他语言,go中没有项目的说法,只有包, 其中有两个重要的路径,GOROOT 和 GOPATH GOROOT是安装目录,GOPATH是我们的工作空间, 用来存放包的目录 GOPATH可以设置多个,其中,第一个将会是默认的包目录,使用 go get 下载的包都会在第一个path中的src目录下,使用 go install时,在哪个GOPATH中找到了这个包,就会在哪个GOPATH下的bin目录生成可执行文件 修改 GOPATH 和 GOROOT 安装的时候如果

  • SpringBoot Java后端实现okhttp3超时设置的方法实例

    目录 前言 导入 okhttp3方法简介 两种版本超时设置用法 总结 前言 okhttp是一个处理网络请求的开源项目,是安卓端最火热的轻量级框架,由移动支付Square公司开发.OkHttp 是一个默认高效的 HTTP 客户端.OkHttp3是Java和Android都能用,Android还有一个著名网络库叫Volley,那个只有Android能用. okttp3的github官方地址是:官方地址 HTTP/2 支持允许对同一主机的所有请求共享一个套接字. 连接池减少了请求延迟(如果 HTTP/

  • Go gRPC进阶教程服务超时设置

    目录 前言 客户端请求设置超时时间 服务端判断请求是否超时 运行结果 总结 前言 gRPC默认的请求的超时时间是很长的,当你没有设置请求超时时间时,所有在运行的请求都占用大量资源且可能运行很长的时间,导致服务资源损耗过高,使得后来的请求响应过慢,甚至会引起整个进程崩溃. 为了避免这种情况,我们的服务应该设置超时时间. 前面的入门教程 Go gRPC环境安装教程示例详解 Go gRPC教程实现Simple RPC Go gRPC服务端流式RPC教程示例 Go gRPC服务客户端流式RPC教程 Go

  • nginx超时设置详细介绍

    nginx常用的超时配置说明 client_header_timeout 语法 client_header_timeout time 默认值 60s 上下文 http server 说明 指定等待client发送一个请求头的超时时间(例如:GET / HTTP/1.1).仅当在一次read中,没有收到请求头,才会算成超时.如果在超时时间内,client没发送任何东西,nginx返回HTTP状态码408("Request timed out") client_body_timeout 语

  • Lesson03_01 什么是CSS和CSS的设置方式

    第3讲 CSS 何为CSS CSS的几种设置方式 样式规则选择器 样式规则的注释与有效范围 样式属性详解 什么是CSS和CSS的设置方式 作者:Loncer 更多学习资源尽在:wwww.loncer.cn 什么是CSS    CSS即:Cascading Style Sheets这几个英文单词的缩写,中文为:层叠样式表.它除了可以轻松设置网页元素的显示位置和格式外,还能产生滤镜,图像淡化,网页淡入淡出的渐变效果.简而言之.CSS就是要对网页的显示效果实现与Word一样的排版控制.例如下的代码:<

  • Fetch超时设置与终止请求详解

    1.基本使用 Fetch 是一个新的端获取资源的接口,用于替换笨重繁琐XMLHttpRequest.它有了Request 和 Response 以及Headers对象的概念,与后端语言请求资源更接近. 一个简单的GET请求 fetch('https://www.baidu.com') .then(resp=>resp.text()) // 转换成文本对象 .then(resp=>console.log(resp)) // 输出请求内容 .catch(error => console.er

随机推荐