提升node.js中使用redis的性能遇到的问题及解决方法

2024-08-04 03:56:45

问题初现

某基于node.js开发的业务系统向外提供了一个dubbo服务，提供向第三方缓存查询、设置多项业务数据并聚合操作结果。在QPS达到800时（两台虚拟机，每台机器4Core8G4node进程），在监控平台上出现了非常多的slow rt警告，平均接口响应达到60+ms，请求报警率达到80%+。

为找到造成该服务吞吐量过低的罪魁祸首，业务人员在请求日志中打点了所有查询缓存的操作，结果显示每个请求查询缓存耗时在50-100ms之间跳动。查询了redis-server的监控数据发现，不存在server端的慢查询，在整个监控区间内服务端处理时间在40us徘徊，因此排除了redis-server的处理能力不足原因；

通过登录内网机器进行不断测试到对应redis server机器的端到端时延发现内部局域网的带宽、时延与抖动足够正常，都不是造成该问题的原因。

因此，错误原因定位到了调用redis client的业务代码以及redis client的I/O性能。

本文中提到的node redis client采用的基于node-redis封装的二方包，因此问题排查也基于node-redis这个模块。

瓶颈在哪

为了在本地模拟线上环境的并发，可以做一个不是很严谨的测试：

async ()=>{
  let dd = Date.now()
  let arr = []
  for(let i=0;i<200;i++){
    arr.push(new Promise((res,rej)=>{
      let hrtime = process.hrtime();
      client.send_command('get',['key'], function(e,r) {
      let diff = process.hrtime(hrtime);
      let cost = (diff[0] * NS_PER_SEC + diff[1])/1000000;
      console.log(`final: ${cost} ms`)
      res();
      });
    }));
  }
  await Promise.all(arr)
  console.log('ops/sec:',200*1000/(Date.now() - dd),Date.now() - dd);
}

会发现每个请求的rt都会比前一个请求来的大

最后一个请求的rt竟然达到了257 ms！虽然在node单进程像示例代码那样并发执行200次get请求是非常少见而且愚蠢的（关于示例代码的优化在在下节讲述），但是针对这个示例必须找到请求delay增加的原因。

为此继续分析，redis client采用的是单连接模式，底层采用的非阻塞网络I/O，socket.recv()在node层面是通过监听socket的data事件完成的，因此先分析redis-client读性能如何：

上图每段日志的含义分别表示：

- data events trigger times: socket data事件触发的次数
- data event start from prevent event: data事件距离上次触发的时间间隔
- data events exec time(ms): 本次事件处理函数执行时间

上图只是截取了最初的请求日志，发现当第6次触发data事件时，竟然距离上次触发事件隔了35ms，在随后的请求中会复

现这种现象，因此这也就导致了在并发200次查询请求时，每个请求的rt都会随之增大，并且有些响应之间间隔了30ms。

从表象看造成问题在于redis-server发送的响应不是一个数据块，而是多个数据块导致触发socket的data事件过多，而且data事件抖动过大导致响应之间存在30ms的突变（data事件是无法同时触发两次的，每次data事件处理函数执行完后才能继续触发下一个data事件）；当然也有可能和socket写入（即发送req）有关，如缓存请求等。为了继续探查，监控与socket写入相关的接口 **_write()**,记录每次写入socket的数据时距离上一次写入的间隔：

可见，在使用redis-client发送请求时，write方法也不是瓶颈。

采用同样方法，对socket的push()（该方法触发socket的data事件）进行监控，发现socket的数据到达间隔抖动非常大：

因此，造成redis-client并发请求下响应rt抖动较大的情况与单连接下响应数据到达本地的时刻有关，具体可能与底层libuv的缓存策略有关（笔者并未再往下探查）。

在一个node实例中通过一个单连接与redis server通信，在高并发下会出现排队等待响应的情况，并且有可能会出现响应rt雪崩效应（如上文demo所示），因此需要尽可能减少或缓存客户端的请求数量，进行批量发送。

调优

1. pipeline(涉及到写模式及时序)
2. script

对于pipeline方式，redis server是默认支持的。通俗点说，pipeline可以合并一系列请求一次发送，并将这些请求对应的结果一次性拿到。因此这种方式可以有效减少响应次数，从而减少socket触发data事件的次数，尽可能快的拿到响应体。

需要强调的是，在node中，是通过底层socket的**_writev**实现一次发送多条redis命令的，_writev又叫做聚合写，它支持将不同缓冲区的多条数据通过一次系统调用写入目标流，因此性能上比每次写单个缓冲区的单个数据来的好得多。在node的Writeable对象中，有cork和uncork方法，通过这两个方法可以在node write stream中缓存多条数据，通过_writev一次性发送。

关于 _writev的数据结构

redis在拿到数据后，根据resp协议解析出命令集合缓存在队列中，直到收到exec命令，开始批量执行命令集，并将所有命令执行的结果转换为数组返回给redis client。这样就可以通过一次写、一次读实现高性能I/O。

async ()=>{
  let dd = Date.now()
  let batch = await client.batch();
  for(let i=0;i<200;i++){
    batch.get('vdWeex_com.koudai.weidian.buyer_1');
  }
  let rt = await batch.exec();
  process.exit();
}

而对于script方法，则是由redis client传入script命令，在server端执行script逻辑，批量执行命令，并返回结果。同样是一次写、一次读。

收获

1. node socket默认采用writev 集合写
2. 无依赖批量请求采用pipeline
3. eval script解决有依赖批量请求
4. redis高性能体现在服务端处理能力，但瓶颈往往出现在客户端，因此增强客户端I/O能力与并发并行多客户端才是高并发解决方案

Node.js与Sails redis组件的使用教程

有段时间没写关于NodeJs的文章了,今天也是为了解决高并发的问题,而想起了这个东西,IIS的站点在并发量达到200时有了一个瓶颈,于是想到了这个对高并发支持比较好的框架,nodeJs在我之前写出一些文章,主要为sails框架为主,介绍了一些使用方法,今天主要说下redis组件! 项目:SailsMvc 开发工具:webstorm 语言:nodejs 框架:sails 包:redis 主要介绍几个用法,为string,set,hash和list的使用测试redis组件的代码 index: fu
Node.js开发之访问Redis数据库教程

大家要记住,Node.js主要用于构建高性能.高可伸缩性的服务器和客户端应用,它面向的是"实时Web". Node.js的目标是提供一个"以简单的方式构建可扩展的网络服务器",它受到来自Ruby语言的事件机(Event Machine)和来自Python的Twisted框架的影响. Redis是一个开源的使用ANSI C语言编写.支持网络.可基于内存亦可持久化的日志型.Key-Value数据库,并提供多种语言的API.从2010年3月15日起,Redis的开发工作由
详解nodejs express下使用redis管理session

Session实现原理实现请求身份验证的方式很多,其中一种广泛接受的方式是使用服务器端产生的Session ID结合浏览器的Cookie实现对Session的管理,一般来说包括以下4个步骤: 1.服务器端的产生Session ID 2.服务器端和客户端存储Session ID 3.从HTTP Header中提取Session ID 4.根据Session ID从服务器端的Hash中获取请求者身份信息使用Express和Redis对Session管理的实现 var session = requ
在Node.js应用中使用Redis的方法简介

在开始本文之前请确保安装好 Redis 和 Node.js 以及 Node.js 的 Redis 扩展 -- node_redis 首先创建一个新文件夹并新建文本文件 app.js 文件内容如下: var redis = require("redis") , client = redis.createClient(); client.on("error", function (err) { console.log("Error " + err);
Node.js操作redis实现添加查询功能

在实际开发中,免不了要操作mysql,mongodb,redis等数据存储服务器.这里先简单介绍如何操作redis. 一个例子关于redis服务端的安装这里不再介绍,重点不在这里.感兴趣的可以自行安装. 对于一个新的模块,我们需要在我们的项目中先安装redis模块才能用. 命令 cnpm install redis 新建一个redis.js的文件,代码如下: //引入redis var redis = require("redis"); //创建redis客户端 var client
node上的redis调用优化示例详解

前言如果一个 Node 应用有多台服务器或多个进程在跑,每个进程都拥有自己的内存空间,各个进程之间的数据共享就显得非常重要. 使用数据库是一个解决数据共享的方案,但一些临时性.高并发的数据并不太适合直接写入数据库,比如 session. 引入 Redis 可以解决数据共享的问题,也因为 Redis 是基于内存存储的特点,有着非常高的性能,可以大大降低数据库读写的压力,提升应用的整体性能. Redis 还可以用来:缓存复杂的数据库查询结果,做自增长统计,暂存用户操作状态等功能. 最近负责的nod
在Node.js应用中读写Redis数据库的简单方法

在开始本文之前请确保安装好 Redis 和 Node.js 以及 Node.js 的 Redis 扩展 -- node_redis 首先创建一个新文件夹并新建文本文件 app.js 文件内容如下: var redis = require("redis") , client = redis.createClient(); client.on("error", function (err) { console.log("Error " + err);
教你如何用node连接redis的示例代码

安装redis并启动下载地址,选择Stable版本下载或者本地下载地址:https://www.jb51.net/softs/504128.html 解压后,进入文件夹然后安装 cd redis-4.0.9 make//安装启动redis服务 ./src/redis-server -p 端口号,默认端口为6379,可不带端口号启动进入redis 客户端 ./src/redis-cli 关闭redis:进入客户端后,输入shutdown即可关闭redis服务后台启动redis服务打开r
详解redis在nodejs中的应用

redis是一个性能非常好的内存数据库,部署在应用程序和mysql数据中间做缓存数据库,可以极大的提升应用程序的性能,这里简单介绍nodejs客户端操作redis的demo程序 redis里面总共可以存储5种数据类型,分别是字符串,列表.集合.三列.有序集合:这里将会对这5种数据类型的增删查改一一处理: 1.redis在mac上的安装: https://redis.io/download,当前我用的版本稳定版本是4.0.9,解压之后,进入redis-4.0.9目录,执行make && su
提升node.js中使用redis的性能遇到的问题及解决方法

问题初现某基于node.js开发的业务系统向外提供了一个dubbo服务,提供向第三方缓存查询.设置多项业务数据并聚合操作结果.在QPS达到800时(两台虚拟机,每台机器4Core8G4node进程),在监控平台上出现了非常多的slow rt警告,平均接口响应达到60+ms,请求报警率达到80%+. 为找到造成该服务吞吐量过低的罪魁祸首,业务人员在请求日志中打点了所有查询缓存的操作,结果显示每个请求查询缓存耗时在50-100ms之间跳动.查询了redis-server的监控数据发现,不存在ser
js中Number数字数值运算后值不对的解决方法

问题: 37.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数) 我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998 怎么会这样,两个只有一位小数的数字相乘,怎么可能多出这么小数点出来. 我Google了一下,发现原来这是JavaScript浮点运算的一个bug. 比如:7*0.8 JavaScript算出来就是:5.6000000000000005 解决方法:网上找到了一些解决办法,就是重新写了一些浮点运算的函数. 下面就把这
关于JS中setTimeout()无法调用带参函数问题的解决方法

本文实例分析了JS中setTimeout()无法调用带参函数问题的解决方法.分享给大家供大家参考,具体如下: 解决方法:重写setTimeout() 方法,需要用到闭包函数.如下: var _st = window.setTimeout; window.setTimeout = function(fRef, mDelay){ if (typeof fRef == 'function') { var argu = Array.prototype.slice.call(arguments, 2);
js中class的点击事件没有效果的解决方法

如下所示: $(".xx").clcik(function(){····}); 本来不用js生成类,是有点击效果的一但js里写,就没有点击效果了,如下: 做如下修改即可,监听document 以上就是小编为大家带来的js中class的点击事件没有效果的解决方法全部内容了,希望大家多多支持我们~
如何提升vue.js中大型数据的性能

你好!欢迎大家访问VueDose的第一篇文章!我们在VueDose中开始冒险吧,你会喜欢这些对你有帮助的小技巧. VueDose的所有的文章都非常的简洁,我相信人们在这种格式下更容易找到有用的东西.所以,让我们直奔主题. 通常我们需要获取对象数据,比如用户,项目,文章,等等等等····· 有时,我们甚至不需要修改它们,只是为了展示它们或在(a.k.a. Vuex)中存贮它们的全局状态.那么获取这个数据的简单代码如下: export default { data: () => ({ users:
node.js中格式化数字增加千位符的几种方法

每三位以逗号分隔的处理方式正则方式: 复制代码代码如下: "15000000".split("").reverse().join("").replace(/(\d{3})/g, "$1,").split("").reverse().join(""); "115000000".split("").reverse().join("&quo
js中的window.open返回object的错误的解决方法

解决window.open后返回object的错误复制代码代码如下: <a href="javascript:void(window.open('','','width=200,height=200'))">window.open()</a> 只在js的外层加上一个void不带返回参数的声明. 顺便在这里将window.open函数的参数使用也列出来: window.open函数参数列表 window = object.open([URL ][, name
node.js中 redis 的安装和基本操作示例

本文实例讲述了node.js中 redis 的安装和基本操作.分享给大家供大家参考,具体如下: 一.win下安装redis https://github.com/MicrosoftArchive/redis/releases 下载Redis-x64-3.2.100.zip,然后解压,放到自定义目录. 然后打开命令行工具,进入到该目录下,运行安装redis服务. redis-server.exe --service-install redis.windows-service.conf --logl
在Node.js中使用Javascript Generators详解

Generators是Javascript的一种协同程序( coroutine 简称:协程)风格,是指那些可以在执行时暂停然后又恢复的函数,该函数是在functi配以星号符号形式如function* ,函数内有些特征关键词如yield 和yield*. function* generatorFn () { console.log('look ma I was suspended') } var generator = generatorFn() // [1] setTimeout(functio
详解Node.js中的事件机制

前言在前端编程中,事件的应用十分广泛,DOM上的各种事件.在Ajax大规模应用之后,异步请求更得到广泛的认同,而Ajax亦是基于事件机制的. 通常js给我们的第一印象就是运行在客户端浏览器上面的脚本,通过node.js我们可以在服务端运行javascript. node.js是基于单线程无阻塞异步式的I/O,异步式的I/O指的是当遇到I/O操作的时候,线程不阻塞而是进行下面的操作,那么I/O操作完成之后,线程时如何知道该操作完成的呢? 当操作完成耗时的I/O操作之后,会以事件的形式通知I/O操

提升node.js中使用redis的性能遇到的问题及解决方法

相关推荐

随机推荐