MySQL MHA 运行状态监控介绍

目录
  • 一 项目描述
    • 1.1 背景
    • 1.2 实现设计
      • 1.2.1 之前的方法
      • 1.2.2 优化后的方法
  • 二.实现详情
    • 2.1 编辑Python可执行文件
    • 2.2 修改 telegraf 文件
    • 2.3 修改telegraf service的运行账号
    • 2.4 启动Telegraf 服务
    • 2.5 配置Grafana,增加Panel
  • 三 .实现

一 项目描述

1.1 背景

MHA(Master HA)是一款开源的 MySQL 的高可用程序,它为 MySQL 主从复制架构提供了 automating master failover 功能。MHA 在监控到 master 节点故障时,会提升其中拥有最新数据的 slave 节点成为新的master 节点。自动FailOver的前置条件一定是MHA是启动运行的状态。在生产环境中,有时会因为没有及时开启或者运行异常停止而不知,导致MySQL主节点异常时,没有自动FailOver,影响了生产,或延长了处理时间,使故障升级。

此外,MHA发生FailOver后,MHA的运行状态会由 is running(0:PING_OK) 变更为stopped(2:NOT_RUNNING),从运行反馈结果变化上,可以判断是否可能发生了主从切换。可以作为一个Warning处理。

综上,对MHA的运行状态的监控很有必要。

1.2 实现设计

MHA是运行在Manager 节点上的,一个Manager 节点可以管理数十个集群。目前,我们的监控体系是Telegraf + InfluxDB + Grafana,所以,需要在Manager 节点部署Telegraf,去收集MHA的运行状态,保存到 InfluxDB。在既有的Grafana MySQL Dashboard中,添加一个关于 masterha_check_status 的panel 即可。

1.2.1 之前的方法

在 《以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署》 一文中的第七部分,我们有介绍一种方法实现MySQL MHA的监控,但这种方法是每一个集群都需要手动维护,自动发现的功能不够好,增加维护成本,特别是集团的MHA集群比较多时。

1.2.2 优化后的方法

Manager 节点为每个监控的MHA集群提供一个专用的配置文件,优化后的监控方法,根据配置文件自动发现、自动调整监控,不再需要逐一配置和维护。

部署的步骤如下:

二.实现详情

2.1 编辑Python可执行文件

可执行文件为telegraf_checkmhastatus.py

#!/usr/bin/python
# -*- coding: UTF-8 -*-

import os
import io
import re
import ConfigParser

Path='/cnf/mhacnf'
#fout=open('输出文件名','w')
for Name in os.listdir(Path) :
  Pathname= os.path.join(Path,Name)
 ## print(Pathname)
 ## print(Name)
  config =ConfigParser.ConfigParser()
  try:
    config.read(Pathname)
    server_item = config.sections()
    server1_host = ''  ##MHA cnf 配置文件中的节点1
    server2_host = ''  ##MHA cnf 配置文件中的节点2
    server3_host = ''  ##MHA cnf 配置文件中的节点3
    mha_cnf_remark = ''
    if 'server1' in server_item:
      server1_host = config.get('server1','hostname')
    else:
       server1_host = ''
       mha_cnf_remark = mha_cnf_remark + 'Server1未配置;'
    if 'server2' in server_item:
      server2_host = config.get('server2','hostname')
    else:
      server2_host = ''
      mha_cnf_remark = mha_cnf_remark + 'Server2未配置;'
    if 'server3' in server_item:
      server3_host = config.get('server3','hostname')

      ##print(mha_cnf_remark)
  except Exception as e:
    print(e)

  mha_status_result =''
  if server1_host <> '' and server2_host <> '':
    cmd_mha_status ='/usr/local/bin/masterha_check_status --conf='+Pathname
    with os.popen(cmd_mha_status) as mha_status:
      mha_status_result = mha_status.read()
      if 'running(0:PING_OK)' in mha_status_result:
        print('masterha_check_status,server='+server1_host+' Status=1i')
        print('masterha_check_status,server='+server2_host+' Status=1i')
      if 'stopped(2:NOT_RUNNING)' in mha_status_result:
      ##else:
        print('masterha_check_status,server='+server1_host+' Status=0i')
        print('masterha_check_status,server='+server2_host+' Status=0i')

说明:

  • (1)遍历 /cnf/mhacnf目录下的文件(假设MHA配置文件的配置文件在此目录下);
  • (2)对每个文件执行masterha_check_status --cong = XXXX,XXXX为具体的配置文件;判断运行结果;
  • (3)获取MHA集群节点;
  • (4)因为我们MHA集群都是一主一从,所以,只 if server1_host <> '' and server2_host <> '':一种情况,大家可根据需要,根据具体的场景,变更。
  • (5)数据保存到名叫masterha_check_statusmeasurement中,Tag Key host 和  server;当运行OK时,Status=1,否则,Status=0
  • (6)Server对应的数据为Server IP(注意,会在grafana配置时以此关联)。

2.2 修改 telegraf 文件

文件默认目录为/etc/telegraf/,默认文件为telegraf.conf

将执行文件嵌入到telegraf.conf中,由python驱动。

代码如下:

[[inputs.exec]]
  ##Commands array
  commands = ["python /data/check_mha_status/check_mha_status.py",]
  timeout='60s'
  data_format="influx"

2.3 修改telegraf service的运行账号

telegraf服务的启动账号默认为telegraf,但是,其中调用了Pythonpython的可执行文件,需要修改权限。为了简便,升级telegraf service的运行账号,修改成root。🙂

修改telegraf.service,默认路径为/usr/lib/systemd/system/telegraf.service

 修改后的代码如下:

[Unit]
Description=The plugin-driven server agent for reporting metrics into InfluxDB
Documentation=https://github.com/influxdata/telegraf
After=network.target

[Service]
EnvironmentFile=-/etc/default/telegraf
##User=telegraf
User=root
ExecStart=/usr/bin/telegraf -config /etc/telegraf/telegraf.conf -config-directory /etc/telegraf/telegraf.d $TELEGRAF_OPTS
ExecReload=/bin/kill -HUP $MAINPID
Restart=on-failure
RestartForceExitStatus=SIGPIPE
KillMode=control-group

[Install]
WantedBy=multi-user.target

2.4 启动Telegraf 服务

service telegraf start     ####启动服务
service telegraf status   ####服务状态查看
service telegraf stop     ####关闭服务

2.5 配置Grafana,增加Panel

因为MySQL实例节点的telegraf也会汇报各自的数据,例如MySQL连接数、TPSQPS、主从状态、延迟、资源(CPU、内存、磁盘、IOWait)等等,这些指标在一个Dashboard上,而新收集的MHA运行状态是新增的的一个MySQL指标,所以,应该将MHA运行状态作为既有MySQL Dashboard的一个Panel

在MySQL实例节点上汇报的数据是各个节点的host instance(Server IP:端口);而MHA 运行状态汇报的数据是manager节点的host 和 各个实例Server IP。所以,依据Host 关联,整合到一个Dashboard是实现不了的(因为没有关联性)。只能通过 instance(Server IP:端口) 和 Server IP 进行关联了。

首先,将instance(Server IP:端口) 正则下,去除端口数据,实现方式,增加一个grafana变量--server_ip,如下

注意上面的数据源来自measurementmysql

然后,再增加一个grafana变量--mha_server,注意,会依赖上面的变量server_ip

这样 mysql masterha_check_status 两个measurement就关联起来了,可以联动了。

最后,增加 panel设置下,就可以了,如下。

 SQL 语句如下:

SELECT mean("Status") FROM "masterha_check_status" WHERE ("server" =~ /^$mha_server$/) AND $timeFilter GROUP BY time(1m) fill(null)

三 .实现

运行状态为1,异常或关闭为0.

还可以增加Alarm告警,例如邮箱、微信、钉钉等,在此就不展开了。

补充一点:

因为优化后的监控方法,根据配置文件自动发现、自动调整监控。所以,如果新增一个MHA,而这个过程又比较长,比如10分钟,这个时候,既有的MHA监控可能会报错或报警。

为了避免这种情况发生,建议新增的MHA的配置文件,最后再放至到MHA配置文件的目录上。或者,先将配置文件放到其他的目录上,MHA配置OK后,最后一步再移到/cnf/mhacnf目录下。

到此这篇关于MySQL MHA 运行状态监控介绍的文章就介绍到这了,更多相关MySQL MHA 运行状态监控内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们!

(0)

相关推荐

  • MySQL 搭建MHA架构部署的步骤

    MAH 一:MAH架构介绍 MHA (Master High Availability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本人youshimaton开发,是一套优秀的作为MySQL高可用性环境下故障切换和主从提升的高可用软件.在MySQL故障切换过程中,MHA能做到0~30秒之内自动完成数据库的故障切换操作,并且在进行故障切换的过程中,MHA能最大程度上保证数据库的一致性,以达到真正意义上的高可用. MHA由两部分组成:MHA Manager (管理节点)和MHANode

  • MySQL之MHA高可用配置及故障切换实现详细部署步骤

    一.MHA介绍 (一).什么是MHA MHA(MasterHigh Availability)是一套优秀的MySQL高可用环境下故障切换和主从复制的软件. MHA 的出现就是解决MySQL 单点的问题. MySQL故障切换过程中,MHA能做到0-30秒内自动完成故障切换操作. MHA能在故障切换的过程中最大程度上保证数据的一致性,以达到真正意义上的高可用. (二).MHA 的组成 MHA Node(数据节点) MHA Node 运行在每台 MySQL 服务器上. MHA Manager(管理节点

  • MySQL 有关MHA搭建与切换的几个错误log汇总

    1:masterha_check_repl 副本集方面报错  replicates is not defined in the configuration file! 具体信息如下: # /usr/local/bin/masterha_check_repl --conf=/etc/mha/app1.cnf Thu Nov 21 15:33:15 2018 - [warning] Global configuration file /etc/masterha_default.cnf not fou

  • MySQL下高可用故障转移方案MHA的超级部署教程

    MHA介绍 MHA是一位日本MySQL大牛用Perl写的一套MySQL故障切换方案,来保证数据库系统的高可用.在宕机的时间内(通常10-30秒内),完成故障切换,部署MHA,可避免主从一致性问题,节约购买新服务器的费用,不影响服务器性能,易安装,不改变现有部署.      还支持在线切换,从当前运行master切换到一个新的master上面,只需要很短的时间(0.5-2秒内),此时仅仅阻塞写操作,并不影响读操作,便于主机硬件维护.   在有高可用,数据一致性要求的系统上,MHA 提供了有用的功能

  • Mysql GTID Mha配置方法

    Gtid + Mha +Binlog server配置: 1:测试环境 OS:CentOS 6.5 Mysql:5.6.28 Mha:0.56 192.168.1.21 mysql1 M1 192.168.1.22 mysql2 S1 192.168.1.23 mysql3 S2 Mha manage.Binlog server 2:配置/etc/my.cnf相关参数,在3各节点中分别配置 binlog-format=ROW log-slave-updates=true gtid-mode=on

  • MySQL高可用架构之MHA架构全解

    目录 一.介绍 二.组成 三.工作过程 四.架构 五.实例展示 MHA(Master HA)是一款开源的 MySQL 的高可用程序,它为 MySQL 主从复制架构提供了 automating master failover 功能.MHA 在监控到 master 节点故障时,会提升其中拥有最新数据的 slave 节点成为新的master 节点,在此期间,MHA 会通过于其它从节点获取额外信息来避免一致性方面的问题.MHA 还提供了 master 节点的在线切换功能,即按需切换 master/sla

  • MHA实现mysql主从数据库手动切换的方法

    本文实例讲述了MHA实现mysql主从数据库手动切换的方法,分享给大家供大家参考.具体方法如下: 一.准备工作 1.分别在Master和Slave执行如下,方便mha检查复制: 复制代码 代码如下: grant all privileges on *.* to 'root'@'10.1.1.231' identified by 'rootpass'; grant all privileges on *.* to 'root'@'10.1.1.234' identified by 'rootpas

  • 如何通过Python收集MySQL MHA 部署及运行状态信息的功能

    目录 一. 背景介绍 二.实现逻辑 2.1 程序调用的MHA工具程序或文件 2.2.程序简单的流程图 三.主要代码实现 3.1.创建保存收集信息的表 3.2 .连接DB的模块 3.3.功能实现模块 3.4.代码运行 一. 背景介绍 当集团的MySQL数据库实例数达到2000+.MHA集群规模数百个时,对MHA的及时.高效管理是DBA必须面对的一个挑战.MHA 集群 节点信息 和 运行状态 是管理的基础.本篇幅主要介绍如何通过Python实现收集MHA 集群 节点信息 和 运行状态的功能.这些信息

  • MySQL MHA 运行状态监控介绍

    目录 一 项目描述 1.1 背景 1.2 实现设计 1.2.1 之前的方法 1.2.2 优化后的方法 二.实现详情 2.1 编辑Python可执行文件 2.2 修改 telegraf 文件 2.3 修改telegraf service的运行账号 2.4 启动Telegraf 服务 2.5 配置Grafana,增加Panel 三 .实现 一 项目描述 1.1 背景 MHA(Master HA)是一款开源的 MySQL 的高可用程序,它为 MySQL 主从复制架构提供了 automating mas

  • MySql 缓存查询原理与缓存监控和索引监控介绍

    查询缓存 1.查询缓存操作原理 mysql执行查询语句之前,把查询语句同查询缓存中的语句进行比较,且是按字节比较,仅完全一致才被认为相同.如下,这两条语句被视为不同的查询 SELECT * FROM tb1_name Select * from tb1_name 1)不同数据库.不同协议版本,或字符集不同的查询被视为不同的查询并单独缓存. 2)以下两种类型的查询不被缓存 a.预处理语句 b.嵌套查询的子查询 3)从查询缓存抓取查询结果前,mysql检查用户对查询涉及的所有数据库和表是否有查询权限

  • 一文搞懂并学会使用SpringBoot的Actuator运行状态监控组件的详细教程

    目录闲言碎语:背景Actuator介绍Rest方法来查看Actuatorpom.xml引入Actuator依赖配置application.yml运行项目Actuator配合SpringBootSecurity配置application.xml运行项目配置关闭项目API端口配置application.yml命令行执行post关闭指令附:Actuator端口信息附:SpringBoot自带的健康指示器赠言 闲言碎语:   最近刷抖音,看到了星爷的很多电影,感叹星爷给后世留下了很多的经典作品,我就在想

  • 根据mysql慢日志监控SQL语句执行效率

    根据mysql慢日志监控SQL语句执行效率 启用MySQL的log-slow-queries(慢查询记录). 在Linux环境下先要找到my.cnf文件(一般在/etc/mysql/),然后可能会发现该文件修改后无法保存,原因是你没有相应的权限,可以从属性中看到该文件的所有者是root,这时要先以root的身份打开它: sudo nautilus /etc/mysql 接着再打开my.cnf文件然后找到[mysqld]标签在下面加上: log-slow-queries=/path/slow.lo

  • mysql innodb的监控(系统层,数据库层)

    mysql innodb的监控(系统层,数据库层) 关于MySQL 的监控,mysql提供了数据采集的命令,比如show status命令或者读取数据库informat_schema的GLOBAL_STATUS对象:也可以用一些现成的监控工具进行查询,目前用的比较多的innotop.mysqlreport.mtop.mytop,还有淘宝perl语言研发的orzdba. 就监控的指标而言,有系统层面的,数据库层面的. 1.系统层面包括系统的load.cpu.内存是否有swap.磁盘IO如何.网络.

  • MySql的优化步骤介绍(推荐)

    MySql优化的一般步骤: 1.通过show status 命令了解各种sql的执行效率 SHOW STATUS提供msyql服务器的状态信息 一般情况下,我们只需要了解以"Com"开头的指令 show session status like 'Com%':显示当前的连接的统计结果 show global status like 'Com%' :显示自数据库上次启动至今的统计结果 注:默认是session级别的 其中Com_XXX表示XXX语句所执行的次数. 重点注意:Com_sele

  • MySQL 角色(role)功能介绍

    前言: 上篇文章,我们介绍了 MySQL 权限管理相关知识.当数据库实例中存在大量的库或用户时,权限管理将会变得越来越繁琐,可能要频繁进行权限变更.MySQL 8.0 新增了 role 功能,使得权限管理更加方便,本篇文章我们来看下 8.0 下的 role 功能. 1. role 简介 role 角色功能对于 Oracle 数据库来说不算是什么特殊,在 Oracle 中经常被用到.MySQL 8.0 版本终于新增了 role 功能,为数据库用户权限管理提供了一种新思路. role 可以看做一个权

  • MySQL连接控制插件介绍

    目录 1.连接控制(connection_control)插件介绍 1.1 动态安装 connection_control 插件 1.2  验证插件状态 1.3 安装完成后 可以看到相关系统变量 2.连接控制实验 2.1 初始状态 2.2  故意输错密码 2.3  查看失败记录 1.连接控制(connection_control)插件介绍 MySQL 服务端包含一个插件库,可以自定义安装各类插件.connection_control 插件也是其中一种,主要用来控制客户端在登录操作连续失败一定次数

  • Linux用户建立脚本/猜字游戏/网卡流量监控介绍

    目录 1.用户建立脚本 2.猜字游戏 3.网卡流量监控 1.用户建立脚本 (1)设计文件判断模块 (2)设计用户建立 (3)文件内容 脚本内容 #!/bin/bash USERADD(){ #用户创建函数 RN=$(sed -n '$=' $1) for ((I=1;I<=$RN;I++)) do user=`sed -n "$I"p $1` password=`sed -n "$I"p $2` id $user &>/dev/null #判断该

随机推荐