shell脚本实现mysql数据库双机定时备份的方法

目录
  • 1 缘起与目的
  • 2 确认环境
    • 2.1 导出数据库sql脚本
    • 2.2 跨机器拷贝
    • 2.3 docker容器确认环境
  • 3 构建脚本
    • 3.1 脚本内容
    • 3.2 手动执行脚本确认正常
  • 4 定时任务

1 缘起与目的

最近有个需求,要求实现对某个数据库进行双机备份,每天凌晨备份一次,要求主机器只保留最近十五天的记录。经过深思熟虑的研究(疯狂baidu),我们决定用shell脚本加定时任务的方式来实现这个需求。

考虑到有的小伙伴mysql使用docker部署,最后我们也会贴出docker环境下的部署脚本。

环境准备:

  • 两台都装好ssh的机器,保证网络通常。我们使用的跨库复制命令scp基于openssh-clients-XXX,所以要求基础的ssh环境。
  • mysql服务所在机器Expect命令正常
  • mysql服务正常。(docker容器也可)

这里贴一段离线自动安装expect命令的脚本

#!/bin/bash
CURRENT_DIR=`pwd`

function install_expect()
{
    echo "install start..."
    cp expect-5.45.0.tar.gz tcl8.4.11-src.tar.gz /usr/
    cd /usr/
    tar -zxvf expect-5.45.0.tar.gz
    tar -zxvf tcl8.4.11-src.tar.gz
    cd tcl8.4.11/unix
    ./configure --prefix=/usr/tcl --enable-shared
    make -j8
    make install
    cp tclUnixPort.h ../generic/

    cd ../../expect-5.45
    ./configure --prefix=/usr/expect --with-tcl=/usr/tcl/lib --with-tclinclude=../tcl8.4.11/generic
    make -j8
    make install
    ln -s /usr/expect/bin/expect /usr/tcl/bin/expect
    ln -s /usr/expect/bin/expect /usr/bin/expect
    cd ..
    rm -rf expect-5.45.0.tar.gz tcl8.4.11-src.tar.gz
    cd $CURRENT_DIR
    echo "install finished..."

}
install_expect

在放上上述脚本所需要的两个包的下载地址

nchc.dl.sourceforge.net/sourceforge…

sourceforge.net/projects/ex…

2 确认环境

这个环节我们来手动确认一个脚本的关键命令,保证脚本能够正常执行。

2.1 导出数据库sql脚本

mysqldump -u数据库用户名 -p数据库密码 需要导出的数据库名称 > /mnt/data/mysql_backup/导出后的sql脚本名称.sql

sql脚本正常导出。

2.2 跨机器拷贝

scp -P ssh端口号 /mnt/data/mysql_backup/导出后的sql脚本名称.sql 另一台机器的用户名比如root@另一台机器IP:/mnt/data/mysql_backup/

第一次拷贝失败,原因另一台机器需要保证/mnt/data/mysql_backup/这个路径存在,再次执行即可成功。

2.3 docker容器确认环境

#数据库备份
docker exec -u root mysql bash -c 'rm -rf /usr/local/pm/* && mysqldump -u用户名 -p密码 数据库名 > /usr/local/pm/pm_yantai_$(date "+%Y-%m-%d").sql'
#sql拷贝出来
docker cp mysql:/usr/local/pm/pm_yantai_$(date "+%Y-%m-%d").sql
#跨机器拷贝
scp -P ssh端口号 /mnt/data/mysql_backup/导出后的sql脚本名称.sql 另一台机器的用户名比如root@另一台机器IP:/mnt/data/mysql_backup/

3 构建脚本

3.1 脚本内容

1.非dockermysql

#!/bin/bash
#导出sql脚本
echo $(date "+%Y-%m-%d") backup start
echo mysql backup start
mysqldump -u数据库用户名 -p数据库密码 pm_prod2.0 > /mnt/data/mysql_backup/pm_shandong_$(date "+%Y-%m-%d").sql
echo mysql backup finish
#scp跨机器备份
echo sql scp start
/usr/bin/expect <<-EOF
set timeout -1;
spawn scp -P ssh端口号 /mnt/data/mysql_backup/pm_shandong_$(date "+%Y-%m-%d").sql 另一台机器用户名@另一台机器IP:/mnt/data/mysql_backup/
expect {
    "*password:" {send "另一台机器密码\r";exp_continue;}
    "yes/no" {send "yes\r";}
}
EOF
#删除过期sql
echo remove file /mnt/data/mysql_backup/pm_shandong_$(date -d "7 day ago" +%Y-%m-%d).sql
rm -rf /mnt/data/mysql_backup/pm_shandong_$(date -d "7 day ago" +%Y-%m-%d).sql
echo finish! The file is pm_shandong_$(date "+%Y-%m-%d").sql

2.docker容器mysql

#!/bin/bash
echo $(date "+%Y-%m-%d") backup start
echo mysql docker backup start
docker exec -u root mysql bash -c 'rm -rf /usr/local/pm/* && mysqldump -u用户名 -p密码 数据库名 > /usr/local/pm/pm_yantai_$(date "+%Y-%m-%d").sql'
echo mysql docker backup finish
echo sql copy start
docker cp mysql:/usr/local/pm/pm_yantai_$(date "+%Y-%m-%d").sql /usr/local/sdyy/pm/mysql_backup/pm_yantai_$(date "+%Y-%m-%d").sql
echo sql scp start
/usr/bin/expect <<-EOF
set timeout -1;
spawn scp -P ssh端口号 /usr/local/sdyy/pm/mysql_backup/pm_yantai_$(date "+%Y-%m-%d").sql 另一台机器用户名@另一台机器IP:/usr/local/sdyy/pm/mysql_backup/
expect {
    "*password:" {send "另一台机器登录密码\r";exp_continue;}
    "yes/no" {send "yes\r";}
}
EOF
echo remove file /usr/local/sdyy/pm/mysql_backup/pm_yantai_$(date -d "15 day ago" +%Y-%m-%d).sql
rm -rf /usr/local/sdyy/pm/mysql_backup/pm_yantai_$(date -d "15 day ago" +%Y-%m-%d).sql
echo finish! The file is pm_yantai_$(date "+%Y-%m-%d").sql

3.2 手动执行脚本确认正常

sh mysql_backup.sh

注意:如果你是从windows直接上传的shell脚本,应该会报如下错误。

这是因为你的备份文件多了个?

总的原因是在windows创建的文件格式是dos格式的缘故。

解决方式如下:

1.在Windows下转换:

利用一些编辑器如UltraEdit或EditPlus等工具先将脚本编码转换,再放到Linux中执行。转换方式如下(UltraEdit):File-->Conversions-->DOS->UNIX即可。

2.在Linux下转换 用vim打开该sh文件,输入: :set ff 回车,显示fileformat=dos,重新设置下文件格式: :set ff=unix 保存退出: :wq

重新执行命令

4 定时任务

  • 编辑定时任务
crontab -e

在末尾行加上如下行

0 3 * * * /mnt/data/mysql_backup/mysql_backup.sh >> /mnt/data/mysql_backup/backup.log

前面是corn表达式,代表每天三点执行。

这里贴一段可能会用到的cron表达式。

后面是shell脚本绝对路径,后面将执行日志追加到日志文件。

保存并退出。

  • 查询当前有哪些定时任务
crontab -l

  • 添加可执行权限
chmod +x /mnt/data/mysql_backup/mysql_backup.sh

到此这篇关于shell脚本实现mysql数据库双机定时备份的文章就介绍到这了,更多相关shell脚本mysql定时备份内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们!

(0)

相关推荐

  • shell脚本实现mysql定时备份、删除、恢复功能

    mysql备份脚本: 脚本实现:按照数据库名称,全量备份mysql数据库并定期删除 #!/bin/bash #全备方式,一般在从机上执行,适用于小中型mysql数据库 #删除15天以前备份 #作者:lcm_linux #时间:2019.08.06 source ~/.bash_profile #加载用户环境变量 set -o nounset #引用未初始化变量时退出 set -o errexit #执行shell命令遇到错误时退出 #备份用户---需要在mysql中提前创建并授权 #GRANT

  • CentOS下mysql定时备份Shell脚本分享

    1.备份语句 复制代码 代码如下: # /usr/local/mysql/bin/mysqldump -utest -ptest test --socket=/tmp/mysql.3306.sock > /usr/local/mysql_backup/3306/test-`date +%Y%m%d`.sql.gz 语句说明:   /usr/local/mysql/bin/mysqldump:MySql安装目录下 -utest:分为两块,一块为-u一块为test:其中-u表示其为用户名,test表

  • shell脚本定时备份MySQL数据库数据并保留指定时间

    公司用到的MySQL数据库,经常有同事通过一顿骚操作把一些关键的配置数据误删,每次恢复都要花上不少时间,于是写了个shell脚本,结合corntab每天凌晨备份数据库,并保留7天. 同样的备份脚本也可用于生产环境MySQL数据库定时备份. 环境:CentOS 7.5 / MySQL 5.7 #!/bin/sh # 数据库账号信息 DB_USER="root" DB_PWD="root" DB_HOST="127.0.0.1" DB_PORT=&q

  • Linux shell实现每天定时备份mysql数据库

    每天定时备份mysql数据库任务,删除指定天数前的数据,保留指定天的数据: 需求:   1,每天4点备份mysql数据:   2,为节省空间,删除超过3个月的所有备份数据:   3,删除超过7天的备份数据,保留3个月里的 10号 20号 30号的备份数据: #创建shell文件 vim backup_mysql.sh mysqldump -uroot -p123456 --all-databases > /data/dbdata/mysqlbak/`date +%Y%m%d`.sql find

  • shell脚本实现mysql数据库双机定时备份的方法

    目录 1 缘起与目的 2 确认环境 2.1 导出数据库sql脚本 2.2 跨机器拷贝 2.3 docker容器确认环境 3 构建脚本 3.1 脚本内容 3.2 手动执行脚本确认正常 4 定时任务 1 缘起与目的 最近有个需求,要求实现对某个数据库进行双机备份,每天凌晨备份一次,要求主机器只保留最近十五天的记录.经过深思熟虑的研究(疯狂baidu),我们决定用shell脚本加定时任务的方式来实现这个需求. 考虑到有的小伙伴mysql使用docker部署,最后我们也会贴出docker环境下的部署脚本

  • shell脚本操作mysql数据库删除重复的数据

    由于之前的业务,造成数据库上产生了脏数据,写个脚本删除重复的数据.由于是开发测试环境,所以选择任意删除相同uid中的一条.由于每次执行只删除重复数据的一条,需要重复执行,如果本轮没有数据被删就OK #!/bin/sh # delete all company's duplicate uid MYSQL_BIN_PATH=/data/mysql/server/mysql_3306/bin MYSQL_SOCK_PATH=/data/mysql/server/mysql_3306/tmp DBUSE

  • linux实现mysql数据库每天自动备份定时备份

     概述 备份是容灾的基础,是指为防止系统出现操作失误或系统故障导致数据丢失,而将全部或部分数据集合从应用主机的硬盘或阵列复制到其它的存储介质的过程.而对于一些网站.系统来说,数据库就是一切,所以做好数据库的备份是至关重要的! 备份是什么? 为什么要备份 容灾方案建设 存储介质 光盘 磁带 硬盘 磁盘阵列 DAS:直接附加存储 NAS:网络附加存储 SAN:存储区域网络 云存储 这里主要以本地磁盘为存储介质讲一下计划任务的添加使用,基本的备份脚本,其它存储介质只是介质的访问方式可能不大一样. 1.

  • Python实现定时备份mysql数据库并把备份数据库邮件发送

    一.先来看备份mysql数据库的命令 mysqldump -u root --password=root --database abcDataBase > c:/abc_backup.sql 二.写Python程序 BackupsDB.py #!/usr/bin/python # -*- coding: UTF-8 -*- ''''' zhouzhongqing 备份数据库 ''' import os import time import sched import smtplib from em

  • Mysql数据库表定期备份的实现详解

    Mysql数据库表定期备份的实现 0.背景 实际开发环境中,前端程序需要在给定时间段内,将数据更新/插入到MySQL指定的库表中.随着数据量的增多,基础库表基数的增长,每更新一次都会有5s左右的卡顿. 改进方案一:批量更新,累计数10条或者100条进行一次更新入库操作: 改进方案二:将当前日期前1个月之前的数据进行备份操作,并删除当前库表中1个月前的数据.经测定,该方法一定程度提高了访问效率.根因:基础表基数少,查询效率相对提高. 1.库表的定时备份总结 步骤1:备份Mysql指定数据库中的制定

  • 在Windows环境下使用MySQL:实现自动定时备份

    一.编写备份脚本 rem auther:www.yumi-info.com rem date:20171222 rem ******MySQL backup start******** @echo off forfiles /p "E:\mysql\MySQL BackUp" /m backup_*.sql -d -30 /c "cmd /c del /f @path" set "Ymd=%date:~0,4%%date:~5,2%%date:~8,2%0

  • MySQL数据库入门之备份数据库操作详解

    本文实例讲述了MySQL数据库入门之备份数据库操作.分享给大家供大家参考,具体如下: 接上一次:MySQL数据库入门多实例配置 一提到数据,大家神经都会很紧张,数据的类型有很多种,但是总归一点,数据很重要,非常重要,因此,日常的数据备份工作就成了运维工作的重点中的重点的重点................. 首先来看看数据库中的数据 mysql> select * from test; +-----+------+ | id | name | +-----+------+ | 1 | 1 | |

  • Mysql 数据库双机热备的配置方法

    1.mysql数据库没有增量备份的机制,当数据量太大的时候备份是一个很大的问题.还好mysql数据库提供了一种主从备份的机制,其实就是把主数据库的所有的数据同时写到备份数据库中.实现mysql数据库的热备份. 2.要想实现双机的热备首先要了解主从数据库服务器的版本的需求.要实现热备mysql的版本都要高于3.2,还有一个基本的原则就是作为从数据库的数据库版本可以高于主服务器数据库的版本,但是不可以低于主服务器的数据库版本. 3.设置主数据库服务器: a.首先查看主服务器的版本是否是支持热备的版本

  • Shell脚本连接oracle数据库的实现代码

    最近研究了一下怎样使用shell 脚本连接数据库,然后执行查询语句.这样对于需要定时执行的脚本,我们可以建个 crontab 去定时执行. 先介绍一下客户端的安装: linux 环境需要用 sqlplus 客户端去连接oracle 数据库,首先我们需要确认有没有安装:which sqlplus如果没有安装就需要先安装一下,安装步骤如下: 到oracle 官网下载,之后安装以下两个模块: rpm -ivh oracle-instantclient11.2-basic-11.2.0.3.0-1.x8

随机推荐