1. Python技术站首页
  2. 数据库
  3. MySQL

MySQL中binlog备份脚本分享

• MySQL

关于MySQL的二进制日志（binlog），我们都知道二进制日志（binlog）非常重要，尤其当你需要point to point灾难恢复的时侯，所以我们要对其进行备份。关于二进制日志（binlog)的备份,可以基于flush logs方式先切换binlog，然后拷贝&压缩到到远程服务器或本地服务器的其他存储上，例如挂载的NAS存储，也可以使用mysqlbinlog实现binlog的备份，可以实现MySQL二进制日志（binlog)的本地备份或远程备份。最后将MySQL二进制日志（binlog)的备份文件收到磁带。各个公司的备份策略或备份工具有所不同，这里不做展开，我们主要考虑MySQL二进制日志（binlog)备份方案/策略尽可能尽善尽美，在一些极端情况下少丢失数据。例如，第一种方式，这种备份方式都是周期性的，如果在某个周期中，遇到一些极端情况，例如服务器宕机了，硬盘损坏了，就可能导致这段时间的binlog丢失了。而且这个周期时间太长，二进制日志（binlog）丢失的风险就越大，如果这个周期太短，频繁切换binlog也不好。所以还是使用mysqlbinlog来备份二进制日志（binlog)，这里主要介绍一下我写的MySQL二进制日志的备份脚本，这个脚本参考了如何远程备份MySQL binlog[1]中的脚本，但是在其基础上做了很多改进和完善：

  1. 参考资料中的脚本由于使用了循环操作，不适合在作业中调用。一般需要手工执行脚本，让其在后台运行。遇到服务器重启或其他异常情况，此脚本可能出现未能执行的情况。
  2. 增加了mysql_binlog_backup_job.sh脚本，作业会定期调用此脚本，此脚本会判断mysqlbinlog是否还在执行二进制日志备份。如果遇到了数据库服务器重启等情况，也不会担心MySQL的二进制日志（binlog）的备份停掉的问题。
  3. 不用手工指定第一个binlog文件参数，采用从数据库读取binlog的值.如果是在本地服务器执行binlog的备份，还可以从二进制日志索引文件中获取(参考脚本注释部分)
  4. 使用mysql_config_editor配置账号密码，避免在脚本中使用数据库用户的明文密码。
  5. 邮件告警处理。

在使用脚本前，必须配置mailx，创建数据库连接账号

create user bkuser@'xxx.xxx.xxx.xxx' identified by "******";
grant  replication client on *.* to bkuser@'%';
grant  replication slave on *.* to bkuser@'%';

这个根据实际情况调整，例如我就是使用Xtrabackup的账号来备份MySQL的binlog。
另外，如果在MySQL数据库服务器本机备份binlog，那么就在本机安全加密登录，如果是在远程服务器备份binlog的话，就在远程服务器配置

$ mysql_config_editor set  --login-path=server1_dbbackup -h xxx.xxx.xxx.xxx -ubkuser -p -P 3306
Enter password:

mysql_binlog_backup_job.sh脚本

#!/bin/sh

#########################################################################################
#                                                                                       #
# This script is used for mysql binlog backup.                                          #
#                                                                                       #
# #######################################################################################
#                                                                                       #
# ScriptName            :    mysql_binlog_backup_job.sh                                 #
# Author                :    潇湘隐者                                                     #
# CerateDate            :    2017-04-14                                                 #
# Description           :                                                               #
#---------------------------------------------------------------------------------------#
#                         作业中调用此脚本，然后此脚本去调用mysql_binlog_backup.sh执行      #
#                         MySQL的二进制日志备份(将MySQL的二进制日志备份到NAS存储或备份存#
#                         储上)，此脚本还会判断mysqlbinlog是否在一直在备份二进制日志，  #
#                         如果是的话，则退出当前脚本。如果mysqlbinlog已经由于服务器重   #
#                         启等原因退出了，则会重新调用mysql_binlog_backup.sh            #
#***************************************************************************************#
# Version        Modified Date            Description                                   #
#***************************************************************************************#
# V.1.0          2016-06-20     create the script for mysql binlog backp                #
# V.1.1          2016-07-26     fix some bug                                            #
# V.1.2          2023-04-14     $FIRST_BINLOG从MySQL中获取，即使远程备份也不用手工      #
#                               设定,本地备份也可以这种方式，本地备份默认从             #
#                                mysql binlog index file读取                            #
#########################################################################################


#mysql binlog备份文件的保留天数
KEEPY_DAYS=7
FIRST_BINLOG=''
LOG_DATE=$(date +%Y_%m_%d_%H_%M_%S)
BACKUP_DATE=$(date +%Y_%m_%d_%H_%M_%S)
LOCAL_BACKUP_DIR=/dbbackup/mysql_backup/db_backup/binlog_backup
#MYSQL_BINLOG_INDEX=/data/bin_logs/mysql_binlog.index
MYSQL_CMD=/opt/mysql/mysql8.0/bin/mysql
BACKUP_LOG_PATH=/dbbackup/mysql_backup/logs
ERROR_LOG=${BACKUP_LOG_PATH}/binlog_backup_error_${BACKUP_DATE}.log
FILE_TYPE="mysql_binlog.*"
SQL_TEXT='show binary logs'
MAIL_TO="xxxx@xxx.com.cn"
MAIL_FROM="xxxx@xxx.com.cn"
MYSQL_LOGIN_PATH=server1_dbbackup



error()
{
 echo "$1" 1>&2
 echo "$1" >> ${ERROR_LOG}
 echo "$1" | mailx -s "The binlog backup on the server `hostname` failed ,please check the log!" -r ${MAIL_FROM} ${MAIL_TO}
 exit 1
}

##目录不存在则创建目录
if [ ! -d $BACKUP_LOG_PATH ];then
       mkdir -p $BACKUP_LOG_PATH
fi

if [ ! -x /bin/mailx ];then
    error "{LOG_DATE}:mailx did not exists!" 
fi

if [ ! -x $MYSQL_CMD ];then
   error "{LOG_DATE}: mysql client did not exists!" 
fi


#SQL_RESULT=`mysql -h${REMOTE_HOST} -P${PORT} -u${USER_NAME} -p${PASSWORD} ${DATABASE_NAME} -Bse "${SQL_TEXT}"`
SQL_RESULT=`$MYSQL_CMD --login-path=${MYSQL_LOGIN_PATH} -Bse "${SQL_TEXT}"`
FIRST_BINLOG=`echo ${SQL_RESULT} | awk '{print $1}'`
echo $FIRST_BINLOG

if [ ! $FIRST_BINLOG ];then
   error "${LOG_DATE}: please check the mysql binlog"  
fi

##create local_backup_dir if this folder is not exists
if [ ! -d ${LOCAL_BACKUP_DIR} ];then
  mkdir -p ${LOCAL_BACKUP_DIR}
fi


if [ ! -e ${MYSQL_BINLOG_INDEX} ];then
  error "${LOG_DATE}:mysql binlog index file did not exists, please check it!" 
fi

#删除KEEPY_DAYS天之前的binlog备份文件
find ${LOCAL_BACKUP_DIR} -name "${FILE_TYPE}" -type f -mtime +$KEEPY_DAYS -delete
#删除30天前的错误日志
find ${BACKUP_LOG_PATH} -name "binlog_backup_error*.log"   -mtime 30 -delete


process_num=$(ps -ef | grep -w mysqlbinlog | grep -v grep |wc -l)

if [ ${process_num} -ge 1 ];then
       exit 1 
else

  #如果是在本机备份binlog到NAS存储或备份存储上，从二进制文件的索引获取当前MySQL数据库最小的binlog文件
  #如果是远程备份二进制日志(binlog)的话，则使用下面注释的脚本获取
  #FIRST_BINLOG=$(head -1 ${MYSQL_BINLOG_INDEX})
  #FIRST_BINLOG=$(find ${LOCAL_BACKUP_DIR} -name "mysql_binlog.*"  -printf "%p\t%C@\n" | sort -k2 -g |head -1 | awk '{print $1}' | awk -F "/" '{print $NF}') 
  echo ${FIRST_BINLOG}
  nohup sh /dbbackup/mysql_backup/scripts/mysql_binlog_backup.sh ${FIRST_BINLOG} ${LOCAL_BACKUP_DIR} ${FILE_TYPE} &
fi

mysql_binlog_backup.sh脚本

#!/bin/sh

#########################################################################################
#                                                                                       #
# This script is used for mysql binlog local or remote backup.                          #
#                                                                                       #
# #######################################################################################
#                                                                                       #
# ScriptName            :    mysql_binlog_backup.sh                                     #
# Author                :    Kerry                                                      #
# CerateDate            :    2017-04-14                                                 #
# Description           :                                                               #
#---------------------------------------------------------------------------------------#
#                         此脚本参考了https://www.cnblogs.com/ivictor/p/5502240.html    #
#                         的脚本，在它的基础上做了一些改进，例如,ivitcor中脚本备份binlog#
#                         如果服务器重启了，则必须手动执行脚本.......                   #
#***************************************************************************************#
# Version        Modified Date            Description                                   #
#***************************************************************************************#
# V.1.0          2016-06-20     create the script for mysql binlog backp                #
# V.1.1          2016-07-26     fix some bug                                            #
#########################################################################################

BACKUP_BIN=/opt/mysql/mysql8.0/bin/mysqlbinlog
BACKUP_LOG_PATH=/dbbackup/mysql_backup/logs
LOG_DATE=$(date +%Y_%m_%d_%H_%M_%S)
BACKUP_LOG=${BACKUP_LOG_PATH}/binlog_backup.log
ERROR_LOG=${BACKUP_LOG_PATH}/binlog_backup_error_${LOG_DATE}.log
#复制二进制日志的主机，可以远程MySQL数据库也可以是本机
MYSQL_LOGIN_PATH=server1_dbbackup
#time to wait before reconnecting after failure
SLEEP_SECONDS=10
MAIL_TO="xxx@xxx.com.cn"
MAIL_FROM="xxx@xxx.com.cn"

error()
{
 echo "$1" 1>&2
 echo "$1" >> ${ERROR_LOG}
 echo "$1" | mailx -s "The binlog backup on the server `hostname` failed ,please check the log!" -r ${MAIL_FROM} ${MAIL_TO}
 exit 1
}


##目录不存在则创建目录
if [ ! -d $BACKUP_LOG_PATH ];then
       mkdir -p $BACKUP_LOG_PATH
fi


if [ "$#" -ne 3];then   
    error "${LOG_DATE}:you must input 3 arguments" 
fi

if [ ! $1 ];then
    error "${LOG_DATE}:first_binlog arguments is null" 
else
    FIRST_BINLOG=$1
fi

if [ ! $2 ];then
    error "${LOG_DATE}:local_backup_dir arguments is null" 
else
    LOCAL_BACKUP_DIR=$2
fi

if [ ! $3 ];then
    error "${LOG_DATE}:file_type arguments is null" 
else
    FILE_TYPE=$3
fi

##检查mysqlbinlog二进制文件是否存在
if [ ! -x ${BACKUP_BIN} ];then
       error "${LOG_DATE}:mysqlbinlog did not exists, please check it!" 
fi


       
cd ${LOCAL_BACKUP_DIR}

## 运行while循环，连接断开后等待指定时间，重新连接
while :
do
  #如果当前备份二进制日志目录为空，则使用MySQL实例最小的二进制日志文件名
  if [ `ls -A "${LOCAL_BACKUP_DIR}" |wc -l` -eq 0 ];then
     LAST_BINLOG_FILE=${FIRST_BINLOG}
  else
     #LAST_FILE=`ls -l ${LOCAL_BACKUP_DIR} | grep -v backuplog |tail -n 1 |awk '{print $9}'`
     #echo ${LOCAL_BACKUP_DIR}
     #echo ${FILE_TYPE}
     #取mysqlbinlog备份的最后一个binlog文件名
     LAST_BINLOG_FILE=`find ${LOCAL_BACKUP_DIR} -name "${FILE_TYPE}"  -printf "%p\t%C@\n" | sort -k2 -g |tail -1 | awk '{print $1}' | awk -F "/" '{print $NF}'`
  fi
  #${BACKUP_BIN} --login-path=${MYSQL_LOGIN_PATH} --read-from-remote-server --raw --stop-never --host=${REMOTE_HOST} --port=${REMOTE_PORT}  ${LAST_BINLOG_FILE}
  ${BACKUP_BIN} --login-path=${MYSQL_LOGIN_PATH} --read-from-remote-server --raw --stop-never   ${LAST_BINLOG_FILE}
  echo "`date +"%Y/%m/%d %H:%M:%S"` mysqlbinlog停止，返回代码：$?" | tee -a ${BACKUP_LOG}
  echo "${SLEEP_SECONDS}秒后再次连接并继续备份" | tee -a ${BACKUP_LOG}  
  
  
  sleep ${SLEEP_SECONDS}
done

配置作业

*/10 * * * * /dbbackup/mysql_backup/scripts/mysql_binlog_backup_job.sh >> /dbbackup/mysql_backup/logs/mysql_binlog_back.log 2>&1

参考资料

[1]

: https://www.cnblogs.com/ivictor/p/5502240.html


原文链接：https://www.cnblogs.com/kerrycode/p/17334793.html

本站文章如无特殊说明，均为本站原创，如若转载，请注明出处：MySQL中binlog备份脚本分享 - Python技术站

赞 (0)
0 0 打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023年4月19日
下一篇 2023年4月19日

相关文章

  • MySQL创建数据库（CREATE DATABASE语句）

    在MySQL中，我们可以使用CREATE DATABASE语句来创建一个新的数据库。下面是CREATE DATABASE语句的格式： CREATE DATABASE database_name; 其中，database_name是新创建的数据库的名称。 目前，CREATE DATABASE语句有一些可选参数，可以用来设置新数据库的各种属性。这些参数包括： C…

    MySQL 2023年3月9日
    00

  • MySQL给数据库表添加字段

    MySQL 给数据库表添加字段的方法： ALTER TABLE 语句 ALTER TABLE 语句可以在数据表中添加、修改或删除字段。 添加字段： 语法：ALTER TABLE table_name ADD column_name column_definition; 例： ALTER TABLE student ADD age INT(3); 在 stud…

    MySQL 2023年3月9日
    00

  • 详解MySQL的字符串类型

    MySQL中常用的字符串类型有以下几种： CHAR 固定长度字符串类型。定义时需要指定长度，长度范围在1-255之间。如果定义的长度大于存储的实际数据长度，则会在字符串末尾添加空格来填充。例如，定义CHAR(10)类型的字符串，如果存储了“abc”，则实际存储的内容是“abc      ”。 VARCHAR 可变长度字符串类型。定义时需要指定最大长度，长度范…

    MySQL 2023年3月9日
    00

  • mysqld_safe启动脚本源码阅读、分析

    下面是关于“mysqld_safe启动脚本源码阅读、分析”的详细攻略。 1. 确定学习目标 首先需要明确学习目标，即了解mysqld_safe启动脚本的实现原理，学习mysqld_safe启动脚本的源代码以及如何进行分析和理解。同时，了解mysqld_safe启动脚本的配置参数以及使用方法。 2. 下载源码 首先需要从MySQL官方网站 [https://d…

    MySQL 2023年5月18日
    00

  • mysql优化配置参数

    下面我将为您详细讲解 MySQL 优化配置参数的完整攻略。 1. 确认 MySQL 版本 MySQL 是一个活跃的开源项目，为了保证提示，您需要了解您所使用 MySQL 的版本。通过以下命令可以查询： mysql -V 2. 修改 MySQL 配置文件 MySQL 的配置文件默认存放路径在 /etc/my.cnf 或 /etc/mysql/my.cnf，如果…

    MySQL 2023年5月18日
    00

  • MySQL怎样将子查询修改为表连接

    将子查询修改为表连接的好处是可以提高查询效率和可读性。子查询需要执行完整的子语句，然后将结果作为内存中的表进行连接操作；而表连接只需要执行一次查询，将两个表按照条件关联起来，比较快速、高效。 下面提供一个MySQL子查询修改为表连接的示例： 原始查询语句： SELECT * FROM users WHERE user_id IN (SELECT user_i…

    MySQL 2023年3月9日
    00

  • 【MySQL】Windows安装zip版的mysql

    1. 首先下载在官网下载zip版的mysql。https://dev.mysql.com/downloads/mysql/    然后右键“此电脑”-> “属性” ->“高级系统设置”->“环境变量”->“新建”   添加环境变量的名字为MYSQL_HOME  , 变量值为 路径，如：E:\mysql-5.7.20-winx64  C…

    MySQL 2023年4月12日
    00

  • mysqldump数据库备份参数详解

    mysqldump数据库备份参数详解 1. 概述 mysqldump 是 MySQL 内置的备份工具，可以将 MySQL 数据库或表以 SQL 方式导出，对于大多数 Web 应用程序来说，是非常实用的工具。 mysqldump 支持多种参数，这些参数用于控制备份数据的方式、备份数据的范围以及导出的格式等等。本文将深入讲解 MySQL 数据库备份的参数，并结合…

    MySQL 2023年5月19日
    00
合作推广
合作推广
分享本页
返回顶部