`
zhengdl126
  • 浏览: 2538412 次
  • 性别: Icon_minigender_1
  • 来自: 深圳
社区版块
存档分类

mysql主从日志的定期清理

 
阅读更多

[转]http://wangwei007.blog.51cto.com/68019/1123088

 

mysql主从的binlog定时删除是很重要的,一般是通过expire_logs_days = 10来设置binlog保留的天数(mysql5.0一下版本不支持),但有时这还不够,假如有几天的日志量非常大,硬盘可能会满,所以不但要设置保留的天数,还要监控硬盘的空间使用情况。写了一个脚本,适合各个版本的mysql,保留3天的日志,当存放日志的硬盘使用率超过80%,则保留2天,但至少会保留一天的binlog日志文件。

    #!/bin/env python
    # -*- coding: utf-8 -*-
    ##############################################################
    #查看存在binlog的目录位置并找出3天前的最后一个bin-log文件名字
    #删除3天以前的binlog文件,删除之后data1目录挂载的硬盘使用率超
    #过的80%的话,继续删除2天前的日志文件,至少保留一天的日志。
    ##############################################################
    
    import os,sys,time,MySQLdb
    
    def log_w(text):
        logfile = "/usr/local/zabbix/bin/delet.log"
        now = time.strftime("%Y-%m-%d %H:%M:%S")
        tt = now + "\t" + str(text) + "\n"
        f = open(logfile,'a+')
        f.write(tt)
        f.close()
    
    def mysql_conn(port,lastlog,days):
        try:
            center_ip = '127.0.0.1'
            center_user = 'repl_monitor'
            center_passwd = 'VQMQLGwTaw3k0UV8'
            sql = "PURGE MASTER LOGS TO '%s';" % lastlog
            conn = MySQLdb.connect(host = center_ip,port = int(port),user = center_user,passwd = center_passwd,connect_timeout=5)
            cursor = conn.cursor() 
            cursor.execute(sql)
            alldata = cursor.fetchall()
            cursor.close()
            conn.close()
            text = "Deltet before %s days binlog,deltet %s before !" % (days,lastlog)
            log_w(text)
        except Exception,e:
            log_w(e)
    
    def find_logdir():
        conn = "find / -name binlog|grep -v usr"
        logdir_list = os.popen(conn).readlines()
        if len(logdir_list) != 0:
            for logdir in logdir_list:
                datadir = logdir.strip().split("/")[1]
                if "mysql_log" in logdir.strip():
                    port = 3306
                else:
                    port = logdir.strip().split("/")[3].split("-")[-1]
                days = 3
                while 1:
                    conn = "find %s -mtime %s|sort" % (logdir.strip(),days)
                    count = os.popen(conn).readlines()
                    if len(count) != 0:
                        lastlog = count[-1].strip().split("/")[-1]
                        mysql_conn(port,lastlog,days)
    
                    df = "df -h|grep -e '%s$'|awk '{print $5}'|awk -F '%%' '{print $1}'" % datadir
                    disk = os.popen(df).read().strip()
                    if not disk:
                        break
                    else:
                        if int(disk) < 80:
                            break
                        else:
                            days = days - 1
                            if days == 1:
                                break
        else:
            sys.exit()
    
    if __name__ == "__main__":
        find_logdir()

分享到:
评论

相关推荐

    MySQL主从安装部署

    ### MySQL主从安装部署知识点详解 #### 一、MySQL主从安装部署概述 MySQL 主从复制是一种常见的数据备份和负载均衡技术,在多个服务器之间同步数据。通过设置一个或多个从服务器来复制主服务器上的数据变更操作,...

    MySQL主从复制搭建 需要用到的脚本

    为了节省磁盘空间,需要定期清理已经应用的中继日志,这个脚本就是用来执行这个任务的。 5. `manager.sh`:这可能是MHA(Master High Availability)管理器的一部分,MHA是一个用于MySQL主从复制的高可用性工具。它...

    MySQL主从复制、搭建、状态检查、中断排查及备库重做 实战手册.pdf

    MySQL主从复制是基于二进制日志(binary log)的异步复制过程,主服务器(Master)记录所有对数据库的更改操作,并将这些更改操作通过二进制日志记录下来。从服务器(Slave)通过连接到主服务器,并请求获取二进制日志...

    mysql主从复制.docx

    在本文中,我们将深入探讨MySQL主从复制的基本概念、原理以及如何配置一主一从的复制环境。 1. **主从复制简介** 主从复制是MySQL提供的一种数据冗余和故障恢复机制。它将主服务器(Master)上的数据更改记录为二...

    MYSQL主从同步实战

    2. **日志空间管理**:定期清理不再需要的二进制日志文件,以释放磁盘空间。 3. **网络延迟**:考虑到ServA和ServB位于不同地理位置,需要注意网络延迟可能会对复制效率产生影响。 4. **数据一致性**:在某些特殊...

    mysql主从数据库的一些资料

    2. **日志管理**:定期清理主库和从库的二进制日志和中继日志,以节省磁盘空间。 3. **数据一致性检查**:定期执行全库扫描对比主从库数据一致性,发现并修复差异。 **五、Linux常用命令** 在Linux环境中,管理员...

    MySQL bin-log 日志清理方式

    MySQL bin-log 日志清理方式 MySQL bin-log 日志是一种重要的数据库日志机制,它可以记录数据库的所有操作,以便在出现问题时进行数据恢复和主从服务器之间的同步数据。然而,随着时间的推移,bin-log 文件会不断...

    mysql主从配置.docx

    MySQL主从复制是一种常见的数据库高可用性和数据冗余策略,它允许数据在多个服务器之间进行同步,从而确保数据的一致性,并提供故障切换的能力。在MySQL中,主从配置涉及两个主要步骤:主库配置和从机配置。 **主库...

    10.深入理解MySQL主从复制.pdf

    MySQL主从复制是一种重要的数据冗余和负载均衡技术,它允许数据从一个服务器(主库)实时同步到其他服务器(从库)。这种架构对于数据库的高可用性、故障恢复和读写分离至关重要。以下是深入理解MySQL主从复制的详细...

    mysql主从安装详解与经验.pdf

    MySQL 主从复制是一种常见的数据库高可用性和数据冗余策略,允许数据从一个主数据库服务器(Master)实时同步到一个或多个从服务器(Slave)。本文主要介绍如何在Linux环境下安装MySQL并配置主从复制。 首先,安装...

    mysql日志清理手册

    - **1.1.2 可用于mysql主从同步**:主服务器的binlog会被传送到从服务器,从服务器通过解析和执行binlog来保持与主服务器的数据同步。 - **中继日志 (Relay log)**:在主从复制中,从服务器接收并存储主服务器的...

    mysql的主从复制

    #### 一、MySQL主从复制概述 MySQL的主从复制是一种非常重要的技术,主要用于实现数据库的双机热备、负载均衡和数据备份等功能。通过主从复制,可以在主服务器(Master)和从服务器(Slave)之间实现数据的实时同步...

    mysql 正确清理binlog日志的两种方法.docx

    ### MySQL正确清理Binlog日志的两种方法 #### 前言 在MySQL数据库中,Binlog(二进制日志)记录了所有更改数据库表结构或者数据的操作,这对于实现基于时间点的数据恢复、主从复制等场景至关重要。然而,随着...

    Mysql主从复制作用和工作原理详解

    此外,为了优化性能和空间利用,从库通常会有定期清理旧的中继日志(`relaylog_purge`)的机制,避免中继日志占用过多磁盘空间。 总结来说,MySQL的主从复制是数据库架构中的重要组成部分,通过复制可以构建高可用...

    mysql删除日志方法.docx

    本文将详细介绍四种清理MySQL日志的方法,并提供具体的实施步骤和注意事项。 #### 方法一:使用 PURGE MASTER LOGS 命令 **语法**: ```sql PURGE {BINARY | MASTER} LOGS {TO 'log_name' | BEFORE datetime_expr}...

    MySQL – binlog日志简介及设置

    这些配置分别设置了日志格式、日志路径、日志清理时间、单个日志文件的最大大小、binlog缓存大小和最大binlog缓存大小。更改后,需要重启MySQL服务以使配置生效,或者可以直接动态调整相关系统变量。 在实际操作中...

    Red Hat6.4上mysql5.6主从复制配置文档

    总的来说,MySQL 5.6在Red Hat 6.4上的主从复制配置涉及多个步骤,包括设置服务器ID、开启二进制日志、配置复制参数、初始化从服务器以及处理可能的错误情况。这一过程对于保证数据安全和系统的高可用性至关重要。

Global site tag (gtag.js) - Google Analytics