`
qq362228416
  • 浏览: 33225 次
社区版块
存档分类
最新评论

shell自动下载nginx日志文件到本地

阅读更多
#### 最近遇到一个情况就是服务器不响应了,nginx也不写日志,经查发现是日志文件太大多,磁盘满了,以前都是用脚本自动上传到OSS的,现在需要将log下载到本地,于是用shell写了一段脚本,然后放到crontab里面,每天凌晨把log下载下来

shell 脚本
```
#!/bin/bash

HOST="115.114.113.112"
LOG_PATH="/usr/local/nginx/logs/"
LOCAL_LOG_PATH="/home/admin/logs/$HOST/"

# 把所有带日期的日志文件,同步本地,然后删除远程文件
# 日志文件命名: access_2016-12-28.log
LOGS=$(ssh root@$HOST ls $LOG_PATH | grep _)
LOGS=${LOGS// / }

function log() {
    echo `date "+%Y-%m-%d %H:%M:%S"` $1
}

for log in $LOGS
do
    REMOTE_LOG_FILE="$LOG_PATH$log"
    LOCAL_LOG_FILE="$LOCAL_LOG_PATH$log"
    log "Ready to download from $HOST >> $REMOTE_LOG_FILE"
    log "Check local $LOCAL_LOG_FILE exists"
    DOWNLOAD=1
    if [ -f $LOCAL_LOG_FILE ]; then
        log "Local file already exists, and check the md5 value of the file"
        REMOTE_FILE_MD5=$(ssh root@$HOST md5sum $REMOTE_LOG_FILE | awk '{print $1}')
        LOCAL_FILE_MD5=$(md5sum $LOCAL_LOG_FILE | awk '{print $1}')
        # log "$REMOTE_FILE_MD5 == $LOCAL_FILE_MD5"
        if [ "$REMOTE_FILE_MD5"x = "$LOCAL_FILE_MD5"x ]; then
            DOWNLOAD=0
            log "The file content is the same, skip the current file"
        else
            log "The file content is different, to download the file"
        fi
    fi

    if [ $DOWNLOAD = 1 ]; then
        log "Download $REMOTE_LOG_FILE from $HOST"
        scp root@$HOST:$REMOTE_LOG_FILE $LOCAL_LOG_PATH
    fi

    log "Delete $REMOTE_LOG_FILE from $HOST"
    ssh root@$HOST rm $REMOTE_LOG_FILE
done
```

给脚本执行权限

```
$ chmod +x sync_115.114.113.112.sh
```

加到crontab,每天凌晨一分执行,因为服务器上面0分会生成日志文件,所以这里等一分钟再下载,基本就没有问题
```
1 0 * * * /home/admin/logs/sync_115.114.113.112.sh
```

这里需要注意的是,需要提前把ssh公钥上传到服务器,好免密码登录,执行命令
0
0
分享到:
评论

相关推荐

    nginx一键部署,包含shell脚本及nginx安装包

    1. **日志文件**:Nginx 会记录访问日志和错误日志,帮助管理员识别和解决问题。默认的日志文件位置在 `/var/log/nginx/access.log` 和 `/var/log/nginx/error.log`。 2. **性能监控**:使用工具如 `nginx-module-...

    SSH Secure Shell Client

    它的主要功能包括命令行接口的远程登录、文件传输以及各种自动化任务的执行。 SSH Secure Shell Client提供了图形化的用户界面,使得非技术背景的用户也能方便地与Linux服务器交互。用户只需输入Linux服务器的IP...

    linux shell

    ### Linux Shell 脚本知识点解析 #### 一、从文件`user.list`中提取信息并添加用户与用户组 ...这些知识点涵盖了文件处理、用户管理、网络配置等多个方面,对于理解和实践Linux环境下的自动化任务非常有帮助。

    build up a server by shell on the ground

    7. **错误处理与日志**:良好的脚本会包含错误处理机制,如使用`if`语句检查命令执行状态,并将输出重定向到日志文件,便于后期分析和调试。 8. **自动化运维**:更进一步,你可以让脚本自动监控服务器状态,定期...

    Linux常见常用命令大全(包含nginx、mysql等相关操作命令)

    - **注意事项**: `-l` 表示仅列出本地文件系统,`-h` 表示使用易读的格式。 **7. `mkdir` 新建目录** - **功能**: 创建一个新的目录。 - **示例**: `mkdir /path/to/newdir` 在指定路径下创建新目录。 **8. `cd...

    Demo-Ansible-Nginx

    - **配置文件管理**:利用`template`模块,将本地的Nginx配置文件模板传输到远程服务器并应用。 - **启动与重启服务**:使用`service`模块控制Nginx服务的启动、停止和重启。 3. **Nginx基本配置**: - **监听...

    Nodejs-Nginx-Install-Script:使用Node.js应用程序安装Nginx的简单脚本

    在实际使用这个脚本时,首先需要克隆或下载压缩包"Nodejs-Nginx-Install-Script-master"到本地,然后通过Node.js运行其中的安装脚本,根据脚本的提示完成Nginx的自动化安装。过程中可能会涉及到依赖的安装、环境变量...

    自动化运维建设实践.pptx

    例如,Nginx的upstream配置可以通过shell脚本动态生成,以适应服务器IP和权重的变化,提升运维的灵活性和便捷性。 此外,建立流程化的部署机制,使用如Ansible这样的工具,可以确保部署的一致性和可靠性。配合健康...

    运维脚本.zip

    6. **日志记录**:脚本执行过程中的信息应被记录到日志文件中,便于后期分析和排查问题。 7. **权限和安全**:考虑脚本执行的安全性,避免权限滥用,合理设置文件权限和用户权限。 综合以上,运维脚本的编写不仅...

    gitlab-XshellPortable.rar

    使用这两个工具,用户可以方便地在本地通过SSH连接到GitLab服务器,进行命令行操作,例如更新配置文件、查看日志、运行GitLab CI/CD作业等,同时通过Xftp轻松管理服务器上的文件。 总之,这个压缩包提供的资源可以...

    RHCE 8.2教学笔记PDF版

    2. DNS解析:理解DNS工作原理,配置系统DNS客户端,使用hosts文件和resolv.conf文件进行本地域名解析。 3. 系统日志管理:熟悉rsyslog服务,分析/var/log下的系统日志文件,理解syslog标准。 三、系统服务管理 1. ...

    Linux 运维入门到高级.pdf

    ### Linux 运维入门到高级知识点详解 #### 一、Linux 学习技巧与入门篇 **1.4 Linux 学习技巧** - **虚拟机安装:** 推荐初学者自行安装虚拟机环境,以便在安全隔离的环境中进行实验操作。 - **常用命令练习:** ...

    itoo-快捷部署脚本-V1.0.1李社河-2014年12月22日--测试成功版

    脚本语言,如批处理、Shell脚本、Python或PowerShell,是实现这些自动化操作的常用工具。它们可以定制化以满足特定项目的需求,包括但不限于安装依赖、配置文件、运行服务器、执行数据库迁移等。 在实际应用中,...

    Docker 容器日志分析

    Docker容器的日志文件通常存储在本地磁盘上。通过`docker inspect 容器ID`命令结合`grep LogPath`可以找到日志文件的具体路径,如示例中的`/var/lib/docker/containers/d2408a7931c95a3a83ffeca2fba887763cf925a...

    seafile3.1.6局域网网盘安装可用.pdf

    Seafile是一种用于创建私人云存储和同步的软件,它允许用户在本地网络中存储文件,并提供数据同步和共享功能。下面是详细的知识点: 1. **Seafile和Seahub的概念** - Seafile是一个文件同步和管理的平台,它负责...

    linux一键安装web环境(含教程)

    3. 日志监控:定期查看日志文件,如`/var/log/nginx/access.log`、`/var/log/nginx/error.log`,以便及时发现和解决问题。 通过以上步骤,你可以在Linux上快速搭建起一个基础的Web环境。但请记住,理解和掌握每个...

    集群好书《高性能Linux服务器构建实战》 试读章节下载

    5.6.2 添加密钥到授权密钥文件中 5.7 unison的使用 5.7.1 本地使用unison 5.7.2 远程使用unison 5.7.3 unison参数说明 5.7.4 通过配置文件来使用unison 5.8 本章小结 第6章 ext3文件系统反删除利器...

    brewlog:同时记录到文件时运行自制程序命令

    `brewlog`会捕获`brew install nginx`的所有输出,并将其保存到你设定的日志文件中,同时仍然在终端显示实时的进度。这样,即使在没有终端访问的情况下,你也可以通过日志文件追踪操作状态。 对于开发者和系统管理...

Global site tag (gtag.js) - Google Analytics