#### 最近遇到一个情况就是服务器不响应了,nginx也不写日志,经查发现是日志文件太大多,磁盘满了,以前都是用脚本自动上传到OSS的,现在需要将log下载到本地,于是用shell写了一段脚本,然后放到crontab里面,每天凌晨把log下载下来
shell 脚本
```
#!/bin/bash
HOST="115.114.113.112"
LOG_PATH="/usr/local/nginx/logs/"
LOCAL_LOG_PATH="/home/admin/logs/$HOST/"
# 把所有带日期的日志文件,同步本地,然后删除远程文件
# 日志文件命名: access_2016-12-28.log
LOGS=$(ssh root@$HOST ls $LOG_PATH | grep _)
LOGS=${LOGS// / }
function log() {
echo `date "+%Y-%m-%d %H:%M:%S"` $1
}
for log in $LOGS
do
REMOTE_LOG_FILE="$LOG_PATH$log"
LOCAL_LOG_FILE="$LOCAL_LOG_PATH$log"
log "Ready to download from $HOST >> $REMOTE_LOG_FILE"
log "Check local $LOCAL_LOG_FILE exists"
DOWNLOAD=1
if [ -f $LOCAL_LOG_FILE ]; then
log "Local file already exists, and check the md5 value of the file"
REMOTE_FILE_MD5=$(ssh root@$HOST md5sum $REMOTE_LOG_FILE | awk '{print $1}')
LOCAL_FILE_MD5=$(md5sum $LOCAL_LOG_FILE | awk '{print $1}')
# log "$REMOTE_FILE_MD5 == $LOCAL_FILE_MD5"
if [ "$REMOTE_FILE_MD5"x = "$LOCAL_FILE_MD5"x ]; then
DOWNLOAD=0
log "The file content is the same, skip the current file"
else
log "The file content is different, to download the file"
fi
fi
if [ $DOWNLOAD = 1 ]; then
log "Download $REMOTE_LOG_FILE from $HOST"
scp root@$HOST:$REMOTE_LOG_FILE $LOCAL_LOG_PATH
fi
log "Delete $REMOTE_LOG_FILE from $HOST"
ssh root@$HOST rm $REMOTE_LOG_FILE
done
```
给脚本执行权限
```
$ chmod +x sync_115.114.113.112.sh
```
加到crontab,每天凌晨一分执行,因为服务器上面0分会生成日志文件,所以这里等一分钟再下载,基本就没有问题
```
1 0 * * * /home/admin/logs/sync_115.114.113.112.sh
```
这里需要注意的是,需要提前把ssh公钥上传到服务器,好免密码登录,执行命令
分享到:
相关推荐
1. **日志文件**:Nginx 会记录访问日志和错误日志,帮助管理员识别和解决问题。默认的日志文件位置在 `/var/log/nginx/access.log` 和 `/var/log/nginx/error.log`。 2. **性能监控**:使用工具如 `nginx-module-...
它的主要功能包括命令行接口的远程登录、文件传输以及各种自动化任务的执行。 SSH Secure Shell Client提供了图形化的用户界面,使得非技术背景的用户也能方便地与Linux服务器交互。用户只需输入Linux服务器的IP...
### Linux Shell 脚本知识点解析 #### 一、从文件`user.list`中提取信息并添加用户与用户组 ...这些知识点涵盖了文件处理、用户管理、网络配置等多个方面,对于理解和实践Linux环境下的自动化任务非常有帮助。
7. **错误处理与日志**:良好的脚本会包含错误处理机制,如使用`if`语句检查命令执行状态,并将输出重定向到日志文件,便于后期分析和调试。 8. **自动化运维**:更进一步,你可以让脚本自动监控服务器状态,定期...
- **注意事项**: `-l` 表示仅列出本地文件系统,`-h` 表示使用易读的格式。 **7. `mkdir` 新建目录** - **功能**: 创建一个新的目录。 - **示例**: `mkdir /path/to/newdir` 在指定路径下创建新目录。 **8. `cd...
- **配置文件管理**:利用`template`模块,将本地的Nginx配置文件模板传输到远程服务器并应用。 - **启动与重启服务**:使用`service`模块控制Nginx服务的启动、停止和重启。 3. **Nginx基本配置**: - **监听...
在实际使用这个脚本时,首先需要克隆或下载压缩包"Nodejs-Nginx-Install-Script-master"到本地,然后通过Node.js运行其中的安装脚本,根据脚本的提示完成Nginx的自动化安装。过程中可能会涉及到依赖的安装、环境变量...
例如,Nginx的upstream配置可以通过shell脚本动态生成,以适应服务器IP和权重的变化,提升运维的灵活性和便捷性。 此外,建立流程化的部署机制,使用如Ansible这样的工具,可以确保部署的一致性和可靠性。配合健康...
6. **日志记录**:脚本执行过程中的信息应被记录到日志文件中,便于后期分析和排查问题。 7. **权限和安全**:考虑脚本执行的安全性,避免权限滥用,合理设置文件权限和用户权限。 综合以上,运维脚本的编写不仅...
使用这两个工具,用户可以方便地在本地通过SSH连接到GitLab服务器,进行命令行操作,例如更新配置文件、查看日志、运行GitLab CI/CD作业等,同时通过Xftp轻松管理服务器上的文件。 总之,这个压缩包提供的资源可以...
2. DNS解析:理解DNS工作原理,配置系统DNS客户端,使用hosts文件和resolv.conf文件进行本地域名解析。 3. 系统日志管理:熟悉rsyslog服务,分析/var/log下的系统日志文件,理解syslog标准。 三、系统服务管理 1. ...
### Linux 运维入门到高级知识点详解 #### 一、Linux 学习技巧与入门篇 **1.4 Linux 学习技巧** - **虚拟机安装:** 推荐初学者自行安装虚拟机环境,以便在安全隔离的环境中进行实验操作。 - **常用命令练习:** ...
脚本语言,如批处理、Shell脚本、Python或PowerShell,是实现这些自动化操作的常用工具。它们可以定制化以满足特定项目的需求,包括但不限于安装依赖、配置文件、运行服务器、执行数据库迁移等。 在实际应用中,...
Docker容器的日志文件通常存储在本地磁盘上。通过`docker inspect 容器ID`命令结合`grep LogPath`可以找到日志文件的具体路径,如示例中的`/var/lib/docker/containers/d2408a7931c95a3a83ffeca2fba887763cf925a...
Seafile是一种用于创建私人云存储和同步的软件,它允许用户在本地网络中存储文件,并提供数据同步和共享功能。下面是详细的知识点: 1. **Seafile和Seahub的概念** - Seafile是一个文件同步和管理的平台,它负责...
3. 日志监控:定期查看日志文件,如`/var/log/nginx/access.log`、`/var/log/nginx/error.log`,以便及时发现和解决问题。 通过以上步骤,你可以在Linux上快速搭建起一个基础的Web环境。但请记住,理解和掌握每个...
5.6.2 添加密钥到授权密钥文件中 5.7 unison的使用 5.7.1 本地使用unison 5.7.2 远程使用unison 5.7.3 unison参数说明 5.7.4 通过配置文件来使用unison 5.8 本章小结 第6章 ext3文件系统反删除利器...
`brewlog`会捕获`brew install nginx`的所有输出,并将其保存到你设定的日志文件中,同时仍然在终端显示实时的进度。这样,即使在没有终端访问的情况下,你也可以通过日志文件追踪操作状态。 对于开发者和系统管理...