`
zencode
  • 浏览: 12753 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Apache日志分割的3种方法

阅读更多

一、rotatelogs(apache 自带的工具)

    rotatelogs是一个配合Apache管道日志功能使用的简单程序。举例:

    CustomLog "|bin/rotatelogs /var/logs/logfile 86400" common

    此配置会建立文件/var/logs/logfile.nnnn,其中的nnnn是名义上的日志启动时的系统时间 (此时间总是回卷时间的倍数,可以用于cron脚本的同步)。 在回卷时间到达时(在此例中是24小时以后),会产生一个新的日志。

    CustomLog "|/opt/apache/bin/rotatelogs /opt/apache/logs/access_log.%d-%m-%y 800M" common 

    此配置会在日志文件大小增长到800兆字节时回卷该日志。

 概要

    rotatelogs logfile [ rotationtime [ offset ]] | [ filesizeM ]

选项

    logfile 

    它加上基准名就是日志文件名。如果logfile中包含'%',则它会被视为用于的strftime(3)的格式字串;否则,它会被自动加上以秒为单位的.nnnnnnnnnn后缀。这两种格式都表示新的日志开始使用的时间。 

rotationtime 

日志文件回卷的以秒为单位的间隔时间 

offset 

相对于UTC的时差的分钟数。如果省略,则假定为0,并使用UTC时间。比如,要指定UTC时差为-5小时的地区的当地时间,则此参数应为-300。 

filesizeM 

指定回卷时以兆字节为单位的后缀字母M的文件大小,而不是指定回卷时间或时差。

可移植性:下列日志文件格式字串可以为所有的strftime(3)实现所支持,见各种扩展库对应的strftime(3)的手册。

%A 星期名全称(本地的) 

%a 3个字符的星期名(本地的) 

%B 月份名的全称(本地的) 

%b 3个字符的月份名(本地的) 

%c 日期和时间(本地的) 

%d 2位数的一个月中的日期数 

%H 2位数的小时数(24小时制) 

%I 2位数的小时数(12小时制) 

%j 3位数的一年中的日期数 

%M 2位数的分钟数 

%m 2位数的月份数 

%p am/pm 12小时制的上下午(本地的) 

%S 2位数的秒数 

%U 2位数的一年中的星期数(星期天为一周的第一天) 

%W 2位数的一年中的星期数(星期一为一周的第一天) 

%w 1位数的星期几(星期天为一周的第一天) 

%X 时间 (本地的) 

%x 日期 (本地的) 

%Y 4位数的年份 

%y 2位数的年份 

%Z 时区名 

%% 符号`%'本身

二、cronolog

在apache的FAQ中,推荐了经过近2年发展已经比较成熟的一个工具cronolog:安装很简单:configure=> make=> make install

他的一个配置的例子会让你了解它有多么适合日志按天轮循:对httpd.conf做一个很小的修改就能实现:

TransferLog "|/usr/sbin/cronolog /var/log/%Y%m%d.log"

ErrorLog "|/usr/sbin/cronolog /var/%Y%m%d-errors.log"

然后:日志将写入

/var/log/20090901.log

/var/log/20090901-errors.log

目录如果不存在的话,将自动创建

三、大哥用的方法,perl脚本控制,贴出来大家拿来玩,缺点太多,以至于大哥不打算用了,优点是你可以随便分割你需要的日志,看完别忘了给大哥烧纸(http://51runaway.blog.163.com/)。

#!/usr/bin/perl

my (%month,%date_log);

BEGIN{

  $month{Jan}="01";$month{Feb}="02";$month{Mar}="03";

  $month{Apr}="04";$month{May}="05";$month{Jun}="06";

  $month{Jul}="07";$month{Aug}="08";$month{Sep}="09";

  $month{Oct}="10";$month{Nov}="11";$month{Dec}="12";

my $hostip=GetIp();

my ($hostname)=$hostip=~/\.(\d+)$/;

my $localt;

#print "$hostip\t$hostname\n";

my ($file,$flag)=('',0);

my $tmpfile="";

while(1){

 system("mkdir /var/apache_log") unless(-e '/var/apache_log');

 system("mkdir /var/tmp") unless(-e '/var/tmp'); 

 my ($sec,$min,$hour,$day,$mon,$year) = localtime();

  $mon++;$year -= 100;

  $year="0$year" if($year<10);

  $mon="0$mon" if($mon<10);

  $day="0$day" if($day<10);

 $tmpfile=$hostname.'_'.$year.$mon.$day.".log";

 if($hour>0 && $hour<2){

  if($flag==0){

   $file='';

   my $back_file="_$year$mon$day";

   system("cp /usr/local/apache2/logs/access_log /var/tmp/$back_file");

   split_apache_log($hostname,'/usr/local/apache2/logs/access_log');

   $flag=1;

  }

 }else{

  #print $flag,"\n";

  $flag=0 if($flag==1);

 }

 sleep(1800);

}

#----------------------------------------------------------------------------------------------------------------

sub split_apache_log{

 my ($hostid,$access_log)=@_;

 my %hash=();

 my $flag_new_log=0;

 my $localt = localtime();

 printlog("\nsplit apapche log at $localt\n\n");

 open(LIST,"$access_log")||die "$!";  

 while(<LIST>){

  chomp;                                                                          

  my (@array)=$_=~/^(\S+)\s+\S+\s+\S+\s+\[(\S+).+\]\s+\"(.+)\"\s+(\d+)\s+\S+/;

  next if($array[3] eq '404');

  my $time_str=$array[1];

  $time_str=~s/\//\t/g;

  $time_str=~s/:/\t/g;

  my @t_s=split(/\t/,$time_str);

  next if(not exists $t_s[2]);  

  $t_s[2]=substr($t_s[2],2,2);

  my $date_tmp="$t_s[2]$month{$t_s[1]}$t_s[0]";

  $file=$hostid.'_'."$date_tmp.log";

  push(@{$hash{$file}},$_);

  if(scalar(@{$hash{$file}})>=20000){

    my @arraytmp=splice(@{$hash{$file}}, 0, 20000);

    my $line=join("\n",@arraytmp);     

    if(-e "/var/log/apache/$file"){

     open(OUT,">>/var/log/apache/$file");

     print OUT "$line\n"; 

     close (OUT);      

      

     }else{

      $flag_new_log=1 if($flag_new_log==0);

     open(OUT,">>/var/apache_log/$file");

     print OUT "$line\n"; 

     close (OUT);      

     }

  }  

 }

 close(LIST);

 foreach $file(sort {$a cmp $b} keys %hash){

  next if(not exists ${$hash{$file}}[0]);

  my $line=join("\n",@{$hash{$file}});

  if(-e "/var/log/apache/$file"){

     open(OUT,">>/var/log/apache/$file");

     print OUT "$line\n"; 

     close (OUT);      

      

  }else{

      $flag_new_log=1 if($flag_new_log==0);

     open(OUT,">>/var/apache_log/$file");

     print OUT "$line\n"; 

     close (OUT);

  }

 }

 if($flag_new_log==1){ 

  system("cat /var/apache_log/$tmpfile>$access_log");

  system("rm -fr /var/apache_log/$tmpfile");

  system("mv /var/apache_log/* /var/log/apache/");

 }

 $localt = localtime();

 printlog("\nFinished split apapche log at $localt\n\n"); 

}

#-----------------------------------------------------------------------------------------------------------------

sub GetIp{

 my $ifc=`ifconfig`;

 my ($ip,$ip1,$ip2); 

 if($ifc=~/eth0/){

  my $str=`ifconfig eth0` ;

  ($ip1)=$str=~/inet addr:(\S+)/ ;

  $ip=$ip1;

 }

 if($ifc=~/eth1/){

  my $str=`ifconfig eth1` ;

  ($ip2)=$str=~/inet addr:(\S+)/ ;

  if($ip1 && ($ip1 ne $ip2)){

   $ip="$ip1 $ip2" ;

  }else{

   $ip=$ip2;

  }

 }

 return $ip;

}

#-------------------------------------------------------------------------------------------------------------------

sub printlog{

 my $str=shift;

 open(LOGOUT,">>/var/lib/SplitApacheLog.log");

 print LOGOUT "$str";

 close LOGOUT; 

 

分享到:
评论

相关推荐

    apache日志分割

    Apache日志分割是管理和分析大型Web服务器日志文件的一种常见方法。Apache,作为最流行的开源Web服务器,会产生大量的访问日志,这些日志记录了所有客户端请求的详细信息。随着时间的推移,单个日志文件可能会变得...

    apache日志分割工具cronolog

    ### Apache日志分割工具Cronolog 在现代的IT运维管理中,日志管理是非常重要的一环,尤其对于像Apache这样的高性能Web服务器来说更是如此。随着网站访问量的增长,单一的日志文件会变得异常庞大,这不仅使得日志...

    终极解决apache乱码和日志分割问题

    终极解决apache乱码和日志分割问题,LoadModule encoding_module modules/mod_encoding.so Header add MS-Author-Via "DAV" &lt;/IfModule&gt;

    apache日志分析系统awStats完全教材

    ### Apache日志分析系统awStats完全教材:深入解析与实践指南 #### 一、引言:awStats在Apache日志分析中的角色 在现代网络环境中,服务器日志扮演着至关重要的角色,它们不仅记录了网站的访问情况,还提供了关于...

    tomcat日志分割

    对于Tomcat服务器而言,日志分割(log rotation)是一个常用且实用的功能,尤其是在高流量、长时间运行的应用场景下,避免日志文件过大而影响性能或磁盘空间。本文将深入探讨如何使用Log4j实现Tomcat的日志分割,以...

    Tomcat日志分割20190927_日志分割_tomcat_

    4. 同时,我们还可以配置`org.apache.juli.FileHandler`的`rotator`属性,使用第三方库如`logrotate`来实现更复杂的日志分割策略。 在讨论了日志分割后,我们转向另一个重要话题:防止Tomcat重复启动。重复启动...

    Linux tomcat下catalina.out日志文件分割

    Linux tomcat下catalina.out日志文件分割 前言: tomcat默认使用Java.util.logging记录日志,默认只记录tomcat的日志,不记录应用的日志。tomcat支持采用log4j进行日志记录,配置方法如下: 1.更新最新的tomcat_juli...

    catalina.out 日志分割

    为了解决这一问题,可以使用专门的日志分割工具来实现日志文件的自动切割。cronolog是一款功能强大的日志轮转工具,它可以按照预设的时间规则(如每天、每周等)自动将旧的日志文件进行切割,并生成新的日志文件继续...

    Apache Log的每日一个日志文件及选择性记录设置

    #### 一、Apache日志文件分隔——使用`rotatelogs` `rotatelogs`是Apache自带的一个实用工具,用于实现日志文件的自动轮换功能。通过它,可以有效地控制单个日志文件的大小,避免日志文件过大带来的问题。下面将...

    常见的web服务器日志切割方法

    日志分割设置** Apache通过其配置文件(如httpd.conf)支持日志文件的切割。可以使用Logrotate工具自动管理日志文件的切割。 **2. 设置虚拟目录来发布日志** Apache同样支持通过虚拟目录发布日志文件,以便于...

    Apache 集群性能优化 日志切分

    二、Apache日志切分 日志切分有助于管理大量日志数据,便于分析和存储。cronolog是一个用于日志切分的工具,它可以根据日期和时间将日志文件分割成不同的小文件。 1. **access.log日志切分**: 将`CustomLog`指令...

    日志分割源码包.zip

    日志分割是日志管理的一个重要组成部分,它涉及到将大量的连续日志数据按照特定的时间间隔或者大小进行切割,以便于存储、检索和分析。本压缩包“日志分割源码包.zip”包含了两个与日志处理相关的工具源代码:...

    Tomcat日志分割.zip

    3. **使用第三方库**:除了Tomcat内置的日志分割功能,还可以使用如Logback或Log4j等强大的日志框架,它们提供了更灵活的日志管理和分割策略。通过配置这些框架,你可以实现基于时间、日期、文件大小等多种条件的...

    Apache24多站点配置及网站日志文件按日期进行分割

    由于以前经常用IIS配置网站,所以现在突然改成使用Apache会有很大的不适应和遇到一些从没见过的困难,相信很多朋友也一样有这个苦恼,于是在各搜索引擎找解决办法。因为自己的经验不足,经常被搜索出来的一些经验所...

    apache使用日志分割模块rotatelogs分割日志详解

    rotatelogs 是 Apache 2.2 中自带的管道日志程序 语法 代码如下:rotatelogs [ -l ] logfile [ rotationtime [ offset ]] | [ filesizeM ] 选项-l使用本地时间代替GMT时间作为时间基准。注意:在一个改变GMT偏移量...

    Apache错误日志时时查看(2014.9.22)

    【Apache错误日志时时查看(2014.9.22)】 Apache作为全球最流行的Web服务器之一,其稳定性与高效性深受开发者喜爱。在日常运维过程中,定期...文件名`apache_log`可能是指用于收集、分析或处理Apache日志的程序或脚本。

    Tomcat日志分割.docx

    三、验证日志分割 隔天检查`$CATALINA_BASE/logs`目录,你应该能看到类似`catalina.out.2022-08-10`这样的日志文件,表明日志已按照日期成功分割。`cronolog`会根据配置自动创建新的日志文件,每天一个新的文件,...

    apache日志分析

    ### Apache日志分析 #### 一、引言 在当今高度数字化的世界中,Web服务器的日志文件成为了解网站性能、安全性和用户行为的关键途径之一。Apache作为全球最广泛使用的Web服务器之一,其日志文件的分析显得尤为重要...

    使用CDN之后APACHE日志记录中IP地址不正确的解决方案

    通过上述方法,我们可以有效地解决使用CDN后Apache日志记录中IP地址不正确的问题,确保后续的数据分析能够基于真实用户的行为进行,从而提升数据分析的准确性和有效性。这对于维护网站的安全性、进行有效的市场推广...

Global site tag (gtag.js) - Google Analytics