`
leng_cn
  • 浏览: 301838 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

Logparse工具的iCodepage使得统计效率提高

 
阅读更多
最近要对IIS的访问流量进行统计,由于数据量太大(按小时分,最小的的日志文件也得一百多兆),所以采用了Logparse进行统计。
这两天需要对访问的IP进行过滤(c-ip),通过命令行执行LOGPARSE命令,会抛出一个未知异常(Log row terminates unexpectedly),十分郁闷,排查日志文件发现,在日志文件里面有一个乱码,就尝试着看看通过编码能不能解决这个问题,查阅了LOGPARSE的帮助文档,发现里面有个参数是iCodepage,通过此编码可以按照不同的格式进行文件解析,格式如下:
Logparse iCodepage:

原本的查询语句及结果是:
E:\LogParserRelease\LogPackage_[NS-SSIP-08]_2012_04_15>LogParser "select c-ip as
c-ip,sum(cs-bytes) as cs-bytes from ex12041511.log where c-ip in('111.16.115.12
0';'221.1.119.4';'58.250.241.224';'211.138.100.177';'211.137.180.234';'122.74.11
.121') group by c-ip" -e:10
c-ip            cs-bytes
--------------- --------
211.138.100.177 661792
211.137.180.234 471792
221.1.119.4     69433
122.74.11.121   1459
Task completed with parse errors.
Parse errors:
Log row terminates unexpectedly
  LogFile "E:\LogParserRelease\LogPackage_[NS-SSIP-08]_2012_04_15\ex12041511.
  log", Row number 157485

Statistics:
-----------
Elements processed: 473979
Elements output:    4
Execution time:     6.67 seconds
可以发现,执行这个语句花费了6秒多的时间,加上iCodepage后的语句是:
E:\LogParserRelease\LogPackage_[NS-SSIP-08]_2012_04_15>LogParser -iCodepage:437
"select c-ip as c-ip,count(c-ip) as cnt-ip,sum(cs-bytes) as cs-bytes from ex1204
1511.log where c-ip in('111.16.115.120';'221.1.119.4';'58.250.241.224';'211.138.
100.177';'211.137.180.234';'122.74.11.121') group by c-ip" -e:10
c-ip            cnt-ip cs-bytes
--------------- ------ --------
211.138.100.177 887    661792
211.137.180.234 610    472657
221.1.119.4     182    69433
122.74.11.121   4      1459

Statistics:
-----------
Elements processed: 473980
Elements output:    4
Execution time:     1.16 seconds
执行的时间变成了1秒多,简直是神速呀,哈哈
分享到:
评论

相关推荐

    论文LogParse:通过单词分类使日志解析自适应翻译

    这种策略提高了模板的灵活性和准确性,使得LogParse能够适应服务内部的变化(内服务自适应)和新服务的引入(跨服务自适应)。 LogParse的工作流程主要包括以下几个步骤: 1. **日志预处理**:首先,对原始日志...

    Jenkins之Log Parse使用方法详解

    通过这些规则,Log Parse插件能够将日志中与error、warning、info、BUILD等关键字相关的行进行高亮显示,并且提供快速链接,使得开发者可以快速定位到具体的日志位置,极大地方便了问题的排查与修复工作。...

    LogParser2.2.10

    **LogParser 2.2.10:...总的来说,LogParser 2.2.10是一款不可或缺的工具,无论你是Windows系统管理员还是开发者,都可以利用它有效地管理和解析日志数据,提高工作效率,保障系统安全,同时为问题解决提供有力支持。

    SWG Log Parse-开源

    总的来说,SWG Log Parse提供了一个高效且灵活的工具,帮助SWG玩家和研究者解析游戏内的聊天记录,从中提取有价值的信息。由于其开源性质,用户可以根据自己的需求进行定制,进一步提升其功能性和实用性。如果你是...

    h264_parse解析工具

    《深入理解H264解析工具——h264_parse》 在数字视频编码领域,H.264(也称为AVC,Advanced Video Coding)是广泛应用的一种高效视频压缩标准。它以其高压缩率和良好的图像质量,在互联网、电视广播、移动通信等...

    信息安全服务各种应急响应工具、应急资质申请工具包、便于开展信息安全应急服务工作

    应急工具集包含 1、webshell 查杀工具 深信服webshell 、D盾、 2、内存扫描及主机监控 memscan、Sysmon、安装使用指导 3、进程分析工具 ...ADExplorer、Everything、Hash、Logparse、winhex、nopad++ 等

    elf_parse解析工具

    **elf_parse解析工具详解** 在计算机软件开发领域,ELF(Executable and ...在实际工作中,结合`elf_parse`这样的工具,配合其他调试器(如GDB),能够有效地解决程序运行时的问题,提升软件开发的效率和质量。

    python-log-parse-example:Python中的简单日志解析示例

    总之,Python提供了强大的工具来处理日志解析任务,而`python-log-parse-example`就是一个很好的起点,它展示了如何利用Python实现这一功能。无论你是初学者还是经验丰富的开发者,都能从中受益,掌握日志分析的关键...

    asp的JSON工具类

    ASP(Active Server Pages)是微软开发的一种服务器端脚本环境,用于创建动态网页或Web应用程序。在处理JSON数据时,ASP本身并没有...在实际项目中,正确理解和使用这类工具,能够大大提高开发效率并减少潜在的错误。

    S57海图查看工具

    描述中提到该工具具有简洁的用户界面和易于操作的特点,这表明它设计得用户友好,使得非专业人员也能快速上手。此外,工具还附带了一份简要海图,这可能是为了帮助用户更好地理解S57格式的数据,并提供基础的导航...

    couchdb-log-parse:一个解析couchdb日志文件的节点程序

    var LogParse = require('couchdb-log-parse') var parser = new LogParse() fs.createReadStream('couchdb.log').pipe(parser) parser.on('data', function (c) { // this is the raw data, don't know why you ...

    video_parse.rar

    总结来说,"video_parse.rar"提供的工具使得在Windows 10环境下进行视频分帧变得简单易行。通过理解其工作原理和应用场景,我们可以更有效地利用这个工具,解决在多媒体处理中遇到的问题,提升工作效率。在实际使用...

    NXP官方原版MFG_TOOL烧写工具.zip

    3. **调试支持**:在开发阶段,MFG_TOOL还可以作为调试工具,帮助开发者查找并修复代码中的问题,提高开发效率。 4. **安全特性**:NXP的MFG_TOOL通常支持安全烧录,能够保护固件免受未经授权的访问和修改,确保...

    115网盘地址解析工具

    通过上述知识点的学习和应用,用户可以更高效地利用115网盘地址解析工具,提高对115网盘资源的访问效率和稳定性。同时,对于IT专业人士,这也提供了一个深入研究网络协议、跨运营商通信和数据解析等方面技术的机会。

    Laravel开发-laravel-parse

    通过这个SDK桥接器,开发者可以轻松地利用Parse的数据库、用户认证和推送通知服务,提高开发效率,同时保持Laravel项目的整洁和高效。无论是初学者还是经验丰富的开发者,都能从中受益,实现更快速、更可靠的Web应用...

    解析CSV文件工具

    CSV(Comma Separated ...通过这个工具,开发者可以自定义数据处理逻辑,如过滤、转换、聚合等,提高数据处理效率和灵活性。由于提供了源码,用户可以根据实际需求进行修改和扩展,使得该工具更加符合特定项目的需求。

    json格式解析工具

    JSON(JavaScript Object Notation)是一种轻量级的数据交换格式,被广泛用于Web应用程序之间传递数据。它基于JavaScript的一个...了解和熟练使用这类工具可以提高工作效率,减少错误,使得处理JSON数据变得更加便捷。

    IPOP4 内网端口转发工具

    - "imu_log_parse.py":这个文件可能是一个Python脚本,用于解析IMU(惯性测量单元)的日志数据。在与IPOP4结合使用时,可能用于处理或分析通过端口转发获取的内网设备数据,例如在遥感、机器人导航等应用中,IMU...

    两个网页工具类,用于处理页面

    此外,还可以通过钩子(hooks)或事件机制,使得工具类在特定操作前后执行自定义代码。 在实际项目中,这两个工具类可能包含以下具体功能: 1. HTML解析和操作:包括解析HTML字符串,获取元素,修改元素属性,插入...

    国标GBT27930报文解析工具

    国标27930报文解析工具。可以通过宏修改适用于多种工具产生的CAN报文。使用awk脚本实现该功能,在windows上可以使用 git bash工具使用。...参考指令 $ ./parse_27930_for_ZCANPRO.sh [输入文件路径] > [输出文件路劲]

Global site tag (gtag.js) - Google Analytics