perl处理文本经验积累(不断更新中)

1. 把同根路径不同文件包中同名的文件合并

例子:

作用描述: 问题：
现有五个目录分别存放5个领域的文件
F:\...\fold\canyin\sys
F:\...\fold\jiaotong\sys
F:\...\fold\lvyou\sys
F:\...\fold\shangwu\sys
F:\...\fold\tiyu\sys

而每个
F:\...\fold\xxx\sys目录
下面有
18个文件：
text(0).txt
text(1).txt
....
text(16).txt
text(17).txt

想把五个领域目录下的文件名相同的文件合并成一个文件

比如:
all_text(0).txt=
(F:\...\fold\canyin\sys\text(0).txt)
+(F:\...\fold\jiaotong\sys\text(0).txt)
+(F:\...\fold\lvyou\sys\text(0).txt)
+(F:\...\fold\shangwu\sys\text(0).txt)
+(F:\...\fold\tiyu\sys\text(0).txt)
这里的'+'表示文件合并的意思
即后面处于不同目录下面的五个同名文件将被合并到all_text(0).txt文件中

#!
@person=qw(canyin jiaotong lvyou shangwu tiyu);
for($i=0;$i<18;$i++) {
$src=join('+',map{$_."\\sys\\test_part_result_by_index($i).txt"} @person);
print $src ,"\n";
system("copy $src fold1_all_text($i).txt");
}

2. 简易获取当前目录下所有文件名

一般是用CWD模块，下面这个更简洁

#!
#####
#给目录下面的文件改名字
while($file=glob('*.txt')) {#glob 取得当前目录下的文件名
print "$file\n";
$newfile = "canyin_".$file;
rename($file,$newfile);
print "$newfile\n";
}

3. 去除文件每行前标号

在EBMT翻译时，为防止串行一般在每行前加标号，格式如:[0001234]

在评测前，需要去掉之，代码如下: 写成批处理即可运行。

#！
$inputfile =shift ;
$outputfile = shift;
open IN,"<$inputfile" or die "can not open file : $inputfile\n";
open OUT,">$outputfile" or die "can not open file : $outputfile\n";
foreach $str (<IN>){

$str =~s/^\[( \d+ )\]//g;#去掉行首[ 12121212 ]
$str =~s/^ //g;#去掉行首空格
print OUT $str;
}

4. 从评测结果文件中提取结果:

#!

$inputfile = shift;

$outputfile = shift;
open IN ,$inputfile or die "can not open file,$!\n ";
open OUT, ">$outputfile" or die"can not open >out.txt,$!\n";

my $contents = <IN>;
my @system_names;
$sys = "system name= \"";
$nist5 = "Nist5Score=\"";
$bleu5 = "Bleu5Score=\"";
my @nist5score;
my @nist3score;
my @nist1score;
my @bleu5score;
my @bleu3score;
my @bleu3score;
#@system_names = /$sys(.*?)\"/g;
$sys ="<system name=\"";

@system_names=($contents=~/$sys(.*?)\"/gs);
@nist5score = ($contents=~/$nist5(.*?)\"/gs);
@bleu5score = ($contents=~/$bleu5(.*?)\"/gs);
print OUT join("\n",@system_names);
print OUT "\nnist5\n";
print OUT join("\n",@nist5score);
print OUT "\nbleu5\n";
print OUT join("\n",@bleu5score);
5。把文件随机化

#!/usr/bin/perl
#功能: 把输入文件随机化（每行是一个单位）
#方法：每次产生一个在总行数之间的随机整数，用一个标记数组看有是否已经输出。

use strict;
my $n = 100;
my $seed = 1;
#Do not call srand() (i.e. without an argument) more than once in
#a script. The internal state of the random number generator
#should contain more entropy than can be provided by any seed, so
#calling srand() again actually *loses* randomness.

my $infile = shift;
my $outfile = shift;
open(IN,$infile) || die "无法打开input.txt\n";
open (OUT,">$outfile")|| die "无法打开output.txt\n";

my @all = <IN>;
my $sen_num = @all;#总句子数
my $cur_num = 0;#目前提取的句数
my @lab ;#标记数组
my $selected = 100;
my $non_selected = 0;

srand();

#先把标记数组初始化
my $i=0;
for($i=0;$i<@all;$i++)
{
$lab[$i] = $non_selected;
}

my $num = 0;
while($cur_num < $sen_num)
{
$num = int rand($sen_num);

if($lab[$num] != $selected)
{
print OUT @all[$num];

$lab[$num] = $selected;
$cur_num ++;
#$num ++;
}
}

6. 上面的随机做法效率很低，建议用下面这个很棒的shuffle做法。

#!
use List::Util 'shuffle';
@all = <STDIN>;
$num = @all;
@list = (0..$num-1);
@shuffled = shuffle(@list);
foreach $i(@shuffled){
print $all[$i];
}

7. 文件成行读入
把一个文件读入一个字符串
方法:
my $contents;
{
local $/;
$contents = <IN>;
}
或
my $contents = do {local $/; <IN>}
例子: 文件中以空行为语块分割的标记，把语块内部顺序保留，而语块间逆序输出。
#!
open IN,"input.txt";
open OUT,">output.txt";
my $contents;
{
local $/;
$contents = <IN>;
}
my @all = split("\n\n",$contents);#不同文件格式也可能是my @all = split("\n\r\n",$contents);
for(my $i=@all-1;$i>=0;$i--)
{
print OUT $all[$i],"\n\n";
}
close(IN);
close(OUT);

8. 如何用foreach每次读取多句?
那就用<FH>读三次，
while (!eof(FH)){
$line1 = <FH>;
$line2 = <FH>;
$line3 = <FH>;
...
}

9 (非)贪婪(non-greedy)匹配

? 当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时，
匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串，
而默认的贪婪模式则尽可能多的匹配所搜索的字符串。
例如，对于字符串 "oooo"，’o+?’ 将匹配单个"o"，而 ’o+’ 将匹配所有 ’o’。

如果你使用一个旧的Perl版本, 并且你不想贪婪匹配, 你必须使用否定的字符类。(真的, 你正在得到一种限制的贪婪匹配)

在Perl的现在版本中, 你能通过在数量词后使用一个问号,
强迫进行非贪婪的最小匹配。　
同样的用户名匹配将是/.*?:/。现在这个.*?将尽可能匹配少的字符, 而不是尽可能多的字符,
所以它停在第一个冒号而不是最后一个冒号。

例子:
问题是这样的：
比如给一句话，形式如下:
I(i)/xx came(come)/xx ,(,)/xx ((()/xx {({)/xx how it like(how it like)/yy
解释格式:
词组，然后是用小括号包围的词组还原形式，然后是斜杠'/'，然后是词性..

要求: 把还原形式去掉
例如上句想得到:
I/xx came/xx ,/xx (/xx {/xx how it like/yy

难点: 1. 词组可能是左小括号'(' 即可能有词组: ((()/xx
2. 各种标点，括号() [] {}等
3. 好几个词的词组，如: How it like(how it like)/xx

做法: 拆分成一段一段来做吧，要不然用regexp处理各段之间的混淆很麻烦：

my $str="I(i)/xx came(come)/xx ,(,)/xx ((()/xx )())/x {({)/xx how it like(how it like)/yy";
my $res='';
while($str=~m|(.*?/\S+)|g) {# 非贪婪匹配，否则结果就是 I/yy
my $token=$1;
$token=~s|\(\(\(\)|\(|g;
$token=~s|\)\(\)\)|\)|g;
$token=~s|\(.*\)||g;
$res.=$token;
}
print $res,"\n";