`

perl encode,decode

    博客分类:
  • perl
阅读更多

原文:http://www.cnblogs.com/slaughter/archive/2007/03/15/675791.html

Perl从5.6开始已经开始在内部使用utf8编码来表示字符,也就是说对中文以及其他语言字符的处理应该是完全没有问题的。我们只需要利用好 Encode这个模块便能充分发挥Perl的utf8字符的优势了。

下面就以中文文本的处理为例进行说明,比如有一个字符串"测试文本",我们想要把这个中文字符串拆成单个字符,可以这样写:

use Encode;
$dat="测试文本";
$str=decode("gb2312",$dat);
@chars=split //,$str;
foreach $char (@chars) {
print encode("gb2312",$char),"\n";
}

结果大家试一试就知道了,应该是令人满意的。

这里主要用到了Encode模块的decode、encode函数。要了解这两个函数的作用我们需要清楚几个概念:

1、Perl字符串是使用utf8编码的,它由Unicode字符组成而不是单个字节,每个utf8编码的Unicode 字符占1~4个字节(变长)。

2、进入或离开Perl处理环境(比如输出到屏幕、读入和保存文件等等)时不是直接使用Perl字符串,而需要把Perl字符串转换成字节流,转换过程中使用何种编码方式完全取决于你(或者由Perl代劳)。一旦Perl字符串向字节流的编码完成,字符的概念就不存在了,变成了纯粹的字节组合,如何解释这些组合则是你自己的工作。

我们可以看出如果想要Perl按照我们的字符概念来对待文本,文本数据就需要一直用Perl字符串的形式存放。但是我们平时写出的每个字符一般都被作为纯ASCII字符保存(包括在程序中明文写出的字符串),也就是字节流的形式,这里就需要encode和decode函数的帮助了。

encode函数顾名思义是用来编码Perl字符串的。它将Perl字符串中的字符用指定的编码格式编码,最终转化为字节流的形式,因此和 Perl处理环境之外的事物打交道经常需要它。其格式很简单:
$octets = encode(ENCODING, $string [, CHECK])

$string:  Perl字符串
encoding: 是给定的编码方式
$octets:  是编码之后的字节流
check:    表示转换时如何处理畸变字符(也就是Perl认不出来的字符)。一般不需使用

编码方式视语言环境的不同有很大变化,默认可以识别utf8、ascii、ascii-ctrl、
iso-8859-1等。

decode函数则是用来解码字节流的。它按照你给出的编码格式解释给定的字节流,将其转化为使用utf8编码的Perl字符串,一般来说从终端或者文件取得的文本数据都应该用decode转换为Perl字符串的形式。它的格式为:

$string = decode(ENCODING, $octets [, CHECK])
$string、 ENCODING、$octets和CHECK的含义同上。

现在就很容易理解上面写的那段程序了。因为字符串是用明文写出的,存放的时候已经是字节流形式,丧失了本来的意义,所以首先就要用 decode函数将其转换为Perl字符串,由于汉字一般都用gb2312格式编码,这里decode也要使用gb2312编码格式。转换完成后Perl 对待字符的行为就和我们一样了,平时对字符串进行操作的函数基本上都能正确对字符进行处理,除了那些本来就把字符串当成一堆字节的函数(如vec、 pack、unpack等)。于是split就能把字符串切成单个字符了。最后由于在输出的时候不能直接使用utf8编码的字符串,还需要将切割后的字符用encode函数编码为gb2312格式的字节流,再用print输出。

分享到:
评论

相关推荐

    perl程序实现对UTF16编码的文件转换为utf8编码文件

    一些文件是uff16格式,虽然也是文本类型文件,但读取总是出现乱码,因此写了一个程序,可实现对UTF16编码的文件转换为utf8编码文件,请大家下载之前查清楚自己遇到的文件是否是utf16格式的.否则无效哦....

    perl-Encode-HanExtra

    例如,`encode('GBK', $utf8_string)`可以将UTF-8编码的字符串转换为GBK编码,而`decode('GBK', $gbk_string)`则可以完成相反的转换。这样,无论数据源的编码格式如何,我们都可以通过这个库进行统一处理。 此外,`...

    Perl_and_unicode_and_encode-源码.rar

    在这个"Perl_and_unicode_and_encode-源码.rar"压缩包中,我们可以期待找到关于Perl如何处理Unicode字符和编码转换的相关源码示例。Unicode是现代软件和互联网中用于表示世界上几乎所有文字的标准,而Perl中的编码...

    Perl_and_unicode_and_encode:Kichijoji.pm Mini 006“ Perl,Unicode,Encode

    Kichijoji.pm迷你“ Perl,Unicode,Encode”的简历基础知识字符集,编码和字形(字体)不同的。小心!参考Perlunitut.pod Perluniintro.pod perlunicode.pod perlunifaq.pod第一步注意)请将以下所有源代码保存在...

    Perl用Post方法从新浪查天气

    $city = encode("gbk", decode("utf8", $city)); my $c = &do_POST("http://php.weather.sina.com.cn/search.php", [type => "text", city => $city], ) or die "Cannot get weather information\n"; $c =~ s/gb...

    conv2047:RFC 2047 Unicode 电子邮件标头字段转换器

    它基于 Encode Perl 模块。 Usage: conv2047.pl [-c] -d conv2047.pl -e The program reads header lines from standard input and tries to decode or encode them. Operation modes: -d decode (MIME-Header...

    Base62 Encode/Decode Utility:用于对base62进行编码/解码的工具-开源

    chewingum软件包包含两个主要程序:-base62-chew它们已在perl中实现。 Base62也已经用c ++编码。 嚼被写成缩短长的十进制整数到base62字符串。 这不是单纯的基本转换,因为它在逻辑内部不使用算术运算。 这样,它...

    Net-IDN-Encode (perl modules)-开源

    例如,`encode_idna()` 函数可以将一个IDN字符串转化为Punycode,而 `decode_idna()` 可以执行相反的操作。此外,该模块还提供了其他辅助函数,如检测非法字符、进行规则检查等,确保了IDN的正确性和合规性。 开源...

    Encode-Simple:编码

    use Encode::Simple qw(encode encode_lax encode_utf8 decode decode_lax decode_utf8); my $bytes = encode 'Shift_JIS', $characters; my $bytes = encode_lax 'ASCII', $characters; my $bytes = encode_utf8 $...

    JSON-PP:Perl核心模块的JSON :: PP

    使用JSON-PP时,开发者通常需要导入模块,然后调用`decode_json`和`encode_json`函数。例如: ```perl use JSON::PP; my $json_text = '{"key": "value"}'; my $perl_data = decode_json($json_text); # 或者 my...

    perl_utf8_cheat_sheet

    - `Encode::decode('UTF-8', $data, Encode::FB_WARN);` 会发出警告,如果数据不是有效的UTF-8。 - `Encode::decode('UTF-8', $data, Encode::FB die);` 会在失败时抛出异常。 7. **模块推荐**: - `Text::...

    mongo-perl-bson-xs:BSON规范的Perl XS实现-http:bsonspec.org

    3. **创建 BSON 对象**:使用模块提供的方法,如 `encode_bson()` 和 `decode_bson()`,将 Perl 数据结构转换为 BSON 字节流或反之。 4. **操作 MongoDB**:在与 MongoDB 交互时,可以利用 `BSON::XS` 的对象作为...

    mongo-perl-bson:BSON规范的Perl实现http://bsonspec.org

    例如,你可以使用 `BSON::encode` 函数将 Perl 数据结构转换为 BSON 字节,然后使用 `BSON::decode` 将这些字节反序列化回 Perl 数据结构。此外,`mongo-perl-bson` 还支持自定义的编码和解码逻辑,允许你扩展其功能...

    hashids.pm:Hashids,移植到Perl

    3. **编码与解码**:`hashids` 对象提供了 `encode` 和 `decode` 方法。`encode` 方法接受一个或多个整数,返回它们的编码字符串。相反,`decode` 方法接受一个编码字符串,返回原始的整数数组。例如: ```perl my...

    baudot_perl

    在处理Baudot码时,Perl程序可能定义了一些内部变量来存储编码映射,并提供了一些函数,比如`encode_baudot()`和`decode_baudot()`,来执行编码和解码过程。这些函数可能使用Perl的条件语句(if/elsif/else)和循环...

    php json类

    JSON(JavaScript Object Notation)是一种轻量级的数据交换格式,它采用完全独立于语言的文本格式,但也使用了类似于C家族语言的习惯,包括C、C++、C#、Java、JavaScript、Perl、Python等。PHP从5.2版本开始内置了...

    b64.zip_Windows编程_Perl_

    这个模块提供了`encode_base64`和`decode_base64`两个函数,分别用于编码和解码。 首先,让我们深入了解Base64编码的工作原理。Base64编码是基于64个字符的字符集,包括大小写字母(A-Z,a-z),数字(0-9)以及"+...

    libsixel-perl

    名称Image :: LibSIXEL-libsixel的Perl接口(DEC SIXEL图形编解码器的轻量级,快速实现)概要 use Image::LibSIXEL; $encoder = Image::LibSIXEL::Encoder->new(); $encoder->setopt("w", 400); $encoder->setopt("p...

    在PHP语言中使用JSON

    JSON基于JavaScript的一个子集,但其格式是独立于任何编程语言的,尽管它借鉴了C语言家族(如C、C++、C#、Java、JavaScript、Perl、Python等)的语法习惯。由于这些特点,JSON成为了理想的数据交互语言,尤其在网络...

    如何处理UTF8格式的字符?

    使用`Encode::decode`或`Encode::encode`时,可以设置`die_on_error`参数来使程序在检测到错误时立即终止,或者设置`replace`参数来替换非法序列。 总之,在Perl中处理UTF8字符涉及多个层面,包括文件I/O、字符串...

Global site tag (gtag.js) - Google Analytics