`
54yuri
  • 浏览: 28111 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

【转帖】Python字符串的encode与decode研究心得乱码问题解决方法

阅读更多
为什么会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”?本文就来研究一下这个问题。


--------------------------------------------------------------------------------

字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。
decode的作用是将其他编码的字符串转换成unicode编码,如str1.decode('gb2312'),表示将gb2312编码的字符串str1转换成unicode编码。

encode的作用是将unicode编码转换成其他编码的字符串,如str2.encode('gb2312'),表示将unicode编码的字符串str2转换成gb2312编码。

因此,转码的时候一定要先搞明白,字符串str是什么编码,然后decode成unicode,然后再encode成其他编码


--------------------------------------------------------------------------------

代码中字符串的默认编码与代码文件本身的编码一致。

如:s='中文'

如果是在utf8的文件中,该字符串就是utf8编码,如果是在gb2312的文件中,则其编码为gb2312。这种情况下,要进行编码转换,都需要先用decode方法将其转换成unicode编码,再使用encode方法将其转换成其他编码。通常,在没有指定特定的编码方式时,都是使用的系统默认编码创建的代码文件。

如果字符串是这样定义:s=u'中文'

则该字符串的编码就被指定为unicode了,即python的内部编码,而与代码文件本身的编码无关。因此,对于这种情况做编码转换,只需要直接使用encode方法将其转换成指定编码即可。


--------------------------------------------------------------------------------

如果一个字符串已经是unicode了,再进行解码则将出错,因此通常要对其编码方式是否为unicode进行判断:

isinstance(s, unicode) #用来判断是否为unicode

用非unicode编码形式的str来encode会报错


--------------------------------------------------------------------------------

如何获得系统的默认编码?

#!/usr/bin/env python
#coding=utf-8
import sys
print sys.getdefaultencoding()

该段程序在英文WindowsXP上输出为:ascii


--------------------------------------------------------------------------------

在某些IDE中,字符串的输出总是出现乱码,甚至错误,其实是由于IDE的结果输出控制台自身不能显示字符串的编码,而不是程序本身的问题。

如在UliPad中运行如下代码:

s=u"中文"
print s

会提示:UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)。这是因为UliPad在英文WindowsXP上的控制台信息输出窗口是按照ascii编码输出的(英文系统的默认编码是ascii),而上面代码中的字符串是Unicode编码的,所以输出时产生了错误。

将最后一句改为:print s.encode('gb2312')

则能正确输出“中文”两个字。

若最后一句改为:print s.encode('utf8')

则输出:\xe4\xb8\xad\xe6\x96\x87,这是控制台信息输出窗口按照ascii编码输出utf8编码的字符串的结果。


--------------------------------------------------------------------------------

unicode(str,'gb2312')与str.decode('gb2312')是一样的,都是将gb2312编码的str转为unicode编码

使用str.__class__可以查看str的编码形式


--------------------------------------------------------------------------------

原理说了半天,最后来个包治百病的吧:)


复制代码 代码如下:
#!/usr/bin/env python 
#coding=utf-8 
s="中文" 

if isinstance(s, unicode): 
#s=u"中文" 
print s.encode('gb2312') 
else: 
#s="中文" 
print s.decode('utf-8').encode('gb2312')

详细出处参考:[url=http://www.jb51.net/article/17560.htm]


http://www.jb51.net/article/17560.htm[/url]
分享到:
评论

相关推荐

    Python字符串的encode与decode研究.pdf

    Python 字符串的 encode 与 decode 研究 Python 中的字符串编码问题是非常常见的,很多开发者在处理字符串时会遇到乱码问题。这个问题的根源是 Python 字符串的内部表示是 Unicode 编码,而在编码转换时需要以 ...

    Python字符串的encode与decode研究心得乱码问题解决方法

    字符串在Python内部的表示是unicode编码,因此,在做编码转换时,通常需要以unicode作为中间编码,即先将其他编码的字符串解码(decode)成unicode,再从unicode编码(encode)成另一种编码。  decode的作用是将...

    Python3字符串encode与decode的讲解

    由于Python3默认采用Unicode作为其内部字符串编码方式,因此在处理不同编码格式(如UTF-8、GBK等)的数据时,我们需要通过`encode()`和`decode()`方法来实现字符串与字节码之间的转换。本文将详细介绍这两个方法的...

    python字符串str和字节数组相互转化方法

    实例如下: # bytes object b = bexample # str object s = example ...以上这篇python字符串str和字节数组相互转化方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多

    Python 字符串深度总结_Python 字符串深度总结

    `encode()`方法用于将字符串编码成字节,`decode()`方法用于将字节解码回字符串。 ```python encoded = '你好'.encode('utf-8') # b'\xe4\xbd\xa0\xe5\xa5\xbd' decoded = encoded.decode('utf-8') # '你好' ``` 六...

    python字符串, 列表, 字典, 集合方法说明

    在Python中,字符串、列表、字典和集合是四种基本的数据结构,它们提供了许多内置方法来操作数据。下面详细地介绍这些数据结构的方法和用法。 首先,我们来看字符串(String)的相关方法: 1. capitalize():将...

    Python字符串相关操作的整理

    `encode()`方法用于将字符串编码为字节序列,`decode()`则用于将字节序列解码回字符串。两者都需要指定编码格式,如UTF-8,GBK等,以确保正确处理各种字符。 最后,值得注意的是,**Python字符串是不可变的**,这...

    完整版 零基础学Python课件05 第5章 字符串及表达式.ppt

    Python中可以使用encode()方法将字符串编码成bytes对象,也可以使用decode()方法将bytes对象解码成字符串。 正则表达式 正则表达式是一种用来匹配字符串的强有力的武器。它可以用来匹配字符串、验证输入、提取子...

    详解Python解决抓取内容乱码问题(decode和encode解码)

    总结,Python中处理乱码问题的核心是理解字符串的编码与解码过程,并通过`decode`和`encode`方法进行转换。在实际应用中,要确保正确识别和处理目标网页的编码格式,以避免乱码现象。在遇到编码问题时,学会使用上述...

    精品课件 Python从入门到精通 第7章 字符串(共17页).ppt

    在Python编程中,字符串是数据类型之一,用于存储文本信息。字符串是不可变的,意味着一旦创建,就不能修改其中的单个字符。本章节主要涵盖了关于字符串的各种操作和概念。 1. **字符串编码与解码**: - `encode()...

    EnCode/DeCode转换工具

    EnCode/DeCode转换工具是一款专门针对这一需求设计的小巧实用软件,它能够处理ANSI和UTF-8这两种常见的字符编码格式,帮助开发者解决字符转换的问题。 首先,我们要理解编码与解码的基本概念。编码是将可读的文本...

    学学Python_字符串04_字符串方法01

    - `str.encode([encoding[, errors]])` 和 `str.decode([encoding[, errors]])`: 对字符串进行编码和解码,常用于处理不同的字符编码,如UTF-8。 以上所述的知识点在提供的文件中可能有具体的示例实现,如`...

    delphi2010 base64_encode&decode

    描述中的“支持多种字符集,解决中文加密后解密乱码的问题”揭示了一个关键问题,即在处理包含非英文字符(如中文)的数据时,Base64编码可能会遇到乱码问题。这是由于Base64本身是针对ASCII字符集设计的,而中文等...

    python的字符串内建函数方法

    自Python 1.6版本以来,这些方法不断得到增强和完善,直至Python 3.7,它们提供了丰富的功能,涵盖了字符串操作的各个方面,包括格式化、搜索、替换、编码与解码等。 首先,`capitalize()`方法用于将字符串的第一个...

    Json_decode 解析json字符串为NULL的解决方法(必看)

    总结来说,`json_decode()`解析JSON字符串返回NULL的问题往往与编码格式有关。在接收到JSON数据后,首先使用`html_entity_decode()`函数对HTML实体进行转换,然后用`stripslashes()`去除不必要的转义字符。通过这两...

    python字符串压缩.pdf

    在使用`zlib`时,我们需要先将字符串转换为字节对象(`encode('utf-8')`),解压后再转换回字符串(`decode('utf-8')`)。 2. **gzip库**: - `gzip`库主要用于处理GZIP格式的压缩文件,它同样基于`DEFLATE`算法。...

    字符串转EnCode_c#

    字符串转EnCode_c# 字符串转EnCode_c# 字符串转EnCode_c# 字符串转EnCode_c# 字符串转EnCode_c# 字符串转EnCode_c# 字符串转EnCode_c# 字符串转EnCode_c#

    python避免中文乱码的代码.docx

    3. **使用`encode`和`decode`方法**:如果已经有一个包含中文字符的普通字符串,我们可以使用`encode`方法将其转换为字节流(UTF-8编码),然后再使用`decode`方法将字节流转换回Unicode字符串。例如: ```python ...

    03-Python数据类型-字符串

    可以使用 encode() 方法进行编码,使用 decode() 方法进行解码。字符串是Python编程中不可或缺的部分,掌握字符串的操作对于编写Python程序至关重要。字符串定义时,可以使用续行符,在代码编辑器中进行换行。在...

Global site tag (gtag.js) - Google Analytics