理解并解决GBK转UTF-8奇数中文乱码

chenfeng0104

浏览: 596551 次
性别:
来自: 上海

最近访客更多访客>>

chen88358323

fantao005x

botao99284

JiefzzLon

博主相关

博客

微博

相册

留言

关于我

文章分类

社区版块

存档分类

博客分类：

java

C C++C#J#

最近在做一个反馈功能，把数据反馈到对方公司网站，我公司是GBK编码，对方公司是UTF-8编码。因此，我需要将GBK编码数据转换成UTF-8编码数据，这样对方网站才不会乱码。最简单的方法是将HttpClient的ContentCharset设置为utf-8；如果ContentCharset是gbk并且又不想设置为utf-8，那么就需要将数据转换成UTF-8编码再发到对方网站。

问题出现：GBK转UTF-8时，奇数个中文会乱码，偶数个中文不会乱码。
三个中文

public static void encodeError() throws UnsupportedEncodingException {
	String gbk = "我来了";
	String utf8 = new String(gbk.getBytes("UTF-8"));

	//模拟UTF-8编码的网站显示
	System.out.println(new String(utf8.getBytes(),"UTF-8"));
}
/*
我来??
*/

前面三个中文，后面一个中文，都是奇数

public static void encodeError2() throws UnsupportedEncodingException {
	String gbk = "今年是2011年";
	String utf8 = new String(gbk.getBytes("UTF-8"));

	//模拟UTF-8编码的网站显示
	System.out.println(new String(utf8.getBytes(),"UTF-8"));
}
/*
今年??011??
*/

原因：为什么只有奇数个中文才乱码，偶数个却不乱码？下面来分析原因

public static void analyze() throws UnsupportedEncodingException {
	String gbk = "我来了";
	String utf8 = new String(gbk.getBytes("UTF-8"));
	for (byte b : gbk.getBytes("UTF-8")) {
		System.out.print(b + " ");
	}
	System.out.println();
	for (byte b : utf8.getBytes()) {
		System.out.print(b + " ");
	}
}
/*
-26 -120 -111 -26 -99 -91 -28 -70 -122 
-26 -120 -111 -26 -99 -91 -28 -70 63 
*/

注意最后一个字节不同，上面一行才是正确的UTF-8编码。那么为什么下面一行最后一个字节是63，而不是-122呢？这就是导致乱码的原因所在。
GBK编码是一个中文2个字节，而UTF-8编码是一个中文3个字节，当我们调用getBytes("UTF-8")方法时，会通过计算来增加字节，使得从GBK的2个字节变成UTF-8对应的3个字节。因此，上例3个中文输出了9个字节。

这里讲一下怎么通过计算增加字节，不深究的读者可以跳过此段。为了醒目，直接用代码讲解

public static void gbk2Utf() throws UnsupportedEncodingException {
	String gbk = "我来了";
	char[] c = gbk.toCharArray();
	byte[] fullByte = new byte[3*c.length];
	for (int i=0; i<c.length; i++) {
		String binary = Integer.toBinaryString(c[i]);
		StringBuffer sb = new StringBuffer();
		int len = 16 - binary.length();
		//前面补零
		for(int j=0; j<len; j++){
	    		sb.append("0");
	    	}
		sb.append(binary);
		//增加位，达到到24位3个字节
		sb.insert(0, "1110");
        	sb.insert(8, "10");
        	sb.insert(16, "10");
       		fullByte[i*3] = Integer.valueOf(sb.substring(0, 8), 2).byteValue();//二进制字符串创建整型
        	fullByte[i*3+1] = Integer.valueOf(sb.substring(8, 16), 2).byteValue();
        	fullByte[i*3+2] = Integer.valueOf(sb.substring(16, 24), 2).byteValue();
	}
	//模拟UTF-8编码的网站显示
	System.out.println(new String(fullByte,"UTF-8"));
}

现在我们来找出最后一个字节是63，而不是-122的原因。

public static void analyze2() throws UnsupportedEncodingException {
	String gbk = "我来了";
	byte[] utfBytes = gbk.getBytes("UTF-8");//得到9个字节
	String utf8 = new String(utfBytes);//问题就出在这
	System.out.print(utf8);
}
/*
鎴戞潵浜?
*/

因为文件是GBK编码，new String(utfBytes)默认就是new String(utfBytes,"GBK")。它会2个字节2个字节地转换成字符，当字节是奇数时最后1个字节转字符就会计算错误，然后直接赋予最后这个字符为?，对应ASCII代码就是63。

解决问题
保证字节正确才是硬道理。当调用getBytes("UTF-8")转换成字节数组后，创建ISO-8859-1编码的字符串，ISO-8859-1编码是一个字节对应一个字符，因此不会使最后一个字节错误。

public static void correctEncode() throws UnsupportedEncodingException {
	String gbk = "我来了";
	String iso = new String(gbk.getBytes("UTF-8"),"ISO-8859-1");
	for (byte b : iso.getBytes("ISO-8859-1")) {
		System.out.print(b + " ");
	}
	System.out.println();

	//模拟UTF-8编码的网站显示
	System.out.println(new String(iso.getBytes("ISO-8859-1"),"UTF-8"));
}
/*
-26 -120 -111 -26 -99 -91 -28 -70 -122 
我来了
*/

分享到：

显示Web图片和SD卡图片 | 工具URL

2011-06-18 21:29
浏览 27213
评论(40)
论坛回复 / 浏览 (45 / 45681)
分类:编程语言
查看更多

40 楼 bruce.yuan 2016-05-23

误人子弟的文章。已经看到N个人转了这个帖子，这要贻害多少新人啊。
lz先搞清楚各种编码的码表再说。解码编码说到底就是一个可逆的操作，如同序列化一样。不可逆了就会出现乱码，你要想准确解码你只要搞清楚它是哪种编码方式编码的就行了。

39 楼 lxn348567248 2012-12-17

我感觉这样是不是有点麻烦，我们完全可以new String(byte,charset)这个方法去解决了。

38 楼 hobitton 2011-06-24

iceman1952 写道

beykery 写道

楼主有一点说的不正确，utf-8是变长编码，有1个字节到4个字节编码的字符。

是1个到6个

到底几个，到底几个，到底几个？？？？

http://www.ietf.org/rfc/rfc3629.txt

37 楼 iceman1952 2011-06-22

iceman1952 写道

beykery 写道

楼主有一点说的不正确，utf-8是变长编码，有1个字节到4个字节编码的字符。

是1个到6个

到底几个，到底几个，到底几个？？？？

36 楼 iceman1952 2011-06-22

beykery 写道

楼主有一点说的不正确，utf-8是变长编码，有1个字节到4个字节编码的字符。

是1个到6个

35 楼 330217445 2011-06-22

别误导人了：前提你说了，你必须确保你的文件是GBK编码！

	String str = new String("我来了".getBytes("GBK"));
		byte[] bt = str.getBytes("UTF-8");
		System.out.println(bt.length);
		for(int i=0;i<bt.length;i++){
			System.out.print(bt[i]+"  ");
		}
		String str1 = new String(bt,"UTF-8");

		
		System.out.println(new String(str1.getBytes(),"GBK"));

34 楼 jackra 2011-06-22

<div class="quote_title">iceside 写道</div>
<div class="quote_div">..........
字符串编码迷思：
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr>
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
new String(input.getBytes("ISO-8859-1"), "GB18030")
</td>
</tr></tbody></table>
上面这段代码代表什么？有人会说： “把input字符串从ISO-8859-1编码方式转换成GB18030编码方式”。如果这种说法正确，那么又如何解释我们刚提到的java字符串都采用unicode编码呢？
这种说法不仅是欠妥的，而且是大错特错的，让我们一一来分析，其实事实是这样的：我们本应该用GB18030的编码来读取数据并解码成字符串，但结果却采用了ISO-8859-1的编码，导致生成一个错误的字符串。要恢复，就要先把字符串恢复成原始字节数组，然后通过正确的编码GB18030再次解码成字符串（即把以GB18030编码的数据转成unicode的字符串）。注意，字符串永远都是unicode编码的。
但编码转换并不是负负得正那么简单，这里我们之所以可以正确地转换回来，是因为 ISO8859-1 是单字节编码，所以每个字节被按照原样 转换为 String ，也就是说，虽然这是一个错误的转换，但编码没有改变，所以我们仍然有机会把编码转换回来！ 
 
总结：
所以，我们在处理java的编码问题时，要分清楚三个概念：Java采用的编码：unicode，JVM平台默认字符集和外部资源的编码。
 
</div>
这个地方是亮点

33 楼稍纵即逝 2011-06-22

原来是要先转为ISO-8859-1，收下了

32 楼 pengmj 2011-06-21

chenfeng0104 写道

arsenal04 写道

和刚看到的另两篇也是说编码的文章结合理解，有了一些收获，有个疑问，ISO-8859-1既然是单字节，那如果UTF-8转成字节数组占了3个字节，那是会转成3个字符吗？

是的，ISO-8859-1是一个字节表示一个字符，UTF-8是三个字节表示一个字符。

准确的说UTF-8表示中文时一般用3个字节

31 楼 codermouse 2011-06-21

经常碰到中文乱码的问题，每次都是瞎猫碰死耗子一样的乱试。看了这个有点明白，留后面慢慢体会。

30 楼 I清晰 2011-06-21

看不明白，这么多乱码

29 楼 chenfeng0104 2011-06-21

chenfeng0104 写道

wisword 写道

chenfeng0104 写道

arsenal04 写道

是的，ISO-8859-1是一个字节表示一个字符，UTF-8是三个字节表示一个字符。

这种说法不对，UTF-8有一个字节的字符也有2个字节的字符也有3个字节的字符

准确说是3个字节表示一个中文字符,英文字符或数字可以是1个字节，也可以是3个字节

28 楼 chenfeng0104 2011-06-21

其实事实是这样的：我们本应该用

qdgyj 写道

holyselina 写道

String gbk = "我来了";
String iso = new String(gbk.getBytes("UTF-8"),"UTF-8");
System.out.println(iso);
直接这样不行吗?

String gbk = "我来了";
String iso = new String(gbk.getBytes("UTF-8"),"UTF-8");
for (byte b : gbk.getBytes("UTF-8")) {
        System.out.print(b + " ");
}
System.out.println();
for (byte b : iso.getBytes()) {
        System.out.print(b + " ");
}
System.out.println();
for (byte b : gbk.getBytes()) {
        System.out.print(b + " ");
}
/*
-26 -120 -111 -26 -99 -91 -28 -70 -122
-50 -46 -64 -76 -63 -53
-50 -46 -64 -76 -63 -53
*/
兄弟，自己体会

27 楼 chenfeng0104 2011-06-21

for (byte b : iso.getBytes("ISO-8859-1")) {
        System.out.print(b + " ");
    }

JavaStudyEye 写道

aiyust070 写道

twobowl_eye 写道

hobitton 写道

holyselina 写道

String gbk = "我来了";
String iso = new String(gbk.getBytes("UTF-8"),"UTF-8");
System.out.println(iso);
直接这样不行吗?

lz那样转换纯粹是脱了裤子放屁，直接new String(s.getBytes("UTF-8"), "UTF-8")就搞定了非要中间加一层iso-8859-1的转换。
先utf8“编码”成byte数组，然后再utf8“解码”成字符串就可以了。

的确lz没有说到点子上，远程通信最终都要转成字节流的，关键是你传给outputstream的时候把String转成什么编码的字节数组，前面任你怎么转都是没有意义的

+1 这个是对的

确实这是对的，已测试

26 楼 chenfeng0104 2011-06-21

JavaStudyEye 写道

这样我就有一个疑问啊：小白问题，见笑

楼主提出的解决方案中有这样一句话：

“int len = 16 - binary.length();”

为啥用16作为减数呢

如果binary.length()是15，就在前面加个0，达到16位二进制

25 楼 chenfeng0104 2011-06-21

wisword 写道

chenfeng0104 写道

arsenal04 写道

是的，ISO-8859-1是一个字节表示一个字符，UTF-8是三个字节表示一个字符。

这种说法不对，UTF-8有一个字节的字符也有2个字节的字符也有3个字节的字符

准确说是3个字节表示一个中文字符

24 楼 JavaStudyEye 2011-06-21

这样我就有一个疑问啊：小白问题，见笑

楼主提出的解决方案中有这样一句话：

“int len = 16 - binary.length();”

为啥用16作为减数呢

23 楼 JavaStudyEye 2011-06-21

aiyust070 写道

twobowl_eye 写道

hobitton 写道

holyselina 写道

String gbk = "我来了";
String iso = new String(gbk.getBytes("UTF-8"),"UTF-8");
System.out.println(iso);
直接这样不行吗?

+1 这个是对的

确实这是对的，已测试

22 楼 qdgyj 2011-06-21

holyselina 写道

String gbk = "我来了";
String iso = new String(gbk.getBytes("UTF-8"),"UTF-8");
System.out.println(iso);
直接这样不行吗?

21 楼 iceside 2011-06-21

下面这篇文章应该能够说到要点上。
Java与Unicode
Java的class文件采用utf8的编码方式，JVM运行时采用utf16。Java的字符串是unicode编码的。总之，Java采用了unicode字符集，使之易于国际化。
 
Java支持哪些字符集：
即Java能识别哪些字符集并对它进行正确地处理？查看Charset 类，最新的JDK支持160种字符集。可以通过static方法availableCharsets拿到所有Java支持的字符集。
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr style="">
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
assertEquals(160, Charset.availableCharsets().size()); 
 
Set<String> charsetNames =
Charset.availableCharsets().keySet(); 
 
assertTrue(charsetNames.contains("utf-8")); 
assertTrue(charsetNames.contains("utf-16")); 
assertTrue(charsetNames.contains("gb2312")); 
 
assertTrue(Charset.isSupported("utf-8"));
</td>
</tr></tbody></table>
 
需要在哪些时候注意编码问题？
1. 从外部资源读取数据：
这跟外部资源采取的编码方式有关，我们需要使用外部资源采用的字符集来读取外部数据：
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr style="">
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
InputStream is = new
FileInputStream("res/input2.data"); 
InputStreamReader streamReader = new InputStreamReader(is,
"GB18030");
</td>
</tr></tbody></table>
这里可以看到，我们采用了GB18030编码读取外部数据，通过查看streamReader的encoding可以印证：
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr style="">
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
assertEquals("GB18030", streamReader.getEncoding());
</td>
</tr></tbody></table>
正是由于上面我们为外部资源指定了正确的编码，当它转成char数组时才能正确地进行解码（GB18030 -> unicode）：
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr style="">
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
char[] chars = new char[is.available()]; 
streamReader.read(chars, 0, is.available());
</td>
</tr></tbody></table>
但我们经常写的代码就像下面这样：
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr style="">
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
InputStream is = new
FileInputStream("res/input2.data"); 
InputStreamReader streamReader = new InputStreamReader(is);
</td>
</tr></tbody></table>
这时候InputStreamReader采用什么编码方式读取外部资源呢？Unicode？不是，这时候采用的编码方式是JVM的默认字符集，这个默认字符集在虚拟机启动时决定，通常根据语言环境和底层操作系统的 charset来确定。可以通过以下方式得到JVM的默认字符集：
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr style="">
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
Charset.defaultCharset(); 
</td>
</tr></tbody></table>
为什么要这样？因为我们从外部资源读取数据，而外部资源的编码方式通常跟操作系统所使用的字符集一样，所以采用这种默认方式是可以理解的。
好吧，那么我通过我的IDE Ideas创建了一个文件，并以JVM默认的编码方式从这个文件读取数据，但读出来的数据竟然是乱码。为何？呵呵，其实是因为通过Ideas创建的文件是以utf-8编码的。要得到一个JVM默认编码的文件，通过手工创建一个txt文件试试吧。
2. 字符串和字节数组的相互转换
我们通常通过以下代码把字符串转换成字节数组：
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr style="">
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
"string".getBytes();
</td>
</tr></tbody></table>
但你是否注意过这个转换采用的编码呢？其实上面这句代码跟下面这句是等价的：
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr style="">
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
"string".getBytes(Charset.defaultCharset());
</td>
</tr></tbody></table>
也就是说它根据JVM的默认编码（而不是你可能以为的unicode）把字符串转换成一个字节数组。
反之，如何从字节数组创建一个字符串呢？
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr style="">
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
new String("string".getBytes());
</td>
</tr></tbody></table>
同样，这个方法使用平台的默认字符集解码字节的指定数组（这里的解码指从一种字符集到unicode）。
 
字符串编码迷思：
<table class="MsoNormalTable" style="width: 100.0%; border-collapse: collapse;" border="0" cellspacing="0" cellpadding="0" width="100%"><tbody><tr style="">
<td style="width: 100.0%; background: silver; padding: 0cm 5.4pt 0cm 5.4pt;" width="100%" valign="top">
new String(input.getBytes("ISO-8859-1"), "GB18030")
</td>
</tr></tbody></table>
上面这段代码代表什么？有人会说： “把input字符串从ISO-8859-1编码方式转换成GB18030编码方式”。如果这种说法正确，那么又如何解释我们刚提到的java字符串都采用unicode编码呢？
这种说法不仅是欠妥的，而且是大错特错的，让我们一一来分析，其实事实是这样的：我们本应该用GB18030的编码来读取数据并解码成字符串，但结果却采用了ISO-8859-1的编码，导致生成一个错误的字符串。要恢复，就要先把字符串恢复成原始字节数组，然后通过正确的编码GB18030再次解码成字符串（即把以GB18030编码的数据转成unicode的字符串）。注意，字符串永远都是unicode编码的。
但编码转换并不是负负得正那么简单，这里我们之所以可以正确地转换回来，是因为 ISO8859-1 是单字节编码，所以每个字节被按照原样 转换为 String ，也就是说，虽然这是一个错误的转换，但编码没有改变，所以我们仍然有机会把编码转换回来！ 
 
总结：
所以，我们在处理java的编码问题时，要分清楚三个概念：Java采用的编码：unicode，JVM平台默认字符集和外部资源的编码。

发表评论

您还没有登录,请您登录后再发表评论

最近访客更多访客>>

博主相关

文章分类

社区版块

存档分类

最新评论