关于字符编码的问题

0 0

关于字符编码的问题5

小弟最近在学web相关知识，遇到了字符编码的问题，现在想了解一下java底层源码是如何处理字符转换的，因之前在相关博客上见到有说java.util.properties类里面有，但还是没找着，希望各路大牛帮忙，给点提示

问题补充：

housen1987 写道

Java与Unicode：

Java的class文件采用utf8的编码方式，JVM运行时采用utf16。

Java的字符串是unicode编码的。

总之，Java采用了unicode字符集，使之易于国际化。

Java支持哪些字符集：

即Java能识别哪些字符集并对它进行正确地处理？

查看Charset 类，最新的JDK支持160种字符集。可以通过static方法availableCharsets拿到所有Java支持的字符集。

assertEquals(160, Charset.availableCharsets().size());  
  
Set<String> charsetNames = Charset.availableCharsets().keySet();  
  
assertTrue(charsetNames.contains("utf-8"));  
assertTrue(charsetNames.contains("utf-16"));  
assertTrue(charsetNames.contains("gb2312"));  
  
assertTrue(Charset.isSupported("utf-8"));

需要在哪些时候注意编码问题？

1. 从外部资源读取数据：

这跟外部资源采取的编码方式有关，我们需要使用外部资源采用的字符集来读取外部数据：

InputStream is = new FileInputStream("res/input2.data");  
InputStreamReader streamReader = new InputStreamReader(is, "GB18030");

这里可以看到，我们采用了GB18030编码读取外部数据，通过查看streamReader的encoding可以印证：

assertEquals("GB18030", streamReader.getEncoding());

正是由于上面我们为外部资源指定了正确的编码，当它转成char数组时才能正确地进行解码（GB18030 -> unicode）

char[] chars = new char[is.available()];  
streamReader.read(chars, 0, is.available());

但我们经常写的代码就像下面这样：

InputStream is = new FileInputStream("res/input2.data");  
InputStreamReader streamReader = new InputStreamReader(is);

正文
andyhu1007
等级:

性别:
文章: 67
积分: 780
来自: 北京

发表时间：2009-01-07 收藏
< > 猎头职位: 北京: ITeye网站诚聘产品交互设计相关文章:
理解并解决GBK转UTF-8奇数中文乱码
编码简介
深入分析 Java 中的中文编码问题(1)

推荐群组: JSF
Java与Unicode：

Java的class文件采用utf8的编码方式，JVM运行时采用utf16。

Java的字符串是unicode编码的。

总之，Java采用了unicode字符集，使之易于国际化。

Java支持哪些字符集：

即Java能识别哪些字符集并对它进行正确地处理？

查看Charset 类，最新的JDK支持160种字符集。可以通过static方法availableCharsets拿到所有Java支持的字符集。

Java代码
assertEquals(160, Charset.availableCharsets().size());

Set<String> charsetNames = Charset.availableCharsets().keySet();

assertTrue(charsetNames.contains("utf-8"));
assertTrue(charsetNames.contains("utf-16"));
assertTrue(charsetNames.contains("gb2312"));

assertTrue(Charset.isSupported("utf-8"));

需要在哪些时候注意编码问题？

1. 从外部资源读取数据：

这跟外部资源采取的编码方式有关，我们需要使用外部资源采用的字符集来读取外部数据：

Java代码
InputStream is = new FileInputStream("res/input2.data");
InputStreamReader streamReader = new InputStreamReader(is, "GB18030");

这里可以看到，我们采用了GB18030编码读取外部数据，通过查看streamReader的encoding可以印证：

Java代码
assertEquals("GB18030", streamReader.getEncoding());

正是由于上面我们为外部资源指定了正确的编码，当它转成char数组时才能正确地进行解码（GB18030 -> unicode）：

Java代码
char[] chars = new char[is.available()];
streamReader.read(chars, 0, is.available());

但我们经常写的代码就像下面这样：

Java代码
InputStream is = new FileInputStream("res/input2.data");
InputStreamReader streamReader = new InputStreamReader(is);

这时候InputStreamReader采用什么编码方式读取外部资源呢？Unicode？不是，这时候采用的编码方式是JVM的默认字符集，这个默认字符集在虚拟机启动时决定，通常根据语言环境和底层操作系统的 charset 来确定。可以通过以下方式得到JVM的默认字符集：

Charset.defaultCharset();

为什么要这样？因为我们从外部资源读取数据，而外部资源的编码方式通常跟操作系统所使用的字符集一样，所以采用这种默认方式是可以理解的。

好吧，那么我通过我的IDE Ideas创建了一个文件，并以JVM默认的编码方式从这个文件读取数据，但读出来的数据竟然是乱码。为何？呵呵，其实是因为通过Ideas创建的文件是以utf-8编码的。要得到一个JVM默认编码的文件，通过手工创建一个txt文件试试吧。

2. 字符串和字节数组的相互转换

我们通常通过以下代码把字符串转换成字节数组：

"string".getBytes();

但你是否注意过这个转换采用的编码呢？其实上面这句代码跟下面这句是等价的：

"string".getBytes(Charset.defaultCharset());

也就是说它根据JVM的默认编码（而不是你可能以为的unicode）把字符串转换成一个字节数组。

反之，如何从字节数组创建一个字符串呢？

new String("string".getBytes());

同样，这个方法使用平台的默认字符集解码字节的指定数组（这里的解码指从一种字符集到unicode）。

字符串编码迷思：

new String(input.getBytes("ISO-8859-1"), "GB18030");

上面这段代码代表什么？有人会说： “把input字符串从ISO-8859-1编码方式转换成GB18030编码方式”。如果这种说法正确，那么又如何解释我们刚提到的java字符串都采用unicode编码呢？

这种说法不仅是欠妥的，而且是大错特错的，让我们一一来分析，其实事实是这样的：我们本应该用GB18030的编码来读取数据并解码成字符串，但结果却采用了ISO-8859-1的编码，导致生成一个错误的字符串。要恢复，就要先把字符串恢复成原始字节数组，然后通过正确的编码GB18030再次解码成字符串（即把以GB18030编码的数据转成unicode的字符串）。注意，字符串永远都是unicode编码的。

但编码转换并不是负负得正那么简单，这里我们之所以可以正确地转换回来，是因为 ISO8859-1 是单字节编码，所以每个字节被按照原样转换为 String ，也就是说，虽然这是一个错误的转换，但编码没有改变，所以我们仍然有机会把编码转换回来！

总结：

所以，我们在处理java的编码问题时，要分清楚三个概念：Java采用的编码：unicode，JVM平台默认字符集和外部资源的编码

呃~~~~~~
我是希望有人能帮我指出java内部处理字符编码的类，或者查看java源码的方法，因为我回溯查看那些方法时，遇到了接口就不知道怎么进行下去了……
谢谢

问题补充：

liuqing_2010_07 写道

呵呵没事 housen1987兄弟你一天答题够努力的！加油！

字符编码

2012年1月09日 21:07

君心可晴
3
0 0 4

7个答案按时间排序按投票排序

0 0

引用

呵呵没事 housen1987兄弟你一天答题够努力的！加油！

惭愧啊，今天点了一天的火车票，这是我今天答的第一个问题，偷懒了。

2012年1月09日 22:22

housen1987
354
0 0 5

添加评论

0 0

呵呵没事 housen1987兄弟你一天答题够努力的！加油！

2012年1月09日 22:17

liuqing_2010_07
1023
0 0 5

添加评论

0 0

呵呵，转载！

2012年1月09日 22:13

housen1987
354
0 0 5

添加评论

0 0

你直接拷贝过来的！真行呀！

2012年1月09日 22:06

liuqing_2010_07
1023
0 0 5

添加评论

0 0

引用

正文
andyhu1007
等级:

性别:
文章: 67
积分: 780
来自: 北京

发表时间：2009-01-07 收藏
< > 猎头职位: 北京: ITeye网站诚聘产品交互设计相关文章:
理解并解决GBK转UTF-8奇数中文乱码
编码简介
深入分析 Java 中的中文编码问题(1)

推荐群组: JSF

2012年1月09日 22:05

liuqing_2010_07
1023
0 0 5

添加评论

0 0

assertEquals(160, Charset.availableCharsets().size());  
  
Set<String> charsetNames = Charset.availableCharsets().keySet();  
  
assertTrue(charsetNames.contains("utf-8"));  
assertTrue(charsetNames.contains("utf-16"));  
assertTrue(charsetNames.contains("gb2312"));  
  
assertTrue(Charset.isSupported("utf-8"));

需要在哪些时候注意编码问题？

1. 从外部资源读取数据：

这跟外部资源采取的编码方式有关，我们需要使用外部资源采用的字符集来读取外部数据：

InputStream is = new FileInputStream("res/input2.data");  
InputStreamReader streamReader = new InputStreamReader(is, "GB18030");

这里可以看到，我们采用了GB18030编码读取外部数据，通过查看streamReader的encoding可以印证：

assertEquals("GB18030", streamReader.getEncoding());

正是由于上面我们为外部资源指定了正确的编码，当它转成char数组时才能正确地进行解码（GB18030 -> unicode）

char[] chars = new char[is.available()];  
streamReader.read(chars, 0, is.available());

但我们经常写的代码就像下面这样：

InputStream is = new FileInputStream("res/input2.data");  
InputStreamReader streamReader = new InputStreamReader(is);

Charset.defaultCharset();

"string".getBytes();

但你是否注意过这个转换采用的编码呢？其实上面这句代码跟下面这句是等价的：

"string".getBytes(Charset.defaultCharset());

也就是说它根据JVM的默认编码（而不是你可能以为的unicode）把字符串转换成一个字节数组。

反之，如何从字节数组创建一个字符串呢？

new String("string".getBytes());

同样，这个方法使用平台的默认字符集解码字节的指定数组（这里的解码指从一种字符集到unicode）。

字符串编码迷思：

new String(input.getBytes("ISO-8859-1"), "GB18030");

2012年1月09日 22:02

housen1987
354
0 0 5

添加评论

0 0

http://wenku.baidu.com/view/533870ed102de2bd9605880b.html

先奉上一篇你看看。

2012年1月09日 21:27

liuqing_2010_07
1023
0 0 5

添加评论

已解决问题

未解决问题

排行榜

查看全部排名>>