- 浏览: 55586 次
- 性别:
- 来自: 杭州
最新评论
/** version: 1.1 / 2007-01-25 - changed BOM recognition ordering (longer boms first) Original pseudocode : Thomas Weidenfeller Implementation tweaked: Aki Nieminen http://www.unicode.org/unicode/faq/utf_bom.html BOMs in byte length ordering: 00 00 FE FF = UTF-32, big-endian FF FE 00 00 = UTF-32, little-endian EF BB BF = UTF-8, FE FF = UTF-16, big-endian FF FE = UTF-16, little-endian Win2k Notepad: Unicode format = UTF-16LE ***/ public class UnicodeInputStream extends InputStream { public static void main(String[] args) throws Exception { UnicodeInputStream ui = new UnicodeInputStream(new FileInputStream("data.txt"), "UTF-8"); CharBuffer cb = CharBuffer.allocate(10); String encoding = ui.getEncoding(); System.out.println(encoding); InputStreamReader reader = new InputStreamReader(ui, encoding); int len = 0; while((len = reader.read(cb)) != -1) { cb.flip(); System.out.print("===" + cb + "==="); cb.clear(); } reader.close(); } private PushbackInputStream internalIn; private boolean isInited = false; private String defaultEnc; private String encoding; private static final int BOM_SIZE = 4; public UnicodeInputStream(InputStream in, String defaultEncoding) { internalIn = new PushbackInputStream(in, BOM_SIZE); defaultEnc = defaultEncoding; } void init() throws IOException { if (isInited) return; byte[] bom = new byte[BOM_SIZE]; int n = internalIn.read(bom, 0, bom.length); int skip; if ((bom[0] == (byte)0x00) && (bom[1] == (byte)0x00) && (bom[2] == (byte)0xFE) && (bom[3] == (byte)0xFF)) { skip = 4; encoding = "UTF-32BE"; } else if ((bom[0] == (byte)0xFF) && (bom[1] == (byte)0xFE) && (bom[2] == (byte)0x00) && (bom[3] == (byte)0x00)) { skip = 4; encoding = "UTF-32LE"; } else if ((bom[0] == (byte)0xEF) && (bom[1] == (byte)0xBB) && (bom[2] == (byte)0xBF)) { skip = 3; encoding = "UTF-8"; } else if ((bom[0] == (byte)0xFE) && (bom[1] == (byte)0xFF)) { skip = 2; encoding = "UTF-16BE"; } else if ((bom[0] == (byte)0xFF) && (bom[1] == (byte)0xFE)) { skip = 2; encoding = "UTF-16LE"; } else { skip = 0; encoding = defaultEnc; } if(n != -1) internalIn.unread(bom, skip, n - skip); isInited = true; } public String getEncoding() { try { init(); } catch (IOException e) { throw new IllegalStateException(e); } return encoding; } public String getDefaultEncoding() { return defaultEnc; } @Override public int read() throws IOException { return internalIn.read(); } @Override public void close() throws IOException { internalIn.close(); } }
public class UnicodeReader extends Reader { public static void main(String[] args) throws Exception { UnicodeReader reader = new UnicodeReader(new FileInputStream("data.txt"), "UTF-8"); // CharBuffer cb = CharBuffer.allocate(10); // System.out.println(reader.getEncoding()); // int len = 0; // while ((len = reader.read(cb)) != -1) // { // cb.flip(); // System.out.print("===" + cb + "==="); // cb.clear(); // } // reader.close(); BufferedReader br = new BufferedReader(reader); String line; while((line = br.readLine()) != null) System.out.println(line); br.close(); } private static final int BOM_SIZE = 4; private PushbackInputStream internalIn; private InputStreamReader reader; private String encoding; private String defaultEnc; private boolean isInited = false; public UnicodeReader(InputStream in, String defaultEncoding) { defaultEnc = defaultEncoding; internalIn = new PushbackInputStream(in, BOM_SIZE); try { init(); reader = new InputStreamReader(internalIn, encoding); } catch (IOException e) { try { internalIn.close(); } catch (IOException e1) { e1.printStackTrace(); } throw new ExceptionInInitializerError("initialization failed"); } } public String getEncoding() { return encoding; } protected void init() throws IOException { if (isInited) return; byte[] bom = new byte[BOM_SIZE]; int n = internalIn.read(bom, 0, bom.length), skip; if ((bom[0] == (byte) 0x00) && (bom[1] == (byte) 0x00) && (bom[2] == (byte) 0xFE) && (bom[3] == (byte) 0xFF)) { skip = 4; encoding = "UTF-32BE"; } else if ((bom[0] == (byte) 0xFF) && (bom[1] == (byte) 0xFE) && (bom[2] == (byte) 0x00) && (bom[3] == (byte) 0x00)) { skip = 4; encoding = "UTF-32LE"; } else if ((bom[0] == (byte) 0xEF) && (bom[1] == (byte) 0xBB) && (bom[2] == (byte) 0xBF)) { skip = 3; encoding = "UTF-8"; } else if ((bom[0] == (byte) 0xFE) && (bom[1] == (byte) 0xFF)) { skip = 2; encoding = "UTF-16BE"; } else if ((bom[0] == (byte) 0xFF) && (bom[1] == (byte) 0xFE)) { skip = 2; encoding = "UTF-16LE"; } else { skip = 0; encoding = defaultEnc; } if (n != -1) internalIn.unread(bom, skip, n - skip); isInited = true; } @Override public void close() throws IOException { reader.close(); } @Override public int read(char[] cbuf, int off, int len) throws IOException { return reader.read(cbuf, off, len); } }
参考
http://koti.mbnet.fi/akini/java/unicodereader/
发表评论
-
redis安装(windows.exe)
2014-05-21 22:54 738https://github.com/rgl/redis ... -
rabbitMQ安装(windows下)
2014-05-21 22:41 653进入项目下载主页面http://www.rabbitmq.co ... -
实现单线程的断点下载
2014-04-16 09:43 843/** * 实现单线程的断点下载 */ publ ... -
实现一个简易的http模拟器
2014-04-15 15:20 1798/** * http模拟器 * 模拟发送http请求和 ... -
xml学习鉴定
2014-04-09 23:33 841实现招生录取系统中的 ... -
xml学习
2014-04-08 22:47 1472XML:Extensible Markup Langu ... -
HTTP断点续传
2014-03-31 22:13 793http://fenglingcorp.iteye.com/b ... -
java多线程-线程状态转换
2014-03-01 09:20 7961. 新建(new):新创建了一个线程对象。 2. 可 ... -
apt处理自定义annotation
2014-02-19 23:20 1022package annotations; import ... -
java reference
2014-02-09 00:36 676import java.lang.ref.PhantomR ... -
不带头结点的单链表面试汇总
2014-01-24 13:47 1496import java.io.ByteArrayInputSt ... -
带头节点的单链表面试题汇总
2014-01-23 15:12 1029import java.io.ByteArrayInput ... -
单链表面试题之-链表反转
2014-01-15 22:43 1101单链表反转 -------------------- ... -
java单链表-带头结点和不带头结点单链表的简单实现
2014-01-14 23:41 4931带头结点的单链表实现 public class LinkedL ... -
ClassLoader
2013-11-08 15:57 908public class ClassLoaderTest { ... -
URL和URI
2013-11-08 13:48 513private static void getData ... -
i++和++i
2013-11-06 15:26 524// i = i++ 计算过程 // temp = i; ... -
java 继承 多态
2013-11-06 15:19 802/** 运行结果: A's constructor co ... -
sealing violation
2013-11-03 16:10 3140一般以下两种情况会触发sealing安全异常 1)当被密封(s ... -
hashmap分析
2013-10-30 15:20 693/** hashmap底层维护着一个entry数组,每 ...
相关推荐
总之,Java处理UTF-8的BOM问题主要是通过自定义读取器或者使用第三方库,如Apache Commons IO的`TidyCharsets`类,来检测并跳过BOM字节。这样可以确保程序正确地解析和处理带有BOM的UTF-8文本文件,避免出现乱码或者...
1.首先介绍一下本人应用场景,qt...3.此小工具主要针对utf-8编码文件,能够批量添加删除BOM,无识别转化ASIIC功能,添加BOM时,如果文件是utf-8(BOM),则跳过,删除亦然 4.当不选中添加删除时可用于文件数量统计。
这个场景中,我们面临的挑战是如何正确处理UTF-8带有BOM(Byte Order Mark)的文件,因为BOM可能会导致文件内容显示为问号或者其他乱码。下面将详细介绍如何解决这个问题。 首先,我们需要理解什么是UTF-8的BOM。...
如何解决BOM:先放在服务器可执行目录下,使用 浏览器http://服务器ip/存放路径/bom.php来 访问,填写实际路径执行后可得到存在有BOM的PHP文件,然后再用notepad++打开,在菜单选“格式”->“转为UTF-8无BOM..”即可. ...
函数接受一个文件路径作为参数,然后打开文件,跳过可能存在的BOM(UTF-8的BOM是三个字节:0xEF, 0xBB, 0xBF),逐行读取内容并使用`AfxMessageBox`显示。注意,由于`AfxMessageBox`处理的是宽字符字符串,所以在...
在处理文本数据时,尤其是从不同的系统或编辑器导出的文本文件,我们可能会遇到一个问题,那就是文件可能包含UTF-8编码的字节顺序标记(Byte Order Mark,简称BOM)。BOM通常用于UTF-16和UTF-32编码的文件中来标识...
这个程序会遍历指定目录及其子目录中的所有文件,如果文件以UTF-8 BOM开头,它将读取文件的前三个字节(即BOM),然后跳过它们并写入剩余的数据。这样,BOM就被有效地移除了。 需要注意的是,这个方法只适用于文件...
BOM是Unicode编码格式中的一个特殊字符,用于标识文件的编码类型,常见于UTF-8、UTF-16和UTF-32等格式。在某些情况下,如读取或合并多个文本文件时,BOM头可能会导致不必要的困扰,例如乱码或解析错误。本文将详细...
在UTF-8编码中,BOM是一个特殊的字节序列`FF FE`,用以表明该文件是UTF-8编码。然而,在某些情况下,BOM头可能会导致乱码问题,尤其是当程序不期望或无法正确处理这个额外字节序列时。本文将详细介绍如何使用C#语言...
`check_utf8bom` 方法用来检测文件是否存在 UTF-8 BOM。它读取文件的前三个字节,与 BOM 的字节序列 `0xEF 0xBB 0xBF` 进行比较。如果匹配,则返回 `true`,否则返回 `false`。 `clear_utf8bom` 方法则负责清除文件...
`check_utf8bom()` 方法检查文件的前三个字节是否为 UTF-8 BOM 的字节序列(0xEF 0xBB 0xBF),如果是则返回 true。 `clear_utf8bom()` 方法负责清除文件的 BOM。通常,这个操作会打开文件,读取前三个字节,然后跳...
此外,这个函数只适用于UTF-8编码的文件,对于其他编码格式的BOM,可能需要使用不同的方法。 这个函数类的使用非常简单,只需要实例化`BOMRemover`对象,然后调用`removeBOM`方法即可: ```php $bomRemover = new ...
utfbom软件包utfbom实现了BOM(Unicode字节顺序标记)的检测并根据需要删除。... byte(” hello“))} func trySkip(byteData [] byte){fmt.Println(” Input:“,byteData)//仅跳过BOM outpu
在Windows系统中,需要注意文件的编码问题,特别是使用文本编辑器时,应避免使用Windows自带的记事本,因为它在保存UTF-8编码的文件时会添加BOM头,可能导致各种问题。推荐使用Notepad++这样的第三方编辑器,并设置...
BOM是某些编码(如UTF-16和UTF-8)在文件开头放置的一个特殊标记,用于表明其编码类型。而统计字符频率和比较编码表则是通过分析文件中的字符出现的频率,与已知编码的字符频率分布进行对比,以判断最可能的编码类型...
可能你会先尝试从编码入手尝试解决,但最终的...在Windows下用记事本之类的程序将文本文件保存为UTF-8格式时,记事本会在文件头前面加上几个不可见的字符(EF BB BF),就是所谓的BOM(Byte order Mark)。 不仅限于
这个字符被称为Unicode的Byte Order Mark (BOM),它被用作UTF-8、UTF-16等编码方式的标识符,用来指示文件的字节顺序。在某些情况下,BOM并不会被正确处理,导致程序行为异常,例如在上述描述中的字符串比较问题。 ...
文章中还提到,对于文件的检查与转码,可以检查UTF-8的BOM(Byte Order Mark,字节顺序标记)信息,这是UTF-8编码文件的一个特性,用于标识该文件是使用UTF-8编码。TP工具箱的编码转换功能就是一个实际应用的例证,...
常见的UTF-8编码的文件可能会在开头包含0xEF,0xBB,0xBF这三个字节,这就是UTF-8编码文件的BOM。 2. PHP文件中BOM的影响:在PHP文件中,如果存在BOM,特别是当服务器不正确处理BOM时,可能会导致语法解析错误,出现...
但是,如果遇到BOM头(UTF-8 Byte Order Mark),可能需要先跳过: ```php if (substr($content, 0, 3) === "\xEF\xBB\xBF") { $content = substr($content, 3); } ``` 4. **分页显示**: 为了实现分页,我们...