`
wenshao
  • 浏览: 271682 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
文章分类
社区版块
存档分类
最新评论

吹牛:我写的JSONParser可能是这个星球上最快了(Java)

阅读更多
我拥有多年手写Parser的经验,在以前,编写过多个Parser,有SQL的Parser,也有JavaScript的Parser,也有Java的Parser。

在最近的项目中,也需要使用JSON,其中client部分不希望存在依赖,所以就写了一个JSON     Parser。最初是直接使用SimpleJSON的,因为其代码少,接口简洁。一个同事说,SimpleJSON存在性能问题,噢,我想,那算了,我自己写一个吧,JSON语法这么简单,对于有“多年行医经验”(来自典故《日本兵与老中医》)的我,自然不是困难的事情,也就是一个晚上就写完了,应用于项目中,测试结果,网络协议的性能提升了两倍,从原来的80,000 TPS提升到了240,000 TPS。顺带说一个花絮,周六晚上加班写完的,直接就应用到项目中了,虽然有TestCase,但还是有一个地方没注意好,出现了一个Bug,星期一还影响了测试工作,早会的时候被同事血泪控诉。

我跟朋友炫耀了一下,朋友说,为啥不用jackson,jackson速度很快。好吧,我就和jackson做了一个性能比较,在大多数场景都是比jackson性能好很多,但是在某一个场景,竟然比jackson稍慢。我不服气啊,因为一看就觉得jackson的Parser写得不够专业,没理由比我这种多年经验的老鸟快的。跟踪其实现代码找到了其优化的办法,觉得那是取巧,不屑于使用。于是优化一下我写的Parser,优化的结果自然是全面超越它。好吧,废话少说,直接上结果。

场景1:
[{"S":321061,"T":"GetAttributeResp"},{"ERROR":null,"TS":0,"VAL":{"SqlList":[{"BatchSizeMax":0,"BatchSizeTotal":0,"ConcurrentMax":1,"DataSource":"jdbc:wrap-jdbc:filters=default,encoding:name=ds-offer:jdbc:mysql://100.10.10.10:8066/xxxx","EffectedRowCount":0,"ErrorCount":0,"ExecuteCount":5,"FetchRowCount":5,"File":null,"ID":2001,"LastError":null,"LastTime":1292742908178,"MaxTimespan":16,"MaxTimespanOccurTime":1292742668191,"Name":null,"RunningCount":0,"SQL":"SELECT @@SQL_MODE","TotalTime":83}]}}] 

fast-json : 8,608,334 (我写的parser)
jackson : 17,172,500
simple-json : 36,258,008


场景2:
{"S":321061,"T":"GetAttributeResp"}

fast-json : 1,028,024
jackson : 6,673,850
simple-json : 20,294,257

场景3:
引用
{"name":null,"flag":true}

fast-json : 842,032
jackson : 7,284,100
simple-json : 20,553,188

场景4:
[-5.041598256063065E-20,-7210028408342716000]

fast-json : 1,338,822
jackson : 10,000,239
simple-json : 20,202,679

场景5:
-6470204979932713723

fast-json : 389,004
jackson : 5,405,129
simple-json : 20,418,252

以上的结果都是执行一千次的时间总和,单位是nano。连续执行测试50次,取最后一次的结果,让JVM能够充分优化。JVM的参数是-server。

结论,越简单的对象,偶写的parser(fast-json)性能越好。如场景3,都快差不多100倍了。

好了,吹牛结束啦,有什么后续动作呢?有同事建议开源,嗯,这个建议挺好的,我喜欢用开源的东西,也希望对开源有所贡献,我整理好代码之后,就会开源出来。

注明,我写的Parser是能通过JSON官方的兼容性测试的,不是缺乏功能的残废!

----------------------------------------------

svn已经能够外网访问:
http://119.38.217.15/svn/fastjson/trunk/
(注意,IP地址在2011-1-10修改过)

域名申请的事情还在进行中,还有很多事情要做。最终这是一个类似taobao code(淘蝌蚪)的开源平台,我们的名字叫做Open Sesame。

分享到:
评论
55 楼 xiaojing3517 2010-12-22  
GRDJE 写道
wenshao 写道
GRDJE 写道
弄点那民工货, 瞧那得意样......

吹牛好玩嘛,何必那么认真呢,而且我也不是凭空吹牛的,看不惯别看好了

不是说吹不吹牛, 就那两行代码, 有啥好开心的, 自娱自乐罢了..啥都不是....

人家民工不民工我不知道。但是人家肯把东西分享出来。

反观你这号的。哼哼。
人品可见一斑、素质可见一斑。估计长相也是惨不忍睹。。。
54 楼 明天的昨天 2010-12-22  
又见温少。上次看了你的并发教程就觉得很不错。这次怎么搞了个“无码”的。
53 楼 wenshao 2010-12-22  
javacoreSZ 写道
写这类东西最难的还是对生成代码的优化,鲸书就干这事。。。

顺便给各位宣传一个编译器帝,88年的小孩。

http://www.cppblog.com/vczh/


生成的优化的确是最难,当时这玩意一直都是停留在能用的水平,人工智能要比上真人大脑针对性的优化还是不容易的。
52 楼 javacoreSZ 2010-12-22  
写这类东西最难的还是对生成代码的优化,鲸书就干这事。。。

顺便给各位宣传一个编译器帝,88年的小孩。

http://www.cppblog.com/vczh/
51 楼 jinrey 2010-12-22  
放出来次次,我们都来测试测试看...
50 楼 8210 2010-12-22  
wenshao 写道
sdh5724 写道
毛人温少, 你不吹牛要死人啊。 等我下去看看代码, 要是被我发现有改进的余地, 我要让你这儿跪上三天三夜, 向人民谢罪~


就在/ali_platform/incubator/fast-json/trunk下,尽管看!!!



/ali_platform/incubator/fast-json/trunk这是相对地址啊,如何访问啊
49 楼 zhudp.cn 2010-12-22  
期待LZ的code
48 楼 joknm 2010-12-22  
JE精典又出现了,吹牛都可以吹出精华贴,哈哈。
47 楼 GRDJE 2010-12-22  
callofseen 写道
GRDJE 写道
wenshao 写道
GRDJE 写道
弄点那民工货, 瞧那得意样......

吹牛好玩嘛,何必那么认真呢,而且我也不是凭空吹牛的,看不惯别看好了

不是说吹不吹牛, 就那两行代码, 有啥好开心的, 自娱自乐罢了..啥都不是....



这个GRDJE 估计是重庆HP的 专干外包活 

这都被你看出来啦, 你当你FBI啊.....
46 楼 callofseen 2010-12-22  
GRDJE 写道
wenshao 写道
GRDJE 写道
弄点那民工货, 瞧那得意样......

吹牛好玩嘛,何必那么认真呢,而且我也不是凭空吹牛的,看不惯别看好了

不是说吹不吹牛, 就那两行代码, 有啥好开心的, 自娱自乐罢了..啥都不是....



这个GRDJE 估计是重庆HP的 专干外包活 
45 楼 GRDJE 2010-12-22  
wenshao 写道
GRDJE 写道
弄点那民工货, 瞧那得意样......

吹牛好玩嘛,何必那么认真呢,而且我也不是凭空吹牛的,看不惯别看好了

不是说吹不吹牛, 就那两行代码, 有啥好开心的, 自娱自乐罢了..啥都不是....
44 楼 GRDJE 2010-12-22  
willothe 写道
GRDJE 写道
弄点那民工货, 瞧那得意样......

看了你的回帖,动不动就“民工货”“没见过大公司的软件”。
送你一句话: 夫学贵得之心,求之于心而非也,虽其言之出于孔子,不敢以为是也,而况其未及孔于者乎?求之于心而是也,虽其言之出于庸常,不敢以为非也,而况其出于孔子者乎?
不错不错, 对我印象很深麻....
43 楼 willothe 2010-12-22  
GRDJE 写道
弄点那民工货, 瞧那得意样......

看了你的回帖,动不动就“民工货”“没见过大公司的软件”。
送你一句话: 夫学贵得之心,求之于心而非也,虽其言之出于孔子,不敢以为是也,而况其未及孔于者乎?求之于心而是也,虽其言之出于庸常,不敢以为非也,而况其出于孔子者乎?
42 楼 wenshao 2010-12-22  
GRDJE 写道
弄点那民工货, 瞧那得意样......

吹牛好玩嘛,何必那么认真呢,而且我也不是凭空吹牛的,看不惯别看好了
41 楼 wenshao 2010-12-22  
chris_zley 写道
楼主多讲讲写parser的经验嘛。。


手写parser并不是很困难的事情,熟悉之后,你也许会觉得很简单。有很多开源的代码可以借鉴,比如说OpenJDK中javac的源码。

一般的做法都是把词法和文法分开。词法的实现通常比较简单,很容易实现,不会写的话,从javac中抄一个也是可以的,一般词法分析的实现都叫Lexer或者Scanner。有了词法之后,就需要构建文法,文法的实现也是很简单的,类似Java、SQL文法解析,复杂一点点的就是运算符优先级的处理了,这也简单,搞过一次之后按照运算符优先级做某种递归的处理就OK了。文法分析的实现一般都叫做Parser。

总之,都是你一旦掌握之后就觉得很简单的事情。

手写的Parser一般都比工具生成的要快得多,比如antlr、javacc之类的生成的代码,效率都很低的,商用编译器的parser大多都是手写的。SimpleJSON应该是使用javacc生成的parser,性能不好,而且一旦出错,错误提示非常不好!!Jackson不是手写的Parser,但是感觉它写Parser还不是很专业的,但是其中用了一些技巧,专门针对某种场景优化的,对JSONObject中的key做了优化,如果输入文本中存在N个JSONObject,而且Key是一样的,他的性能会得到优化得到提升,我认为加入这个优化不值得,因为这种场景的优化,会导致其他场景的性能降低。我写的Parser,不需要对特别场景优化,对于Jackson优化过的场景,性能也是一样的,甚至略快一点点。
40 楼 hjg1988 2010-12-22  
之前研究过jackson,做过性能测试,序列化性能跟直接写死的StringBuffer拼接性能很接近,楼主的fast-json这么牛B,期待楼主开源,好让大伙使用。
39 楼 DOCDOC 2010-12-22  
小处最能现功力!
38 楼 linkobe 2010-12-22  
一看楼主就知道是个闷骚的人
37 楼 flyfan 2010-12-21  
期待楼主风骚发布源码
36 楼 wenshao 2010-12-21  
sdh5724 写道
毛人温少, 你不吹牛要死人啊。 等我下去看看代码, 要是被我发现有改进的余地, 我要让你这儿跪上三天三夜, 向人民谢罪~


就在/ali_platform/incubator/fast-json/trunk下,尽管看!!!

相关推荐

    elasticdump报错

    6: v8::internal::Handle<v8::internal::String> v8::internal::JsonParser<false>::SlowScanJsonString<v8::internal::SeqTwoByteString, unsigned short>(v8::internal::Handle<v8::internal::String>, int, int)...

    JSONParser所需jar包 json simple jar包

    JSONParser是Java编程语言中用于解析JSON(JavaScript Object Notation)数据的一种工具。JSON是一种轻量级的数据交换格式,它基于ECMAScript的一个子集,采用完全独立于语言的文本格式,易于人阅读和编写,同时也...

    JSONParser.java

    json解析的示例

    JsonParser_java:纯java写的JSON解析器-eclipse工程

    "JsonParser_java"项目就是一个基于纯Java实现的JSON解析器,适用于Eclipse开发环境。 这个项目的核心目标是提供一个轻量级的解决方案,让用户能够理解和控制JSON解析过程。在Java中,这通常涉及读取JSON字符串,将...

    Kotlin-JsonParser:Kotlin-JsonParser是用于JSON解析的Kotlin库。 它可以将JSON字符串解析为Kotlin Object或以一种简单的方式进行反向

    Kotlin-杰森·帕瑟(Kotlin-JsonParser) Kotlin-JsonParser是用于JSON解析的Kotlin库。 它可以将JSON字符串解析为Kotlin Object或以一种简单的方式反向。... implementation 'com.tomatobean:jsonparser:1.0.

    matlab开发-JSONParser

    对于`JSONParser`这个项目,`license.txt`可能指定了该代码的许可协议,例如MIT、Apache 2.0或者GPL等。这些协议规定了代码的使用、修改和分发的规则,确保了开源软件的合规使用。 在实际应用中,理解JSONParser的...

    开源项目-buger-jsonparser.zip

    在Go语言中,标准库`encoding/json`提供了JSON的解析和编码功能,但本项目buger/jsonparser作为替代方案,旨在提供更快的性能,这对于处理大量JSON数据的程序尤其重要。 JSON(JavaScript Object Notation)是一种...

    jsonparser.zip

    - JSON-P (JSR 353) 和 JSON-B (JSR 374):Java EE标准,提供了API进行JSON处理。 2. JSON解析的基本步骤: - 创建JSON对象或数组:根据JSON字符串,使用解析器创建相应的JSONObject或JSONArray对象。 - 读取...

    JSON转化工具类 JSONParser.zip

    JSON转化工具类 JSONParser ,iOS数据转化组件 (JSONParser),支持JSON字符串、模型、字典、模型数组、字典数组之间...

    Android代码-JsonParser

    JsonParser Json parsing tool can flexibly configure Import add to build.gradle,${latest.version} is dependencies { compile 'com.blakequ.parser:parser:${latest.version}' } maven ...

    JSONParser:在 Java 对象上使用 Gson (toJsonfromJson)

    JSON解析器在 Java 对象上使用 Gson (toJson / fromJson) 展示了 Gson 库的简单使用,将 Java 对象转换为 JSON 格式,反之亦然; 将 JSON 字符串转换为 Java 对象。

    JSONParser-master_websocket_源码.rar

    JSONParser-master_...这个压缩包可能包含了实现这些功能的源代码,具体细节需要解压后查看代码来深入理解。如果你需要开发基于WebSocket的实时应用,并且涉及到JSON数据的交换,这个源码将是一个很好的学习资源。

    java程序B站json字幕转srt

    9. **面向对象编程**:这个程序很可能采用了面向对象的设计模式,将不同的功能封装到不同的类中,如`JsonParser`用于解析JSON,`SrtGenerator`用于生成SRT,这样可以使代码更清晰、可维护性更强。 10. **软件工程...

    JSONParser-master_websocket_源码.zip

    结合JSONParser和WebSocket,这个项目可能提供了一个解决方案,用于通过WebSocket实时传输和解析JSON数据。例如,服务器可以发送JSON格式的消息,客户端接收到消息后,使用JSONParser解析成对象,然后进行相应的业务...

    JSONParser:JSON解析器

    - `JSONParser` 类:虽然名为`JSONParser`,但这个库实际上并没有提供一个单独的解析器类。解析JSON通常通过`JSONObject`或`JSONArray`的构造函数完成,它们可以接受一个字符串参数并自动解析。 2. **...

    jsonParser

    这个库可能是一个开源项目,用于帮助开发者高效地解析和生成JSON格式的数据。 JSON格式本身具有易读性,它由键值对组成,键用引号括起来,值可以是字符串、数字、布尔值、数组、对象或者null。在C++中,解析JSON...

    JsonParser.java

    利用java反射机制实现的json与java对象互相转化的工具,只暴露了两个空开的接口,其他接口都是私有的。

    PyPI 官网下载 | jsonparser-1.0.tar.gz

    Python的内置`json`模块提供了基本的JSON编码和解码功能,但`jsonparser`可能提供额外的特性或优化,例如更快的解析速度、更丰富的错误处理机制或者支持特定的JSON扩展。 **安装与使用** 要安装`jsonparser`,首先...

Global site tag (gtag.js) - Google Analytics