论坛首页 Java企业应用论坛

介绍一个中文分词.希望有需要的朋友使用

浏览 5554 次
精华帖 (1) :: 良好帖 (0) :: 新手帖 (0) :: 隐藏帖 (0)
作者 正文
   发表时间:2012-09-05   最后修改:2012-09-07
项目地址:https://github.com/ansjsun/ansj_seg

演示地址:http://www.ansj.org/

这是一个ictclas的java实现.基本上重写了所有的数据结构和算法.词典是用的开源版的ictclas所提供的.并且进行了部分的人工优化

内存中中文分词每秒钟大约100万字(速度上已经超越ictclas)

文件读取分词每秒钟大约30万字

准确率能达到96%以上

目前实现了.中文分词. 中文姓名识别 . 用户自定义词典

可以应用到自然语言处理等方面,适用于对分词效果要求搞的各种项目.

如果你第一次下载只想测试测试效果可以调用这个简易接口


 String str = "欢迎使用ansj_seg,(ansj中文分词)在这里如果你遇到什么问题都可以联系我.我一定尽我所能.帮助大家.ansj_seg更快,更准,更自由!" ;
 System.out.println(ToAnalysis.paser(str));



当然也可以走复杂的调用实例..我就不多废话了呵呵

这是一个简单的分词效果,你可以在test目录中找到他.当然.个别歧异性的处理无法代表整体分词.仅做参考

[脚下/f, 的/uj, 一大/j, 块/q, 方砖/n, 地面/n]
[长春/ns, 市长/n, 春节/t, 讲话/n]
[结婚/v, 的/uj, 和/c, 尚未/d, 结婚/v, 的/uj]
[结合/v, 成/v, 分子/n, 时/ng]
[旅游/vn, 和/c, 服务/vn, 是/v, 最/d, 好/a, 的/uj]
[邓颖/nr, 超生/v, 前/f, 最/d, 喜欢/v, 的/uj, 一个/m, 东西/n]
[中国/ns, 航天/n, 官员/n, 应邀/v, 到/v, 美国/ns, 与/p, 太空/s, 总署/n, 官员/n, 开会/v]
[上海/ns, 大学城/n, 书店/n]
[北京/ns, 大/a, 学生/n, 前来/v, 应聘/v]
[中外/j, 科学/n, 名著/n]
[为/p, 人民/n, 服务/vn]
[独立自主/i, 和/c, 平等互利/l, 的/uj, 原则/n]
[为/p, 人民/n, 办/v, 公益/n]
[这/r, 事/n, 的/uj, 确定/v, 不/d, 下来/v]
[费孝/nr, 通向/v, 人大常委会/nt, 提交/v, 书面/b, 报告/n]
[aaa/en, 分/q, 事实上/l, 发货/v, 丨/null, 和/c, 无/v, 哦/e, 喝/vg, 完/v, 酒/n]
[不好意思/a, 清清爽爽/z]
[长春市/ns, 春节/t, 讲话/n]
[中华人民共和国/ns, 万岁/n, 万岁/n, 万万岁/n]
[检察院/n, 鲍绍/nr, 检察长/n, 就是/d, 在/p, 世/ng, 诸葛/nr, ./m, 像/v, 诸葛亮/nr, 一样/u, 聪明/a]
[长春市/ns, 长春/ns, 药店/n]
[乒乓球拍/n, 卖/v, 完/v, 了/ul]
[计算机/n, 网络管理员/n, 用/p, 虚拟/v, 机/ng, 实现/v, 了/ul, 手机/n, 游戏/n, 下载/v, 和/c, 开源/v, 项目/n, 的/uj, 管理/vn, 金山/nz, 毒霸/nz]
[长春市/ns, 长春/ns, 药店/n]
[mysql/en, 不/d, 支持/v,  /null, 同台/v, 机器/n, 两个/m, mysql/en, 数据库/n, 之间/f, 做/v, 触发器/n]
[孙建/nr, 是/v, 一个/m, 好/a, 人/n, ./m, 他/r, 和/c, 蔡晴/nr, 是/v, 夫妻/n, 两/m,  /null, ,/null, 对于/p, 每/r, 一本/m, 好书/n, 他/r, 都/d, 原意/n, 一一/d, 读取/v, ../m, 他们/r, 都/d, 很/d, 喜欢/v, 元宵/n, ./m, 康燕/nr, 和/c, 他们/r, 住/v, 在/p, 一起/s, ./m, 我/r, 和/c, 马春亮/nr, ,/null, 韩鹏飞/nr, 都/d, 是/v, 好/a, 朋友/n, ,/null, 不/d, 知道/v, 什么/r, 原因/n]
[一年/m, 有/v, 三百六十五个/m, 日出/v,  /null, 我/r, 送/v, 你/r, 三百六十五个/m, 祝福/vn,  /null, 时钟/n, 每天/r, 转/v, 了/ul, 一千四百四十圈/m, 我/r, 的/uj, 心/n, 每天/r, 都/d, 藏/v, 着/uz,  /null, 一千四百四十多个/m, 思念/v,  /null, 每/r, 一天/m, 都/d, 要/v, 祝/v, 你/r, 快快乐乐/z,  /null,  /null, 每/r, 一分钟/m, 都/d, 盼望/v, 你/r, 平平安安/z,  /null, 吉祥/n, 的/uj, 光/n, 永远/d, 环绕/v, 着/uz, 你/r,  /null, 像/v, 那/r, 旭日东升/l, 灿烂/a, 无比/z,  /null]
[学校/n, 学费/n, 要/v, 一次性/d, 交/v, 一千元/m]
[发展/vn, 中国/ns, 家庭/n, 养猪/v, 事业/n]
[安徽省/ns, 是/v, 一个/m, 发展/vn, 中/f, 的/uj, 省/n]
[北京理工大学/nt, 办事处/n]
[审讯室/n, 里/f, 一直/d, 陪/v, 着/uz, 我们/r, 的/uj, 两个/m, 警察/n]
[一只/m, 胳膊/n, 两个/m, 警察/n]
[c/en, 语言/n, 怎么/r, 读写/v, ini/en, 文件/n]
[关卡/n, 编辑器/n]
[eclipse/en,  /null, 多/m, 项目/n, 依赖/v]
[苍/nr, 老师/n, 是/v, 一个/m, 好/a, 人/n]
[h/en, 欢/a, h/en, 迎/v, help/en, 使用/v]
[程序员/n, 祝/v, 海林/ns, 和/c, 朱会震/nr, 是/v, 在/p, 孙健/nrfg, 的/uj, 左面/f, 和/c, 右面/f, ./m, 范凯/nr, 在/p, 最/d, 右面/f, ./m, 再/d, 往/p, 左/f, 是/v, 李松/nrfg, 洪/nr]
   发表时间:2012-09-06  
大哥,把其它的词性也标注上吧,这才是优势呀
0 请登录后投票
   发表时间:2012-09-06  
尽快把词性标注和相应的简单使用文档加上,大家才会去用测试
0 请登录后投票
   发表时间:2012-09-06  
呵呵..实话实说..词性标注..做了效果不好..所以搁置一下..如果需要我会尽快补全的
0 请登录后投票
   发表时间:2012-09-06  
和国产 的另一个做比较嘛。IK的。
0 请登录后投票
   发表时间:2012-09-06  
不知道收录的词有多少, 收录的词倾向于那个行业范围?
测试的查找的平均一个时间?
0 请登录后投票
   发表时间:2012-09-06  
greatwqs 写道
不知道收录的词有多少, 收录的词倾向于那个行业范围?
测试的查找的平均一个时间?



收录词20万左右..默认的倾向于新闻分词..支持用户自定义词典.那个你自己负责了

平均美妙100w个字吧..如果从文件读取能达到30w
0 请登录后投票
   发表时间:2012-09-06  
yuhe 写道
和国产 的另一个做比较嘛。IK的。



没有可比性...这个是和ict比的...ik适合于工业对分词要求不高的,
0 请登录后投票
   发表时间:2012-09-06  
androidssh 写道
尽快把词性标注和相应的简单使用文档加上,大家才会去用测试


兄弟词性加上了..不过发布的jar包离没有..调用例子我回头补充到git 的wiki中
0 请登录后投票
   发表时间:2012-09-11  
ansjsun 写道
androidssh 写道
尽快把词性标注和相应的简单使用文档加上,大家才会去用测试


兄弟词性加上了..不过发布的jar包离没有..调用例子我回头补充到git 的wiki中


词性都是null呀
0 请登录后投票
论坛首页 Java企业应用版

跳转论坛:
Global site tag (gtag.js) - Google Analytics