`
shake863
  • 浏览: 661234 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

python 中文分词

阅读更多

JavaEye曾经报道过ruby的中文分词程序:rmmseg-cpp 这个项目。rmmseg-cpp实际上是用C++来编写的分词,只在最外层和ruby进行了粘合。

现在作者pluskid(张驰原)在rmmseg-cpp的基础上提供了Python的代码封装,可以用在Python项目当中进行中文分词,用法示例如下:

Python代码 复制代码
  1. from  pymmseg  import  mmseg  
  2.    
  3. mmseg.dict_load_defaults()  
  4. text = # ...   
  5. algor = mmseg.Algorithm(text)  
  6. for  tok  in  algor:  
  7.     print   '%s [%d..%d]'  % (tok.text, tok.start, tok.end)  
from pymmseg import mmseg
 
mmseg.dict_load_defaults()
text = # ...
algor = mmseg.Algorithm(text)
for tok in algor:
    print '%s [%d..%d]' % (tok.text, tok.start, tok.end)



该项目源代码在github上面:http://github.com/pluskid/pymmseg-cpp/

作者对于该项目的介绍请看:http://pluskid.lifegoo.com/?p=431

分享到:
评论

相关推荐

    Python中文分词_中文分词软件

    Python中文分词_中文分词软件,使用jieba字典

    python中文分词使用的中文文章

    jieba是一个广受欢迎的Python中文分词库,它提供了多种分词模式,包括精确模式、全模式和搜索引擎模式。精确模式力求将句子最精确地切开,适合文本分析;全模式尽可能多地切割出词语,适合用于搜索引擎;而搜索引擎...

    python中文分词

    Python中文分词是Python在处理中文文本时的关键技术,它涉及到自然语言处理(NLP)领域,主要用于将连续的汉字序列切分成具有语义的单个词汇,这在数据分析、机器学习、信息检索、文本挖掘等领域有着广泛的应用。...

    python中文分词:基于条件随机场模型的中文分词实现及改进全项目.zip

    标题中的“python中文分词:基于条件随机场模型的中文分词实现及改进全项目”表明,这是一个关于Python编程语言的项目,专注于中文文本的分词处理。分词是自然语言处理(NLP)中的基础步骤,它将连续的文本序列切...

    python中文分词,使用结巴分词对python进行分词(实例讲解)

    ### Python中文分词技术详解与结巴分词应用 #### 一、中文分词的重要性及应用场景 中文分词是自然语言处理(NLP)中的一个关键步骤,它是指将连续的中文字符序列切分成一个个单独的、具有语义的词汇的过程。在文本...

    Python-各大中文分词性能评测

    jieba(结巴分词) 免费使用 HanLP(汉语言处理包) 免费使用 SnowNLP(中文的类库) 免费使用 FoolNLTK(中文处理工具包) 免费使用 Jiagu(甲骨NLP) 免费使用 pyltp(哈工大语言云) 商用需要付费 THULAC...

    Python中文分词工具之结巴分词用法实例总结【经典案例】

    本文实例讲述了Python中文分词工具之结巴分词用法。分享给大家供大家参考,具体如下: 结巴分词工具的安装及基本用法,前面的文章《Python结巴中文分词工具使用过程中遇到的问题及解决方法》中已经有所描述。这里要...

    Python-jieba结巴中文分词做最好的Python中文分词组件

    **Python-jieba结巴中文分词:打造顶级的Python中文处理工具** jieba,一个在Python开发者中广受欢迎的库,被誉为“结巴”中文分词,是处理中文文本的强大武器。它专为了解决中文分词问题而设计,为Python提供了...

    python文本分词,去停用词,包含基础停用词词典

    分词就是将连续的汉字序列切分成有意义的词汇单元,例如将“我爱你”切分为“我”,“爱”,“你”。在这个过程中,可能会遇到歧义分词问题,需要利用词典和上下文信息来解决。Python中常见的分词工具包括jieba、...

    用Python做中文分词和绘制词云图

    "用Python做中文分词和绘制词云图"这个主题涉及到两个主要的知识点:一是使用jieba库进行中文分词,二是利用Python进行词云图的绘制。 首先,我们来详细探讨jieba分词。jieba是一个专门用于中文分词的Python库,它...

    pymmseg-cpp python中文分词

    pymmseg-cpp is a Python port of the rmmseg-cpp project. rmmseg-cpp is a MMSEG Chinese word segmenting algorithm implemented in C++ with a Python interface.

    Python中文分词实现方法(安装pymmseg)

    本文实例讲述了Python中文分词实现方法。分享给大家供大家参考,具体如下: 在Python这pymmseg-cpp 还是十分方便的! 环境 ubuntu10.04 , python2.65 步骤: 1 下载mmseg-cpp的源代码 ...

    Python-pkusegpython一个北大高准确度的中文分词工具包

    中文分词是将连续的汉字序列切分成具有独立语义的词语,是中文信息处理的基础。对于机器学习和自然语言理解来说,准确的分词结果能够提高模型的性能。PKUSEG工具包正是基于这一需求,通过深度学习和统计模型,显著...

    python调用中文分词.rar

    python调用分词,分词系统只可以用2.6版本,调用的是中文分词,可自己添加词典。演示时可选择计算机一级标注、二级标注、北大一级标注二级标注等选项,上边可输入中文,下边是分词后的效果,运行界面请参考截图区域...

    模拟搜索引擎关键词自动分词(python利用结巴分词关键词自动提取)

    结巴分词(Jieba)是Python中最受欢迎的中文分词库之一,它提供高效的分词算法,能够准确地对中文文本进行分词,支持多种分词模式,如精确模式、全模式和搜索引擎模式。 二、关键词自动提取原理 关键词提取的目标...

    python jieba 分词的一系列代码

    在Python编程语言中,jieba库是一个非常流行的中文分词工具,它提供了高效且易于使用的接口,使得开发者能够轻松地处理中文文本。本项目聚焦于使用jieba进行分词,并结合其他库如snownlp(用于情感分析)和...

    HMM实现中文分词python实现作业

    在自然语言处理(NLP)领域,中文分词是一项基础且关键的任务,它涉及到将连续的汉字序列分割成有意义的词汇单元。在这个“HMM实现中文分词python实现作业”中,我们关注的是如何利用隐马尔可夫模型(HMM)来解决这...

    中文分词程序Python版

    以下是对这个Python实现的中文分词程序及其相关知识点的详细说明。 首先,我们要理解正向最大匹配的基本原理。在FMM算法中,我们有一个预定义的词库,包含了各种可能的词汇。对于待分词的文本,算法从第一个字符...

    python基础编程:python中文分词教程之前向最大正向匹配算法详解

    下面这篇文章主要给大家介绍了关于python中文分词教程之前向最大正向匹配算法的相关资料,需要的朋友可以参考下。 前言 大家都知道,英文的分词由于单词间是以空格进行分隔的,所以分词要相对的容易些,而中文就不同...

Global site tag (gtag.js) - Google Analytics