推荐4个比较高效的语言处理Python库

katyusha 2018-07-12

TextGrocery

TextGrocery是一个基于LibLinear和结巴分词的短文本分类工具,特点是高效易用,同时支持中文和英文语料。是一个基于LibLinear和结巴分词的短文本分类工具,特点是高效易用,同时支持中文和英文语料。

推荐4个比较高效的语言处理Python库

NLTK

NLTK是构建Python程序以处理人类语言数据的领先平台。它提供了易于使用的界面,以及用于分类、标记化、词干化、标记、分析和语义推理的一套文本处理库。用于工业强度NLP库的包装器。

推荐4个比较高效的语言处理Python库

Jieba

“结巴”中文分词:做最好的 Python 中文分词组件。精确模式,试图将句子最精确地切开,适合文本分析;全模式,把句子中所有的可以成词的词语都扫描出来, 速度非常快,但是不能解决歧义;搜索引擎模式,在精确模式的基础上,对长词再次切分,提高召回率,适合用于搜索引擎分词。

推荐4个比较高效的语言处理Python库

SnowNLP

SnowNLP是一个python写的类库,可以方便的处理中文文本内容,是受到了TextBlob的启发而写的,由于现在大部分的自然语言处理库基本都是针对英文的,于是写了一个方便处理中文的类库,并且和TextBlob不同的是,这里没有用NLTK,所有的算法都是自己实现的,并且自带了一些训练好的字典。注意本程序都是处理的unicode编码,所以使用时请自行decode成unicode。

推荐4个比较高效的语言处理Python库

项目地址分别是:

·https://github.com/2shou/TextGrocery

·http://www.nltk.org/

·https://github.com/fxsjy/jieba

·https://github.com/isnowfy/snownlp

PS:建议在Firefox浏览器中打开

相关推荐