chongtianfeiyu 2020-04-10
1.1 Python第三方库 jieba(中文分词)
1. 特点
(1)支持三种分词模式:
(2)支持繁体分词
(2)支持自定义词典
(3)MIT 授权协议
2. 安装和使用说明
pip install jieba / pip3 install jieba
通过 import jieba 进行引用
3. 主要功能
这里主要涉及到的是分词功能,详述如下:
(1)jieba.cut 方法接受三个输入参数:
(2)jieba.cut_for_search 方法接受两个参数:
该方法适合用于搜索引擎构建倒排索引的分词,粒度比较细。
1. 待分词的字符串可以是 unicode 或 UTF-8 字符串、GBK 字符串。
2. 不建议直接输入 GBK 字符串,可能无法预料地错误解码成 UTF-8。
3. jieba.cut 以及 jieba.cut_for_search 返回的结构都是一个可迭代的 generator,可以使用 for 循环来获得分词后得到的每一个词语(unicode),或者用jieba.lcut 以及jieba.lcut_for_search 直接返回 list。
(3)jieba.Tokenizer(dictionary=DEFAULT_DICT) 新建自定义分词器,可用于同时使用不同词典。jieba.dt 为默认分词器,所有全局分词相关函数都是该分词器的映射。
4. 示例代码
(1)实现代码:
# coding=utf-8
import jieba
text = "轻轻地我走了正如我轻轻地来"
seg_list = jieba.cut(text, cut_all=False)
print("Default Mode: " + "/ ".join(seg_list)) # 精确模式
seg_list = jieba.cut(text, cut_all=True)
print("Full Mode: " + "/ ".join(seg_list)) # 全模式
seg_list = jieba.cut_for_search(text)
print("Search Mode: " + "/ ".join(seg_list)) # 搜索引擎模式(2)运行结果:

1.2 Python第三方库wordcloud(词云)
1. 安装和使用说明
pip install wordcloud / pip3 install wordcloud
通过 import wordcloud 进行引用
2. 主要功能
wordcloud把词云当作一个对象,它可以将文本中词语出现的频率作为一个参数绘制词云,而词云的大小、颜色、形状等都是可以设定的。
生成词云的步骤如下:
(1)配置对象参数
(2)加载词云文本
(3)输出词云文件 (如果不加说明默认的图片大小为400 * 200)
3. 常见的参数列表

2.1 生成《新冠病毒无症状感染者管理规范》的词云
(1)实现代码:
# coding=utf-8
import matplotlib.pyplot as plt
import jieba
from wordcloud import WordCloud
# 1.读入txt文本数据
with open("test.txt", ‘r‘) as f:
text=f.read()
# 2.分词
cut_text = " ".join(jieba.cut(text))
# 3.生成词云
wc = WordCloud(
font_path=r‘.\simhei.ttf‘,
background_color = ‘white‘,
width = 1000,
height = 880,
).generate(cut_text)
# 4.显示词云图片
plt.imshow(wc, interpolation="bilinear")
plt.axis(‘off‘)
plt.show()(2)运行结果:

2.2 生成《关于做好高校毕业生就业创业工作的通知》的词云
(1)实现代码:
# coding=utf-8
import PIL.Image as image
import numpy as np
import matplotlib.pyplot as plt
import jieba
from wordcloud import WordCloud, ImageColorGenerator
def GetWordCloud():
path_txt = "test.txt"
path_img = "test.jpg"
# 1.读入txt文本数据
with open(path_txt, ‘r‘) as f:
text=f.read()
background_image = np.array(image.open(path_img))
# 2.分词
cut_text = " ".join(jieba.cut(text))
# 3.生成词云
wc = WordCloud(
font_path=r‘.\simhei.ttf‘,
background_color = ‘white‘,
mask=background_image
).generate(cut_text)
# 生成颜色值
image_colors = ImageColorGenerator(background_image)
# 4.显示词云图片
plt.imshow(wc.recolor(color_func=image_colors), interpolation="bilinear")
plt.axis(‘off‘)
plt.show()
if __name__ == "__main__":
GetWordCloud()(2)运行结果:

Python第三方库jieba(中文分词)