【说话处理惩罚与Python】1.1文本和单词
添加时间:2013-5-14 点击量:
【媒介】
天然说话:日常交换应用的说话
NLP:Natural Language Processing
【第1章 说话处理惩罚与Python】
1.1说话策画:文本和单词
根蒂根基入门
-想要获得我们期望的小数除法,要输入 __future__ import division
-NLTK数据包
import nltk
nltk.download()
-加载要用的文本
nltk.book import
搜刮文本
-concordance词汇索引,会显示词汇所处的高低文
text1.concordance(monstrous)
-similar,查找还有哪些词会呈如今类似的高低文中
text1.similar(monstrous)
-common_contexts,容许我们研究两个或者两个以上的词共同的高低文
text2.common_contexts([monstrous,very])
-dispersion_plot,断定词汇在文本中的地位,应用离散图来默示地位。
text4.dispersion_plot([citizens,democracy,freedom,duties,America])
-不合风格生成文本
text3.generate()
计数词汇
-len(text3)呈现的词和标点符号的个数
-sorted(set(text3))所有文章呈现的词汇,并且进行排序(词类型,一个词在一个文本中独一无二呈现的情势或者拼写)
- __future__ import division
len(text3)/len(set(text3))
雄厚度测量,每个字均匀被应用的次数
-text3.count(smote)特定次呈现的次数
-100text4.count(a)/len(text4)特定的词在文本中占领的百分比
-定义函数,进行反复运算。
def lexical_diversity(text):
return len(text)/len(set(text))
def percentage(count,total):
return 100count/total
我们永远不要期待别人的拯救,只有自己才能升华自己。自己已准备好了多少容量,方能吸引对等的人与我们相遇,否则再美好的人出现、再动人的事情降临身边,我们也没有能量去理解与珍惜,终将擦肩而过。—— 姚谦《品味》
【媒介】
天然说话:日常交换应用的说话
NLP:Natural Language Processing
【第1章 说话处理惩罚与Python】
1.1说话策画:文本和单词
根蒂根基入门
-想要获得我们期望的小数除法,要输入 __future__ import division
-NLTK数据包
import nltk
nltk.download()
-加载要用的文本
nltk.book import
搜刮文本
-concordance词汇索引,会显示词汇所处的高低文
text1.concordance(monstrous)
-similar,查找还有哪些词会呈如今类似的高低文中
text1.similar(monstrous)
-common_contexts,容许我们研究两个或者两个以上的词共同的高低文
text2.common_contexts([monstrous,very])
-dispersion_plot,断定词汇在文本中的地位,应用离散图来默示地位。
text4.dispersion_plot([citizens,democracy,freedom,duties,America])
-不合风格生成文本
text3.generate()
计数词汇
-len(text3)呈现的词和标点符号的个数
-sorted(set(text3))所有文章呈现的词汇,并且进行排序(词类型,一个词在一个文本中独一无二呈现的情势或者拼写)
- __future__ import division
len(text3)/len(set(text3))
雄厚度测量,每个字均匀被应用的次数
-text3.count(smote)特定次呈现的次数
-100text4.count(a)/len(text4)特定的词在文本中占领的百分比
-定义函数,进行反复运算。
def lexical_diversity(text):
return len(text)/len(set(text))
def percentage(count,total):
return 100count/total