sklearn:TFIDF转换器:如何获取文档中给定单词的tf-idf值

sklearn:TFIDF转换器:如何获取文档中给定单词的tf-idf值,第1张

sklearn:TFIDF转换器:如何获取文档中给定单词的tf-idf值

您可以从sklean使用TfidfVectorizer

from sklearn.feature_extraction.text import TfidfVectorizerimport numpy as npfrom scipy.sparse.csr import csr_matrix #need this if you want to save tfidf_matrixtf = TfidfVectorizer(input='filename', analyzer='word', ngram_range=(1,6),          min_df = 0, stop_words = 'english', sublinear_tf=True)tfidf_matrix =  tf.fit_transform(corpus)

上面的tfidf_matix具有语料库中所有文档的TF-IDF值。这是一个很大的稀疏矩阵。现在,

feature_names = tf.get_feature_names()

这将为您提供所有标记,n-gram或单词的列表。对于语料库中的第一个文档,

doc = 0feature_index = tfidf_matrix[doc,:].nonzero()[1]tfidf_scores = zip(feature_index, [tfidf_matrix[doc, x] for x in feature_index])

让我们打印出来

for w, s in [(feature_names[i], s) for (i, s) in tfidf_scores]:  print w, s


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5653340.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-16
下一篇 2022-12-16

发表评论

登录后才能评论

评论列表(0条)

保存