Pandas中怎么使用TF-IDF提取文本特征

在Pandas中使用TF-IDF提取文本特征可以通过以下步骤实现:

导入所需的库:

from sklearn.feature_extraction.text import TfidfVectorizer
import pandas as pd

创建一个包含文本数据的DataFrame:

data = {'text': ['This is a sample text for TF-IDF example', 
                 'TF-IDF is a technique used in text mining', 
                 'It calculates the importance of each word in a document']}
df = pd.DataFrame(data)

初始化TfidfVectorizer对象,并将文本数据转换为TF-IDF特征向量:

tfidf = TfidfVectorizer()
tfidf_matrix = tfidf.fit_transform(df['text'])

将TF-IDF特征向量转换为DataFrame:

tfidf_df = pd.DataFrame(tfidf_matrix.toarray(), columns=tfidf.get_feature_names_out())

现在,tfidf_df中包含了每个文档中每个单词的TF-IDF值作为特征。您可以将这些特征用于机器学习模型中进行文本分类、聚类等任务。

阅读剩余
THE END