まず、カウント特徴を抽出してTF-IDF正規化と行ごとのユークリッド正規化を適用する場合は、次のコマンドを使用して1つの操作で実行できますTfidfVectorizer
。
>>> from sklearn.feature_extraction.text import TfidfVectorizer
>>> from sklearn.datasets import fetch_20newsgroups
>>> twenty = fetch_20newsgroups()
>>> tfidf = TfidfVectorizer().fit_transform(twenty.data)
>>> tfidf
<11314x130088 sparse matrix of type '<type 'numpy.float64'>'
with 1787553 stored elements in Compressed Sparse Row format>
1つのドキュメント(データセットの最初のドキュメントなど)と他のすべてのドキュメントの余弦距離を見つけるには、tfidfベクトルが既に行正規化されているため、最初のベクトルと他のすべてのドキュメントの内積を計算する必要があります。
コメントおよびここでのクリスクラークによる説明のとおり、コサイン類似度はベクトルの大きさを考慮していません。行正規化の大きさは1であるため、類似性の値を計算するには線形カーネルで十分です。
scipy sparse matrix APIは少し奇妙です(密なN次元のnumpy配列ほど柔軟ではありません)。最初のベクトルを取得するには、行列を行ごとにスライスして、1行の部分行列を取得する必要があります。
>>> tfidf[0:1]
<1x130088 sparse matrix of type '<type 'numpy.float64'>'
with 89 stored elements in Compressed Sparse Row format>
scikit-learnはすでに、ベクトルコレクションの密な表現と疎な表現の両方で機能するペアワイズメトリック(別名、機械学習用語ではカーネル)を提供しています。この場合、線形カーネルとも呼ばれるドット積が必要です。
>>> from sklearn.metrics.pairwise import linear_kernel
>>> cosine_similarities = linear_kernel(tfidf[0:1], tfidf).flatten()
>>> cosine_similarities
array([ 1. , 0.04405952, 0.11016969, ..., 0.04433602,
0.04457106, 0.03293218])
したがって、上位5つの関連ドキュメントを見つけるにはargsort
、いくつかの負の配列スライシングを使用できます(ほとんどの関連ドキュメントは、コサイン類似度の値が最も高いため、ソートされたインデックス配列の最後にあります)。
>>> related_docs_indices = cosine_similarities.argsort()[:-5:-1]
>>> related_docs_indices
array([ 0, 958, 10576, 3277])
>>> cosine_similarities[related_docs_indices]
array([ 1. , 0.54967926, 0.32902194, 0.2825788 ])
最初の結果は健全性チェックです。クエリドキュメントは、コサイン類似度スコアが1の最も類似したドキュメントであり、次のテキストが含まれています。
>>> print twenty.data[0]
From: lerxst@wam.umd.edu (where's my thing)
Subject: WHAT car is this!?
Nntp-Posting-Host: rac3.wam.umd.edu
Organization: University of Maryland, College Park
Lines: 15
I was wondering if anyone out there could enlighten me on this car I saw
the other day. It was a 2-door sports car, looked to be from the late 60s/
early 70s. It was called a Bricklin. The doors were really small. In addition,
the front bumper was separate from the rest of the body. This is
all I know. If anyone can tellme a model name, engine specs, years
of production, where this car is made, history, or whatever info you
have on this funky looking car, please e-mail.
Thanks,
- IL
---- brought to you by your neighborhood Lerxst ----
2番目に類似した文書は、元のメッセージを引用する返信であるため、多くの一般的な単語があります。
>>> print twenty.data[958]
From: rseymour@reed.edu (Robert Seymour)
Subject: Re: WHAT car is this!?
Article-I.D.: reed.1993Apr21.032905.29286
Reply-To: rseymour@reed.edu
Organization: Reed College, Portland, OR
Lines: 26
In article <1993Apr20.174246.14375@wam.umd.edu> lerxst@wam.umd.edu (where's my
thing) writes:
>
> I was wondering if anyone out there could enlighten me on this car I saw
> the other day. It was a 2-door sports car, looked to be from the late 60s/
> early 70s. It was called a Bricklin. The doors were really small. In
addition,
> the front bumper was separate from the rest of the body. This is
> all I know. If anyone can tellme a model name, engine specs, years
> of production, where this car is made, history, or whatever info you
> have on this funky looking car, please e-mail.
Bricklins were manufactured in the 70s with engines from Ford. They are rather
odd looking with the encased front bumper. There aren't a lot of them around,
but Hemmings (Motor News) ususally has ten or so listed. Basically, they are a
performance Ford with new styling slapped on top.
> ---- brought to you by your neighborhood Lerxst ----
Rush fan?
--
Robert Seymour rseymour@reed.edu
Physics and Philosophy, Reed College (NeXTmail accepted)
Artificial Life Project Reed College
Reed Solar Energy Project (SolTrain) Portland, OR