分類: 為什么 常識詞典 編輯 : 常識 發布 : 07-21

閱讀 :387

文檔向量直接通過距離聚類和通過LSI降維后再聚類效果會有怎么樣的差異？在文獻檢索領域，LSI是經典的降維手段。但我有一個理論問題沒有解決，而且從實踐看貌似情況有點復雜。問題是“文檔向量直接通過距離聚類和通過LSI降維后再聚類效果會有怎么樣的差異？” 我的實踐效果是這樣的：當構成文檔向量空間維度的關鍵詞比較稀疏時，直接聚類和LSI降維聚類效果都不好；然后我們添加更多關鍵詞，而關鍵詞和關鍵詞的關聯相對豐富，這樣可以把隱含的話題（topic）揭示出來，這個時候LSI降維聚類效果會比直接聚類效果好；再然后，添加更多關鍵詞，反倒聚類效果都不好了。 有什么理論上的依據可以解釋我的實踐結果嗎？2 個答案

答案 1：

傳統的聚類方法比如k-means對于高維數據的效果是很差的。因為在高維度下距離的度量包含了大量隨機擾動的結果。用PCA(或者LSI)降維以后那些隨機擾動所在的分量都被濾掉了，所以聚類會有提高。總的來說引入很多沒有信息量又帶來噪聲的維度總是會讓聚類變差的。 另外統計工具經過發展之后已經能夠處理高維的聚類問題了，比如LDA或者人工神經網絡一類的方法。

答案 2：

同意勞兄的看法，鄙人一點淺顯的看法是在高維空間中任何兩點間的距離都是很遠的，那么即便聚類后作為特征仍然未必很好。而SVD類的工具要有效地多。

下一篇:HR 們如何看待應屆生曾獲的獎學金？ 下一篇 【方向鍵 ( → )下一篇】

上一篇:1900 年之前有用分數表述地震震級的方法嗎？如果有，是怎樣表述的？ 上一篇 【方向鍵 ( ← )上一篇】