中文分詞是中文搜索引擎特有的步驟。搜索引擎存儲和處理頁(yè)面,以及用戶(hù)搜索都是以詞為基礎。英文等語(yǔ)言單詞與單詞之間有空格分隔,搜索引擎索引程序可以直接把句子劃分為單詞的集合。而中文詞與詞之間沒(méi)有任何分隔符,一個(gè)句子中的所有字和詞都是連在一起的。
中文分詞是中文搜索引擎特有的步驟。搜索引擎存儲和處理頁(yè)面,以及用戶(hù)搜索都是以詞為基礎。英文等語(yǔ)言單詞與單詞之間有空格分隔,搜索引擎索引程序可以直接把句子劃分為單詞的集合。而中文詞與詞之間沒(méi)有任何分隔符,一個(gè)句子中的所有字和詞都是連在一起的。搜索引擎必須首先分辨哪幾個(gè)字組成一個(gè)詞,哪些字本身就是一個(gè)詞。比如“醫院營(yíng)銷(xiāo)”將被分詞為“醫院”和“營(yíng)銷(xiāo)”兩個(gè)詞。
中文分詞方法基本上有兩種,一是基于詞典匹配,另一個(gè)是基于統計;谠~典匹配的方法是指,將待分析的一段漢字與一個(gè)事先造好的詞典中的詞條進(jìn)行匹配,在待分析漢字串中掃描到詞典中己有的詞條則匹配成功,或者說(shuō)切分出一個(gè)單詞。按照掃描方向,基于詞典的匹配法可以分為正向匹配和逆向匹配。按照匹配長(cháng)度優(yōu)先級的不同,又可以分為最大匹配和最小匹配。將掃描方向和長(cháng)度優(yōu)先混合,又可以產(chǎn)生正向最大匹配、逆向最大匹配等不同方法。詞典匹配方法計算簡(jiǎn)單,其準確度很大程度上取決于詞典的完整性和更新情況。
基于統計的分詞方法指的是分析大量文字樣本,計算出字與字相鄰出現的統計概率,幾個(gè)字相鄰出現越多,就越可能形成一個(gè)單詞;诮y計的方法優(yōu)勢是對新出現的詞反應更快速,也有
利于消除歧義;谠~典匹配和統計的兩種分詞方法各有優(yōu)劣,實(shí)際使用中的分詞系統都是混合使用兩種方法,達到快速高效,又能識別生詞、新詞,消除歧義。中文分詞的準確性往往影響搜索引擎排名的相關(guān)性。比如在百度搜索“醫院網(wǎng)絡(luò )營(yíng)銷(xiāo)”:從快照中可以看到,百度把“醫院網(wǎng)絡(luò )營(yíng)銷(xiāo)”這六個(gè)字當成一個(gè)詞。
而在Google搜索同樣的詞:快照顯示Google將其分切為“醫院”,“網(wǎng)絡(luò )”和“營(yíng)銷(xiāo)”三個(gè)詞。顯然百度切分得更為合理,搜索引擎優(yōu)化是一個(gè)完整的概念。Google分詞時(shí)傾向于更為細碎。再舉一個(gè)更明顯的例子。在Google搜索“點(diǎn)石互動(dòng)”四個(gè)字:快照顯示Google將其切分為“民營(yíng)”,“醫院”及“營(yíng)銷(xiāo)”三個(gè)詞。領(lǐng)域最知名的品牌,顯然并沒(méi)有進(jìn)入Google的詞典中。在百度搜索度將“醫院營(yíng)銷(xiāo)”當作一個(gè)詞。甚至在百度搜索“民營(yíng)醫院營(yíng)銷(xiāo)”,會(huì )“都當成一個(gè)詞:這種分詞上的不同很可能是一些關(guān)鍵詞排名在不同搜索引擎有不同表現的原因之一。比如百度更喜歡搜索詞完整匹配地出現在頁(yè)面上,也就是說(shuō)搜索”點(diǎn)石互動(dòng)“時(shí),這四個(gè)字連續完整出現更容易在百度獲得好的排名。
Google就與此不同,不太要求完整匹配。一些頁(yè)面出現”點(diǎn)石“和”互動(dòng)“兩個(gè)詞,但不必完整匹配地出現,”點(diǎn)石“出現在前面,”互動(dòng)“出現在頁(yè)面的其他地方,這樣的頁(yè)面在Google搜索”點(diǎn)石互動(dòng)“時(shí),也可以獲得不錯的排名。搜索引擎對頁(yè)面的分詞取決于詞庫的規模、準確性和分詞算法的好壞,而不是取決于頁(yè)面本身如何,所以SEO人員對分詞所能做的很少。唯一能做的是在頁(yè)面上用某種形式提示搜索引擎,某幾個(gè)字應該被當作一個(gè)詞處理,尤其是可能產(chǎn)生歧義的時(shí)候,比如在頁(yè)面標題、hl標簽以及黑體中出現關(guān)鍵詞。如果頁(yè)面是關(guān)于”和服“的內容,那么可以把”和服“這兩個(gè)字特意標為黑體。如果頁(yè)面是關(guān)于”化妝和服裝“,可以把”服裝“兩個(gè)字標為黑體。這樣,搜索引擎對頁(yè)面進(jìn)行分析時(shí)就知道標為黑體的應該是一個(gè)詞。