從形式上看,詞是穩定的字的組合,因此在上下文中,相鄰的字同時(shí)出現的次數越多,就越有可能構成一個(gè)詞。因此字與字相鄰共現的頻率或概率能夠較好的反映成詞的可信度?梢詫φZ(yǔ)料中相鄰共現的各個(gè)字的組合的頻度進(jìn)行統計,計算它們的互現信息。
定義兩個(gè)字的互現信息,計算兩個(gè)漢字X、Y的相鄰共現概率;ガF信息體現了漢字之間結合關(guān)系的緊密程度。當緊密程度高于某一個(gè)閾值時(shí),便可認為此字組可能構成了一個(gè)詞。這種方法只需對語(yǔ)料中的字組頻度進(jìn)行統計,不需要切分詞典,因而又叫做無(wú)詞典分詞法或統計取詞方法。但這種方法也有一定的局限性,會(huì )經(jīng)常抽出一些共現頻度高、但并不是詞的常用字組,例如“這一”、“之一”、“有的”、“我的”、“許多的”等,并且對常用詞的識別精度差,時(shí)空開(kāi)銷(xiāo)大。實(shí)際應用的統計分詞系統都要使用一部基本的分詞詞典(常用詞詞典)進(jìn)行串匹配分詞,同時(shí)使用統計方法識別一些新的詞,即將串頻統計和串匹配結合起來(lái),既發(fā)揮匹配分詞切分速度快、效率高的特點(diǎn),又利用了無(wú)詞典分詞結合上下文識別生詞、自動(dòng)消除歧義的優(yōu)點(diǎn)。
前面我們有講到《SEO之基于字符串匹配的分詞方法》和《SEO之基于理解的分詞方法》,那么這三種方法中,到底是哪種SEO分詞算法的準確度更高,目前尚無(wú)定論。對于任何一個(gè)成熟的分詞系統來(lái)說(shuō),不可能單獨依靠某一種算法來(lái)實(shí)現,對于中文詞的識別,需要綜合多種算法來(lái)處理不同的問(wèn)題。
分詞準確性對搜索引擎來(lái)說(shuō)非常重要,如果分詞速度太慢,即使準確性再高,對于搜索引擎來(lái)說(shuō)也是不可用的,因為搜索引擎需要處理數以?xún)|計的網(wǎng)頁(yè),如果分詞耗用的時(shí)間過(guò)長(cháng),會(huì )影響到搜索引擎對內容的更新速度。因此對于搜索引擎來(lái)說(shuō),分詞的準確性和速度,都需要達到很高的要求。