1，網(wǎng)站重復(fù)內(nèi)容的判斷

　　A，獲取多個(gè)網(wǎng)頁;

　　B，分別提取網(wǎng)頁的網(wǎng)頁正文;

　　C，從網(wǎng)頁正文中提取一個(gè)或多個(gè)句子，并根據(jù)一個(gè)或多個(gè)句子計(jì)算網(wǎng)頁正文句子簽名;

　　D，根據(jù)網(wǎng)頁正文句子簽名對(duì)多個(gè)網(wǎng)頁進(jìn)行聚類;

　　E，針對(duì)每一類下的網(wǎng)頁，計(jì)算網(wǎng)頁的附加簽名;

　　F，根據(jù)附加簽名判斷每一類下的網(wǎng)頁是否重復(fù)。

　　通過上述方式，網(wǎng)頁重復(fù)的判斷系統(tǒng)及其判斷方法通過包括網(wǎng)頁正文句子簽名在內(nèi)的多維度簽名有效且快速地判斷網(wǎng)頁是否重復(fù)。

　　網(wǎng)站頁面基本架構(gòu)

　　提取正文

　　A，對(duì)網(wǎng)頁進(jìn)行分塊;

　　B，對(duì)分塊后的網(wǎng)頁進(jìn)行塊過濾，以獲取包含網(wǎng)頁正文的內(nèi)容快;

　　C，從內(nèi)容塊中提取網(wǎng)頁正文。

　　正文分句

　　A，對(duì)網(wǎng)頁正文進(jìn)行分句;

　　在本步驟中，可利用分號(hào)，句號(hào)，感嘆號(hào)等表示句子完結(jié)的標(biāo)志符號(hào)來對(duì)網(wǎng)頁正文進(jìn)行分句。此外，還可以通過網(wǎng)頁正文的視覺信息來對(duì)網(wǎng)頁正文進(jìn)行分句。

　　B，對(duì)分句后的網(wǎng)頁正文進(jìn)行過濾及轉(zhuǎn)換;

　　在步驟中，首先過濾掉句子中的數(shù)字信息;版權(quán)信息以及其他對(duì)網(wǎng)頁重復(fù)判斷不起決定性作用的信息。隨后，對(duì)句子進(jìn)行轉(zhuǎn)換，例如，進(jìn)行全角/半角轉(zhuǎn)換或者繁體/簡(jiǎn)體轉(zhuǎn)換，以使得轉(zhuǎn)換后的句子的格式統(tǒng)一。

　　C，從過濾及轉(zhuǎn)換后的網(wǎng)頁正文中提取最長(zhǎng)的一個(gè)或多個(gè)句子;

　　在本步驟中，過濾及轉(zhuǎn)換后的網(wǎng)頁正文提取出最長(zhǎng)的一個(gè)句子或者做場(chǎng)的預(yù)定數(shù)量連續(xù)句子的組合。例如，某個(gè)網(wǎng)頁實(shí)例中，經(jīng)過過濾及轉(zhuǎn)換后的某段最長(zhǎng)，遠(yuǎn)超其他句子，因此可選擇該段為網(wǎng)頁正文句子，或者選擇最長(zhǎng)的連續(xù)句子組合作為網(wǎng)頁正文句子。

　　D，對(duì)一個(gè)或多個(gè)句子進(jìn)行hash簽名運(yùn)算，以獲取網(wǎng)頁正文句子簽名。