企業(yè)建網(wǎng)站藏文網(wǎng)頁(yè)倒排索引（上）
日期 : 2020-10-21 18:43:13
藏文網(wǎng)頁(yè)倒排索引。
第一步:抽取網(wǎng)頁(yè)正文。網(wǎng)頁(yè)正文是相對網(wǎng)頁(yè)噪聲而言。當今的互聯(lián)網(wǎng)網(wǎng)頁(yè)上, 頁(yè)面的很多篇幅用在廣告、搜索推薦和其他鏈接上。網(wǎng)頁(yè)搜索工具關(guān)注的是網(wǎng)頁(yè)本身要表達的信息, 所以在通過(guò)爬蟲(chóng)獲取到頁(yè)面源碼之后, 要去除那些與本文無(wú)關(guān)的噪聲, 抽取到網(wǎng)頁(yè)正文。
第二步:分字。藏文文字區別于漢文, 漢文是一個(gè)字使用一個(gè)編碼, 而藏文是對組成字的基字編碼, 一個(gè)完整的藏文字可能存在多個(gè)編碼, 這些編碼按組成藏文字的方法順序排列。
第三步:對全文以字建索引。以字建索引, 雖然檢索過(guò)程的匹配計算量會(huì )更大, 但考慮到目前藏文網(wǎng)頁(yè)總體數量不大, 應該是一種可行的提高查全率的辦法。根據上一步得到的字, 記錄每個(gè)字在文中出現的位置, 計算每個(gè)字出現的次數, 建立鏈表。位置用于檢索時(shí)的準確定位, 次數用于計算字對文檔的重要性, 也用于相關(guān)性排序計算。
第一步:抽取網(wǎng)頁(yè)正文。網(wǎng)頁(yè)正文是相對網(wǎng)頁(yè)噪聲而言。當今的互聯(lián)網(wǎng)網(wǎng)頁(yè)上, 頁(yè)面的很多篇幅用在廣告、搜索推薦和其他鏈接上。網(wǎng)頁(yè)搜索工具關(guān)注的是網(wǎng)頁(yè)本身要表達的信息, 所以在通過(guò)爬蟲(chóng)獲取到頁(yè)面源碼之后, 要去除那些與本文無(wú)關(guān)的噪聲, 抽取到網(wǎng)頁(yè)正文。
第二步:分字。藏文文字區別于漢文, 漢文是一個(gè)字使用一個(gè)編碼, 而藏文是對組成字的基字編碼, 一個(gè)完整的藏文字可能存在多個(gè)編碼, 這些編碼按組成藏文字的方法順序排列。
第三步:對全文以字建索引。以字建索引, 雖然檢索過(guò)程的匹配計算量會(huì )更大, 但考慮到目前藏文網(wǎng)頁(yè)總體數量不大, 應該是一種可行的提高查全率的辦法。根據上一步得到的字, 記錄每個(gè)字在文中出現的位置, 計算每個(gè)字出現的次數, 建立鏈表。位置用于檢索時(shí)的準確定位, 次數用于計算字對文檔的重要性, 也用于相關(guān)性排序計算。
相關(guān)文章
精彩導讀
熱門(mén)資訊
