基于網絡設備的網頁過濾的設計
3 內容過濾
3.1 響應報文的獲取與重組
由于網絡的復雜性,返回的HTTP 響應報文可能不是有序的到達網絡設備的,因此在網絡設備上需要對到達的響應報文進行有序的重組。根據請求報文的五元組信息,收集該請求對應的HTTP 響應報文;由于可能亂序,根據ACK 字段和Seq 字段對報文進行排序重組。在重組中建立的數據結構圖2 所示。
圖2 重組使用的數據結構
3.2 文本的表示
目前常用的文本表示模型有許多種,常用的有:布爾邏輯模型、概率模型和向量空間模型等。在向量空間模型,文本內容被形式化為多維空間中的一個點,把對文本內容的處理簡化為向量空間中向量運算,使問題的復雜性大為降低。
權重的計算既可用規(guī)則的方法手工完成,又可通過統(tǒng)計的方法自動完成,便于融合統(tǒng)計和規(guī)則兩種方法。
向量空間模型用項的向量空間來表示文檔信息,項是指用來表示文檔內容特征的基本語言單位(字、詞、詞組或短語等),也稱為特征詞,文檔可以用項的*來表示。一個網頁可以由特征以及其權值表示,如下:
其中 xi 為文本向量空間中的一個特征, w i 為該特征的權值。
3.3 特征的選取
一個文本攜帶大量的信息,基于計算的復雜性考慮,只能在文本信息中提取出其中一些比較重要的特征;并且對于實際的性能要求,文本中的關鍵信息足以反映一個文本特征。像一個文本中出現的“的”、“有”等一些詞是一些通用詞,不能體現某些文本的特征,因此需要事先對文本進行預處理,去除掉這些詞。
評論