JAVA爬蟲-區塊鏈快訊爬蟲實踐

題圖： Stan Lee playing Spider-Man on Atari 2600, 1982.

需求：

    須要將目標的幾個站點的快訊內容作定時爬取，並根據內容作重複過濾。

    

技術評審：

    站點的內容抓取剛開始是想用python，但在內容重複過濾這塊沒想好實踐路徑就未直接採用python；

    JAVA也看過其餘一些開源框架好比：「xxl-crawler」"WebCollector",這兩個框架其實在分佈式上面略有些優點，但在文本過濾上並未有太好的解決文案；

    a、任務調度：

        任務調度用Quartz，成熟、靈活

    b、文本重複過濾

            考慮到數據多的時候重複數據匹配量比較大，若是用分詞的內容作索引再循環過濾匹配文本項，效率過低；有沒有一種方式能夠快速建好文本特徵，方便的使用關係數據庫就能夠作一個全局濾重。

            答案是：有的，爲每一個快訊文本建一個指紋，重複的文本或者較大篇幅的文本重複，相關算法關鍵詞：Simhash  相關介紹文章：https://blog.csdn.net/wh_springer/article/details/52177236

             其原理簡述一下：Simhash算法將給定文本，根據其中的關鍵字，將文本最終計算出一個32位二進制串，我將生成的二進制串分紅四個8位串，這樣方便快速計算匹配度，數量大的時候還能夠在指紋上建索引提升效率。

 

            

   上圖爲根據抓取的內容作的生成的指紋

    關鍵實現：

        

          

上圖爲整個模塊基本架構

 

爬蟲任務線程：是用戶Quartz作調度，每一個目標站是單獨的一個Job，具體的調度交給Quatz，爬蟲的子JOB再抽取一個父類，作爬蟲模板，這樣單個爬蟲代碼量就不多了，附上一個目標站的實現類：

public class LianNewsJob extends NewsJob implements Job {
protected static long MAX_ID=0;

Logger logger = LoggerFactory.getLogger(WalianNewsJob.class);

@Override
public void execute(JobExecutionContext jobExecutionContext) {
TAG="WALIAN";
try {
saveNewsToQueue(getContent());
}catch (Exception e){
logger.error(TAG+"採集異常",e);
}

}

/**
* 抓取資訊
* @return
*/
private List<LxbNewsSuorce> getContent(){
LxbNewsSuorce newsItem;
List<LxbNewsSuorce> newsList = new ArrayList<>();
List<JSONObject> jsonList = new ArrayList<>();

try {

String responseJsonStr = getHttpContent(Constants.WALIAN_URL);
JSONObject responseJO = JSON.parseObject(responseJsonStr);
if(StringUtils.equals(responseJO.getString("code"),"000000")) {
JSONArray contentList = responseJO.getJSONObject("data").getJSONArray("list");
for (int i = 0; i < contentList.size(); i++) {
jsonList.add(contentList.getJSONObject(i));
}
sortContent(jsonList);

for (JSONObject jObj : jsonList) {
if (jObj.getLong("id") > MAX_ID) {
newsItem = new LxbNewsSuorce();
newsItem.setTitle(jObj.getString("title"));
newsItem.setContent(StringUtils.replace(jObj.getString("content")));
newsList.add(newsItem);
MAX_ID = jObj.getLong("id");
}
}
}
} catch (Exception e) {
logger.error(TAG+"抓取異常",e);
}
return newsList;
}

boolean isTitleExist(String title ){
Query userQuery = DBManager.getSqlManager().query(LxbNewsSuorce.class);
List<LxbNewsSuorce> newsList = userQuery.andEq("title",title).select();
if(newsList.size() > 0){
return true;
}
return false;
}

 

參考資料：

    Simhash借鑑了開源庫：https://github.com/hankcs/HanLP