長期從第三方獲取數據及回寫(兩個局域網之間)

由於項目業務須要,須要設計一套從第三方獲取數據並回寫的程序模型;網絡

通過一段一段時間的查閱相關前輩博文及論壇相關文章,肯定了一套模型,考慮到這套模型具備廣泛適用性,因此記錄下來;

設計

實際場景是:須要在互聯網與一個局域網之間進行數據交互;日誌

方案以下:
1.數據是以文件的形式,經過網閘進行數據傳輸,可採用ftp進行文件上傳下載;內存

2.有4個模型節點:get

  模型節點1:get互聯網端的數據,經過網閘寫入局域網;文件上傳

  模型節點2:局域網內,consum掉節點1產生並傳輸到局域網的數據;it

  模型節點3:get局域網內產生的數據,經過網閘寫入外網;ftp

  模型節點4:互聯網中,consum掉節點3產生並傳輸到互聯網的數據;互聯網

 

核心點:下載

1.get數據;通過考量,決定以數據修改的changeTime爲節點,每次獲取上一次changeTime節點後的數據,並更新changeTime;

2.文件大小;須要根據實際狀況,限制每次查產生的數據文件的大小,避免內存溢出的狀況發生,可在get數據時,簡單的經過「limit記錄數」來進行限制,也能夠經過每次產生多個數據文件來解決這個問題;

------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

ps:因爲網絡波動及其它意外狀況隨時可能發生,因此須要完善的「日誌系統」及「應對數據文件異常或丟失狀況的預處理方案」;

相關文章
相關標籤/搜索