一招教你解決大數據量下的各類報表使用問題

在咱們平常製做報表分析過程當中,總會遇到各類問題。好比,報表底層數據日益增多、報表加載超慢,這些狀況該怎麼解決?數據庫

數據庫是最多見的能處理大數據的計算方案,而永洪能利用數據庫來完成數據計算。可是,有些報表的計算較爲複雜,使用SQL實現會很是困難,這時,咱們就會採用永洪報表呈現的直觀計算方式來完成數據的計算,這種方式致使後臺要直接處理大數據,不只性能低下,並且很容易形成報表加載時間過長。ide

今天這篇文章,主要介紹永洪數據集市數據集,這種方式提供強大、便捷的數據處理方式,用戶能夠輕鬆應對大數據量場景下報表加載過慢的問題。性能

1、實現功能大數據

將查詢結果按天增量導入永洪集市並對集市文件按天打上索引,永洪報表在處理邏輯時只會掃描查詢日期內的數據。3d

2、實現步驟orm

一、設置參數blog

建立一個名爲TEST_YH的SQL數據集,在查詢條件中加上參數<etd_date_lm>,此參數爲動態獲取昨日日期,後續會提到。索引

一招教你解決大數據量下的各類報表使用問題

二、新建做業產品

在調度做業中新建任務,其中類型設置爲:增量導入數據,數據集爲上一步建立的TEST_YH的SQL數據集,文件夾爲存放文件的名稱,最後咱們選擇追加數據。it

一招教你解決大數據量下的各類報表使用問題

在任務最下方的腳本中設置能夠動態獲取昨天日期的參數<etd_date_lm>參數,setMeta("search_data_index",formatDate(a,"yyyy-MM-dd")) 是用來給數據集市文件設定屬性的,在數據集市數據集中可經過過濾條件查看這個屬性。

file = formatDate(a,"yyyy-MM-dd") 是建立一個數據集市文件的文件名。

一招教你解決大數據量下的各類報表使用問題

三、生成文件

在調度任務中運行此做業,就能夠生成文件了。

一招教你解決大數據量下的各類報表使用問題

咱們還能夠進一步在管理系統下監控預警中的數據集市文件信息統計中進一步查看上一步生成的文件。

一招教你解決大數據量下的各類報表使用問題

四、讀取數據

建立數據集市數據集,在文件夾中選擇以前生成的文件,文件過濾中根據需求選擇前臺傳遞的時間參數。

一招教你解決大數據量下的各類報表使用問題

以上就是關於永洪數據集市數據集的使用介紹,永洪科技強大的產品功能,能夠輕鬆應對大數據量下的報表使用。

相關文章
相關標籤/搜索