數棧是雲原生—站式數據中臺PaaS,咱們在github和gitee上有一個有趣的開源項目:FlinkX,FlinkX是一個基於Flink的批流統一的數據同步工具,既能夠採集靜態的數據,也能夠採集實時變化的數據,是全域、異構、批流一體的數據同步引擎。你們喜歡的話請給咱們點個star!star!star!
html
github開源項目:https://github.com/DTStack/flinkxgit
gitee開源項目:https://gitee.com/dtstack_dev_0/flinkxgithub
若是把企業數字化轉型比做一輛自行車,那麼技術與數據即是這輛車的兩個輪子,騎在車上的則是企業戰略、文化以及各類資源,它們決定了轉型將走向哪一個方向。無論數字化轉型之路多麼正確、戰術如何高明,其最終結果仍是要經過這兩個輪子落地。數據庫
DT時代,「大數據」不是強調量大,是指數據來源多、維度多。如今不少系統的數據無法給第三方用,只有打破這種壁壘,纔會產生新的價值。在數智化轉型過程當中,實現數據開放共享,是企業在DT時代實現彎道超車的前提。後端
數據共享服務可簡單歸納爲將數據中臺的數據共享給其餘系統,或將某組織的數據共享給其餘組織,提供數據的方式也十分多樣,如數據庫讀取、文件傳輸、API接口服務等。安全
如何經過數據API,對外提供數據服務,進行數據共享呢?併發
數據API,經過RestfulAPI的形式對外提供數據服務,適用於數據庫不直接對外開放,經過接口提供高併發快返回的數據服務場景,如企業內部將數據中臺加工的結果數據,經過數據API的方式,提供給上層數據應用、數據門戶,可視化大屏等;證券公司將股票、債券等行情數據經過數據API的方式提供給外部客戶;新媒體企業將資訊經過API的方式提供給外部客戶等,主要解決數據對外快速共享的場景。ide
按照傳統方式,生成API接口,每每須要後端開發人員經過Java或Python等語言進行編寫。從開始生成到對外發布,中間再作一些鑑權、限流等,整個流程較長,且一個接口開發完成後,須要測試人員再進行測試驗證,整個過程下來,投入成本較高。高併發
如下是傳統方式生成數據API的流程:工具
近幾年,在數據中臺的浪潮中,大數據平臺產品供應也愈來愈俱全。國內部分優秀的大數據產品供應商,也有標準化的數據共享服務產品,其將數據服務能力進行封裝,大部分功能在平臺產品內部完成,面向用戶的功能只是鏈接數據源、編寫查詢邏輯,大幅度縮短API流程,並下降開發成本。
利用標準化產品,通常開發流程以下:
在API生成中,通過如下步驟:
在API調用流程中,API網關能夠進行鑑權、限流、數據解密等工做。
(一)較於傳統化的生成方式,標準化產品能帶來什麼?
1. 開發效率的提高:將數據API開發流程縮短,一個API生成只需3分鐘
2. 人力成本的下降:傳統方式須要後端開發寫接口,如今只需更熟悉數據的開發,經過寫SQL,就可完成數據API的開發。
3. API接口服務更多的場景:除了用戶原有需求外,標準化的產品可帶來更多附加功能,如API、用戶限流,API調用監控等。
4. 企業級API市場:實現企業API統一管理,統一的API市場開放數據服務。
(二)數棧DTinsight 的DataAPI產品正是面向以上場景,提供數據API的共享服務。
DataAPI,經過雙模式可視化配置生成與註冊API,快速構建Oneservice數據服務,造成企業級的API市場和API服務管理平臺,提升數據開放與共享效率。
DataAPI除以上介紹可解決的場景外,還在第三方數據服務、服務監控、數據服務安全深耕較多,提供給客戶一個優秀的數據服務產品。
經過嚮導模式、自定義SQL模式雙模式生成API服務,3分鐘可視化完成API建立。
除在平臺上生成API服務,支持將原有的API服務註冊至DataAPI,進行統一管理、發佈至API市場,企業全部的API服務統一管理。
平臺從API管理者、API申請者視角分別提供API調用次數、調用日誌、錯誤日誌的監控。
可控制單個API的用戶使用權限,調用次數是多少,調用週期是多長。
數據對外服務過程當中,數據安全是很是重要的一部分,DataAPI保障數據安全,主要有三方面:
API調用中提供2種加密方式,可對用戶信息、API信息、數據信息進行加密,適用於不一樣安全級別的場景。
針對API單秒調用次數、用戶對API的調用次數可進行限流,保障數據服務的安全穩定性。
經過設置黑白名單,從IP級別控制IP的訪問。