來源:r6a.cn/a8UZmysql
ClickHouse 是 Yandex(俄羅斯最大的搜索引擎)開源的一個用於實時數據分析的基於列存儲的數據庫,其處理數據的速度比傳統方法快 100-1000 倍。ClickHouse 的性能超過了目前市場上可比的面向列的 DBMS,每秒鐘每臺服務器每秒處理數億至十億多行和數十千兆字節的數據。
git
ClickHouse 是什麼?github
ClickHouse 是一個用於聯機分析(OLAP)的列式數據庫管理系統(DBMS)。
咱們首先理清一些基礎概念:算法
OLTP:是傳統的關係型數據庫,主要操做增刪改查,強調事務一致性,好比銀行系統、電商系統。sql
OLAP:是倉庫型數據庫,主要是讀取數據,作複雜數據分析,側重技術決策支持,提供直觀簡單的結果。數據庫
接着咱們用圖示,來理解一下列式數據庫和行式數據庫區別,在傳統的行式數據庫系統中(MySQL、Postgres 和 MS SQL Server),數據按以下順序存儲:服務器
在列式數據庫系統中(ClickHouse),數據按以下的順序存儲:異步
二者在存儲方式上對比:post
以上是 ClickHouse 基本介紹,更多能夠查閱官方手冊:性能
https://clickhouse.tech/docs/zh/
業務問題
業務端現有存儲在 MySQL 中,5000 萬數據量的大表及兩個輔表,單次聯表查詢開銷在 3min+,執行效率極低。
通過索引優化、水平分表、邏輯優化,成效較低,所以決定藉助 ClickHouse 來解決此問題。
最終經過優化,查詢時間下降至 1s 內,查詢效率提高 200 倍!但願經過本文,能夠幫助你們快速掌握這一利器,並能在實踐中少走彎路。
ClickHouse 實踐
①Mac 下的 Clickhouse 安裝
我是經過 Docker 安裝,也能夠下載 CK 編譯安裝,相對麻煩一些。參考連接:
https://blog.csdn.net/qq_24993831/article/details/103715194
②數據遷移:從 MySQL 到 ClickHouse
ClickHouse 支持 MySQL 大多數語法,遷移成本低,目前有五種遷移方案:
create table engin mysql,映射方案數據仍是在 MySQL。
insert into select from,先建表,在導入。
create table as select from,建表同時導入。
csv 離線導入。
streamsets。
參考連接:
https://anjia0532.github.io/2019/07/17/mysql-to-clickhouse/
選擇第三種方案作數據遷移:
CREATE TABLE [IF NOT EXISTS] [db.]table_name ENGINE = Mergetree AS SELECT * FROM mysql('host:port', 'db', 'database', 'user', 'password')
③性能測試對比
性能測試對好比下圖:
④數據同步方案
臨時表以下:
圖片來源:攜程
新建 Temp 中間表,將 MySQL 數據全量同步到 ClickHouse 內 Temp 表,再替換原 ClickHouse 中的表,適用數據量適度,增量和變量頻繁的場景。
開源的同步軟件推薦 Synch,以下圖:
Synch 原理是經過 MySQL 的 Binlog 日誌,獲取 SQL 語句,再經過消息隊列消費 Task。
⑤ClickHouse 爲何快?
有以下幾點:
只須要讀取要計算的列數據,而非行式的整行數據讀取,下降 IO cost。
同列同類型,有十倍壓縮提高,進一步下降 IO。
Clickhouse 根據不一樣存儲場景,作個性化搜索算法。
遇到的坑
①ClickHouse 與 MySQL 數據類型差別性
用 MySQL 的語句查詢,發現報錯:
解決方案:LEFT JOIN B b ON toUInt32(h.id) = toUInt32(ec.post_id),中轉一下,統一無符號類型關聯
②刪除或更新是異步執行,只保證最終一致性
查詢 CK 手冊發現,即使對數據一致性支持最好的 Mergetree,也只是保證最終一致性:
若是對數據一致性要求較高,推薦你們作全量同步來解決。
總結
經過 ClickHouse 實踐,完美的解決了 MySQL 查詢瓶頸,20 億行如下數據量級查詢,90% 均可以在 1s 內給到結果,隨着數據量增長,ClickHouse 一樣也支持集羣,你們若是感興趣,能夠積極嘗試!
參考資料:
ClickHouse官方手冊 CK
ClickHouse在攜程酒店應用 蔡嶽毅
ClickHouse引擎怎麼選 Roin123