查詢速度提高200倍,ClickHouse到底有多快?


來源:r6a.cn/a8UZmysql

ClickHouse 是 Yandex(俄羅斯最大的搜索引擎)開源的一個用於實時數據分析的基於列存儲的數據庫,其處理數據的速度比傳統方法快 100-1000 倍。ClickHouse 的性能超過了目前市場上可比的面向列的 DBMS,每秒鐘每臺服務器每秒處理數億至十億多行和數十千兆字節的數據。
git

ClickHouse 是什麼?github


ClickHouse 是一個用於聯機分析(OLAP)的列式數據庫管理系統(DBMS)。

咱們首先理清一些基礎概念:算法

  • OLTP:是傳統的關係型數據庫,主要操做增刪改查,強調事務一致性,好比銀行系統、電商系統。sql

  • OLAP:是倉庫型數據庫,主要是讀取數據,作複雜數據分析,側重技術決策支持,提供直觀簡單的結果。數據庫

接着咱們用圖示,來理解一下列式數據庫和行式數據庫區別,在傳統的行式數據庫系統中(MySQL、Postgres 和 MS SQL Server),數據按以下順序存儲:服務器

在列式數據庫系統中(ClickHouse),數據按以下的順序存儲:異步

二者在存儲方式上對比:post

以上是 ClickHouse 基本介紹,更多能夠查閱官方手冊:性能

https://clickhouse.tech/docs/zh/

業務問題

業務端現有存儲在 MySQL 中,5000 萬數據量的大表及兩個輔表,單次聯表查詢開銷在 3min+,執行效率極低。

通過索引優化、水平分表、邏輯優化,成效較低,所以決定藉助 ClickHouse 來解決此問題。

最終經過優化,查詢時間下降至 1s 內,查詢效率提高 200 倍!但願經過本文,能夠幫助你們快速掌握這一利器,並能在實踐中少走彎路。

ClickHouse 實踐

①Mac 下的 Clickhouse 安裝

我是經過 Docker 安裝,也能夠下載 CK 編譯安裝,相對麻煩一些。參考連接:

https://blog.csdn.net/qq_24993831/article/details/103715194
②數據遷移:從 MySQL 到 ClickHouse

ClickHouse 支持 MySQL 大多數語法,遷移成本低,目前有五種遷移方案:

  • create table engin mysql,映射方案數據仍是在 MySQL。

  • insert into select from,先建表,在導入。

  • create table as select from,建表同時導入。

  • csv 離線導入。

  • streamsets。

參考連接:

https://anjia0532.github.io/2019/07/17/mysql-to-clickhouse/

選擇第三種方案作數據遷移:

CREATE TABLE [IF NOT EXISTS] [db.]table_name ENGINE = Mergetree AS SELECT * FROM mysql('host:port', 'db', 'database', 'user', 'password')
③性能測試對比

性能測試對好比下圖:


④數據同步方案

臨時表以下:

圖片來源:攜程

新建 Temp 中間表,將 MySQL 數據全量同步到 ClickHouse 內 Temp 表,再替換原 ClickHouse 中的表,適用數據量適度,增量和變量頻繁的場景。

開源的同步軟件推薦 Synch,以下圖:

Synch 原理是經過 MySQL 的 Binlog 日誌,獲取 SQL 語句,再經過消息隊列消費 Task。

⑤ClickHouse 爲何快?
有以下幾點:
  • 只須要讀取要計算的列數據,而非行式的整行數據讀取,下降 IO cost。

  • 同列同類型,有十倍壓縮提高,進一步下降 IO。

  • Clickhouse 根據不一樣存儲場景,作個性化搜索算法。

遇到的坑

①ClickHouse 與 MySQL 數據類型差別性

用 MySQL 的語句查詢,發現報錯:

解決方案:LEFT JOIN B b ON toUInt32(h.id) = toUInt32(ec.post_id),中轉一下,統一無符號類型關聯

②刪除或更新是異步執行,只保證最終一致性

查詢 CK 手冊發現,即使對數據一致性支持最好的 Mergetree,也只是保證最終一致性:

若是對數據一致性要求較高,推薦你們作全量同步來解決。

總結

經過 ClickHouse 實踐,完美的解決了 MySQL 查詢瓶頸,20 億行如下數據量級查詢,90% 均可以在 1s 內給到結果,隨着數據量增長,ClickHouse 一樣也支持集羣,你們若是感興趣,能夠積極嘗試!

參考資料:

  • ClickHouse官方手冊 CK

  • ClickHouse在攜程酒店應用 蔡嶽毅

  • ClickHouse引擎怎麼選 Roin123

相關文章
相關標籤/搜索