讀寫分離之Atlas

一、atlas介紹

Atlas是由Qihoo 360公司Web平臺部基礎架構團隊開發維護的一個基於MySQL協議的數據中間層項目。它在MySQL官方推出的MySQL-Proxy 0.8.2版本的基礎上，修改了大量bug,添加了不少功能特性。目前該項目在360公司內部獲得了普遍應用，不少MySQL業務已經接入了Atlas平臺，天天承載的讀寫請求數達幾十億條。同時，有超過50家公司在生產環境中部署了Atlas，而且這些數字還在不斷增長。

 

二、安裝atlas

官方提供的Atlas有兩種

  Atlas (普通) : Atlas-2.2.1.el6.x86_64.rpm

  Atlas (分表) : Atlas-sharding_1.0.1-el6.x86_64.rpm

 咱們只須要下載普通的便可。

 安裝步驟： 

 進入/usr/local目錄，建立文件夾AtlasSrc

[root@localhost ~]# cd /usr/local/

[root@localhost local]# mkdir AtlasSrc

[root@localhost local]# cd AtlasSrc/

[root@localhost AtlasSrc]# 

將Atlas安裝包複製進來目錄AtlasSrc下(複製過程略)

安裝atlas

rpm -i Atlas-2.2.1.el6.x86_64.rpm 

注意事項：

•  Atlas只能安裝運行在64位的系統上

• 若是執行 rpm -i Atlas-XX.el6.x86_64.rpm ，提示相似」file /usr/local/mysql-proxy/bin/encrypt from install of Atlas-2.0.1-1.x86_64 conflicts with file from package Atlas-1.0.3-1.x86_64」，則表示該系統以前已經安裝過Atlas-xxx.x86_64 ,須要執行rpm -e Atlas-xxx.x86_64 ,將以前安裝的Atlas卸載掉，再執行rpm -i Atlas-xx.el6.x86_64安裝新版本的Atlas

• 後端mysql版本應大於5.1，建議使用Mysql5.6

 

三、編輯配置文件

Atlas運行須要依賴一個配置文件(test.cnf)。在運行Atlas以前，須要對該文件進行配置。Atlas安裝目錄是/usr/local/mysql-proxy,進入安裝目錄下的conf目錄，能夠看到已經有一個名爲test.cnf的默認配置文件，咱們只須要修改裏面的某些配置項，不須要從頭寫一個配置文件

配置範例及說明以下

[mysql-proxy]
(必備，默認值便可)管理接口的用戶名
admin-username = user
(必備，默認值便可)管理接口的密碼
admin-password = pwd
(必備，根據實際狀況配置)主庫的IP和端口
proxy-backend-addresses = 192.169.1.24:3306
(非必備，根據實際狀況配置)從庫的IP和端口，@後面的數字表明權重，用來做負載均衡，若省略則默認爲1，可設置多項，用逗號分隔。若是想讓主庫也能分擔讀請求的話，只須要將主庫信息加入下面的配置項中。
proxy-read-only-backend-addresses = 192.169.1.9:3306
(必備，根據實際狀況配置) 用戶名與其對應的加密過的MySQL密碼，密碼使用PREFIX/bin目錄下的加密程序encrypt加密，用戶名與密碼之間用冒號分隔。主從數據庫上須要先建立該用戶並設置密碼(用戶名和密碼在主從數據庫上要一致)。好比用戶名myuser,密碼爲mypwd,執行./encrpty mypwd 結果爲HJBoxfRsjeI=。若是有多個用戶用逗號分離便可。則設置以下行所示：
pwds = myuser: HJBoxfRsjeI=,myuser2:HJBoxfRsjeI=
(必備，默認值便可)Atlas的運行方式，設爲true時爲守護進程方式，設爲false時爲前臺方式，通常開發調試時設爲false,線上運行時設爲true
daemon = true
(必備，默認值便可)設置Atlas的運行方式，設爲true時Atlas會啓動兩個進程，一個爲monitor,一個爲worker,monotor在worker意外退出後會自動將其重啓，設爲false時只有worker,沒有monotor,通常開發調試時設爲false,線上運行時設爲true
keepalive = true
(必備，根據實際狀況配置)工做線程數，推薦設置成系統的CPU核數
event-threads = 8
(必備，默認值便可)日誌級別，分爲message,warning,critical,error,debug五個級別
log-level = message
(必備，默認值便可)日誌存放的路徑
log-path = /usr/local/mysql-proxy/log
(必備，根據實際狀況配置)SQL日誌的開關，可設置爲OFF、ON、REALTIME,OFF表明不記錄日誌，ON表明記錄SQL日誌，該模式下日誌刷新是基於緩衝區的，當日志填滿緩衝區後，纔將日誌信息刷到磁盤。REALTIME用於調試，表明記錄SQL日誌且實時寫入磁盤，默認爲OFF
sql-log = OFF
(可選項，可不設置)慢日誌輸出設置。當設置了該參數時，則日誌只輸出執行時間超過sql-log-slow(單位:ms)的日誌記錄。不設置該參數則輸出所有日誌。
sql-log-slow = 10
(可選項，可不設置)關閉不活躍的客戶端鏈接設置。當設置了改參數時，Atlas會主動關閉通過'wait-timeout'時間後一直未活躍的鏈接。單位:秒
wait-timeout = 10
(必備，默認值便可)Atlas監聽的工做接口IP和端口
proxy-address = 0.0.0.0:1234
(必備，默認值便可)Atlas監聽的管理接口IP和端口
admin-address = 0.0.0.0:2345
(可選項，可不設置)分表設置，此例中person爲庫名，mt爲表名，id爲分表字段，3爲子表數量，可設置多項，以逗號分隔，若不分表則不須要設置該項，子表須要事先建好，子表名稱爲表名_數字，數字範圍爲[0,字表數-1]，如本例裏，子表名稱爲mt_0、mt_一、mt_2
tables = person.mt.id.3
(可選項，可不設置)默認字符集，若不設置該項，則默認字符集爲latin1
charset = utf8
(可選項，可不設置)容許鏈接Atlas的客戶端的IP,能夠是精確IP，也能夠是IP段，以逗號分隔，若不設置該項則容許全部IP鏈接，不然只容許列表中的IP鏈接
client-ips = 127.0.0.1, 192.168.1
(可選項，極少須要)Atlas前面掛接的LVS的物理網卡的IP(注意不是虛IP),如有LVS且設置了client-ips則此項必須設置，不然能夠不設置
lvs-ips = 192.168.1.1

 

編輯配置文件

[mysql-proxy]

#帶#號的爲非必需的配置項目

#管理接口的用戶名

admin-username = user

#管理接口的密碼

admin-password = pwd

#Atlas後端鏈接的MySQL主庫的IP和端口，可設置多項，用逗號分隔

proxy-backend-addresses = 192.169.1.20:3306

#Atlas後端鏈接的MySQL從庫的IP和端口，@後面的數字表明權重，用來做負載均衡，若省略則默認爲1，可設置多項，用逗號分隔

proxy-read-only-backend-addresses = 192.169.1.21:3306

#用戶名與其對應的加密過的MySQL密碼，密碼使用PREFIX/bin目錄下的加密程序encrypt加密，下行的user1和user2爲示例，將其替換爲你的MySQL的用戶名和加密密碼！

pwds = root:/iZxz+0GRoA=

#設置Atlas的運行方式，設爲true時爲守護進程方式，設爲false時爲前臺方式，通常開發調試時設爲false，線上運行時設爲true,true後面不能有空格。

daemon = true

#設置Atlas的運行方式，設爲true時Atlas會啓動兩個進程，一個爲monitor，一個爲worker，monitor在worker意外退出後會自動將其重啓，設爲false時只有worker，沒有monitor，通常開發調試時設爲false，線上運行時設爲true,true後面不能有空格。

keepalive = true

#工做線程數，對Atlas的性能有很大影響，可根據狀況適當設置

event-threads = 4

#日誌級別，分爲message、warning、critical、error、debug五個級別

log-level = debug

#日誌存放的路徑

log-path = /usr/local/mysql-proxy/log

#SQL日誌的開關，可設置爲OFF、ON、REALTIME，OFF表明不記錄SQL日誌，ON表明記錄SQL日誌，REALTIME表明記錄SQL日誌且實時寫入磁盤，默認爲OFF

sql-log = ON

#慢日誌輸出設置。當設置了該參數時，則日誌只輸出執行時間超過sql-log-slow（單位：ms)的日誌記錄。不設置該參數則輸出所有日誌。

#sql-log-slow = 10

#實例名稱，用於同一臺機器上多個Atlas實例間的區分

#instance = test

#Atlas監聽的工做接口IP和端口

proxy-address = 0.0.0.0:1234

#Atlas監聽的管理接口IP和端口

admin-address = 0.0.0.0:2345

#分表設置，此例中person爲庫名，mt爲表名，id爲分表字段，3爲子表數量，可設置多項，以逗號分隔，若不分表則不須要設置該項

#tables = person.mt.id.3

#默認字符集，設置該項後客戶端再也不須要執行SET NAMES語句

charset = utf8

#容許鏈接Atlas的客戶端的IP，能夠是精確IP，也能夠是IP段，以逗號分隔，若不設置該項則容許全部IP鏈接，不然只容許列表中的IP鏈接

#client-ips = 127.0.0.1, 192.168.1

#Atlas前面掛接的LVS的物理網卡的IP(注意不是虛IP)，如有LVS且設置了client-ips則此項必須設置，不然能夠不設置

#lvs-ips = 192.168.1.1

 

配置說明

1. 數據庫密碼

pwds項設置 ，進入/usr/local/mysql-proxy/bin目錄，密碼使用bin目錄下的加密程序encrypt加密

 數據庫的用戶名是 root ,密碼是123456，密碼加密後是/iZxz+0GRoA=

因此密碼配置爲：

pwds = root:/iZxz+0GRoA=

2. 線程數

event-threads項設置，太小沒法充分發揮多核cpu的性能，過大形成沒必要要的線程切換開銷，推薦設置爲cpu的核數

 

四、運行atlas

 啓動atlas: /usr/local/mysql-proxy/bin/mysql-proxyd test start

 其餘命令

 中止atlas : /usr/local/mysql-proxy/bin/mysql-proxyd test stop

 重啓atlas : /usr/local/mysql-proxy/bin/mysql-proxyd test restart

 

注意

•  運行文件是：mysql-proxyd(不是mysql-proxy)

•  test是conf目錄下配置文件的名字，也是配置文件裏instance項的名字，三者須要統一。

•  可使用ps -ef|grep mysql-proxy查看Atlas是否已經啓動或中止

•  執行命令：mysql -h127.0.0.1 -P1234 -u數據庫用戶名 -p數據庫密碼，若是能連上則證實Atlas初步測試正常，能夠再嘗試發幾條SQL語句看看執行結果是否正確。（這裏登陸的數據庫用戶是test.conf配置文件中pwds配置項配置的數據庫用戶

•  進入Atlas的管理界面的命令：mysql -h127.0.0.1 -P2345 -uuser -ppwd,進入後執行：select * from help;查看管理DB的各種命令。（這裏配置的user和pwd是test.conf配置文件中admin-username,admin-password配置項配置的數據）

•  成功運行Atlas，若是經過設置的用戶名和密碼不能成功登陸，提示錯誤：MySql Host is blocked because of many connection errors; unblock with 'mysqladmin flush-hosts'。解決方法以下:

 分別登陸主從數據庫，執行如下命令

set global max_connect_errors=100000;

flush hosts; 

啓動後，使用客戶端navigate for mysql鏈接成功

 

 

5、問題 

數據庫鏈接atlas，程序中報以下異常信息:

方法getIdByPro的代碼以下，PRO_GET_INT_ID是一個帶出參的存儲過程，由於經過atlas配置了讀寫分離，因此存儲過程在主庫中執行，而查詢存儲過程出參的查詢語句在從庫中執行，故而獲取不到出參。

 

atlas日誌：能夠從日誌看出存儲過程在主庫192.169.1.20上執行，查詢出參語句在從庫192.169.1.21上執行

修改後的代碼爲

代碼修改後再也不出現上述問題，獲取存儲過程出參成功

 

如何修改代碼？

一、在調用帶出參的存儲過程的方法中，執行查詢出參的語句，並在語句前加上/*master*/強制其走主庫

 

二、出參名的命名爲 "@com_mysql_jdbc_outparam_"+存儲過程定義時的出參名

 好比定義存儲過程PRO_GET_INT_ID時的出參名是GVALUE

 因此查詢出參語句中的出參名是@com_mysql_jdbc_outparam_GVALUE,即

注意：

1. Atlas會屏蔽不帶where條件的delete和update操做，以及sleep函數。

2. Atlas會屏蔽既有dml又有select的語句，如UPDATE LF_MON_ONLCFG SET ONLINENUM = (SELECT COUNT(*) FROM LF_MON_ONLUSER)。

解決方法：在語句前加上/*master*/強制其走主庫

 

 

 參考地址

 Qihoo360/Atlas：https://github.com/Qihoo360/Atlas/blob/master/README_ZH.md