彈性伸縮服務實戰

壓測出單機qps處理能力，實時監控線上服務qps，根據狀況進行擴容或縮容

每一個服務都須要有一個配置文件

[strategy]
#一個服務可以扛多少qps
speed_ratio = 2.5
#部署一個服務大概須要多少秒
start_time = 300
#每次部署多少個，至少爲1
incr_num = 2
#固定機器有多少個
persistence = 16

 

算法大體流程：

• 取一段時間間隔內隊列中消息速率，假設爲A。

• 獲取當前正在運行的服務數S。

• 計算當前已經啓動的服務（固定+彈性分配）可以扛住的速率B（B=S*speed_ratio）。

• 假設隊列中速率波動幅度C（經過觀察流量波動寫死的固定值）。

• 若是A>B+C，則申請新機器，根據配置文件，申請incr_num個機器，並部署服務。

• 若是A<B-C，則釋放機器，根據配置文件，釋放incr_num個機器，並下線服務。

• 注意要保持至少persistence指定的機器數，這些機器不能釋放，它主要是應付平時低谷時的流量。

https://mp.weixin.qq.com/s/Sld16X-gfTzW6OxXaGdq6Q