面對京東11.11大促數百億訪問流量、每秒數百萬次的高併發請求以及數十億的實時消息推送,京東智聯雲經過在技術上的創新,有效支撐了京東11.11海量併發,保障業務系統平穩運行。web
其中,裸金屬雲主機提供了 與物理機無差異的極致性能 ,在本次11.11大促中,批量使用於零售、廣告、推薦、搜索等業務中。爲京東11.11解決物理機運維難題的同時,裸金屬雲主機與雲主機相比還減小了性能損耗,提高了總體資源利用率。數據庫
目前,雲原生正在重塑IT基礎架構,Kubenetes和容器已經大規模用於京東集團的業務部署。裸金屬服務器因爲對現有云產品兼容,業務方不須要改變業務架構,能夠直接將裸金屬實例加入到已建立的Kubenetes集羣中來實現容器化的業務部署。 裸金屬服務器+容器+K8s將成爲大規模上雲的最佳組合, 在11.11大促中大顯身手。segmentfault
早些年時候,考慮到採購機器須要必定週期,京東一般每一年第一個季度就會開始評估當年61八、11.11大促的業務量,等到機器到位之後,才能及時把機器上架到位,確保開門大促以前機器資源是充足的。後端
對於傳統物理服務器,部署時還須要提早數天甚至數週準備服務器,裝機,網絡配置須要人工維護,硬盤難擴容。服務器異動時須要通過下架、上架、網絡從新配置等一系列繁瑣流程。當服務器出現故障時,用戶業務恢復時間長,成本高。緩存
自從2016年開始,京東智聯雲逐步開始發力,京東集團的業務也開始不斷遷移上雲。現在零售、物流等核心業務都已經部署到京東智聯雲上,大促期間須要的資源全均可以在雲上按需獲取,全集團資源也均可以輕鬆實現彈性可伸縮。安全
在雲計算基礎架構中,主流的服務提供方式都是 經過虛擬化技術爲用戶提供雲主機 。因爲資源具備按需申請釋放、彈性擴容縮容等特性,能夠極大地節省IT資源購置和運維成本。服務器
但云主機仍存在如下不足之處:網絡
- 性能損耗: 傳統虛擬化實現依賴運行於物理服務器運行的虛擬化軟件,此類軟件會佔用部分資源形成虛擬化損耗,使得雲主機始終沒法得到與物理服務器相媲美的性能;
- 性能干擾: 傳統雲主機服務雖然經過虛擬化技術保證多租戶間資源的隔離,可是仍然可能會出現內存帶寬、CPU緩存等資源爭搶狀況,爲虛擬機的性能帶來噪聲干擾;
- 安全威脅: 若是某個租戶的雲主機系統存在嚴重漏洞,極可能致使安全威脅在入侵該虛擬機以後,橫向感染其它虛擬機,帶來安全隱患。
裸金屬雲主機是介於物理服務器和虛擬服務器之間的一種產品形態。架構
首先,能夠提供物理機的性能。 經過將虛擬化軟件卸載至硬件運行,以消除虛擬化損耗,達到與物理服務器相近的性能。併發
在實際測試中,裸金屬雲主機與虛擬機相比,CPU性能提高 2.7% ,內存性能提高了 24.6% ,單CPU最大網絡吞吐量提高了 36% ,總體接近物理機的性能。
其次,裸金屬服務器也具有自動化運維 。裸金屬服務器能夠作到分鐘級部署交付,故障恢復時間短。另外,它還具備與虛擬機同樣的自動化運維手段,以及豐富的可用性監控指標;
第三,裸金屬服務器能夠提供物理級別隔離。 一臺雲主機獨享物理機所有計算資源以保證與其餘租戶資源的絕對隔離,同時支持嵌套虛擬化。
基於京東智聯雲自研的虛擬化引擎,裸金屬雲主機提供了物理機無差異的極致性能,實現了在更低成本下更優質的服務,穩定支撐了京東11.11大促的順利進行。
上圖是是京東智聯雲裸金屬服務器技術架構,分爲網絡數據面、存儲數據面、雲主機控制面:
網絡數據面: 支持VxLan、 Flow Table、 ACL Table以及Connect Tracking的轉發卸載和加速。數據包能夠直接進入智能網卡網絡快速通道,與外界通訊,縮短了網絡處理路徑上的耗時,同時減小了CPU和內存的開銷。實現了與京東智聯雲VPC無縫對接,兼容現有的網絡產品。
存儲數據面: 基於SPDK模擬存儲控制器。雲主機的讀寫請求會經過該模擬設備與物理機上的雲硬盤Agent(SPDK)通訊,進而將請求發送至後端存儲資源池並將其與設備與雲硬盤存儲後端聯通。
雲主機控制面: 與雲主機管理系統全面集成。實現了裸金屬雲主機像虛機同樣的生命週期管理。用戶能夠在控制檯一鍵部署裸金屬雲主機,方便的配置網絡和存儲資源。同時雲主機管理平面爲裸金屬雲主機提供了豐富的監控指標和故障恢復手段,保證了用戶能夠像傳統雲主機同樣方便的使用裸金屬雲主機。
相對於傳統雲主機,裸金屬雲主機的網絡、存儲負載和控制平面下沉到了智能網卡,節省了Host側的CPU,提高了資源利用率。
在最新的京東智聯雲第二代裸金屬架構中,使用了FPGA支持virtio-blk,virtio-net虛擬化,更具通用性的同時,FPGA將處理局部性和重複性強的負載,發揮在低延遲的流式處理方面的優點,CPU將處理較爲複雜的負載,發揮在批量同構數據處理方面的優點。
歡迎點擊【京東智聯雲】,瞭解開發者社區
更多精彩技術實踐與獨家乾貨解析
歡迎關注【京東智聯雲開發者】公衆號