2億學生在線上課。安全
疫情的肆虐,本來該回歸各大校園的師生們涌入線上,突如其來的流量洪峯給在線教育行業迎來了極大挑戰。服務器
長期服務教育企業的百家雲也不例外。做爲一家致力於爲教育機構提供一站式雲課堂解決方案的企業,疫情期間,百家雲接到來自多家教育機構搭建在線雲課堂的需求,同時原來線下爲主的教育機構流量瞬間轉到了線上。網絡
爲了響應教育部門停課不停學的號召,幫助學生老師們開學,百家雲全體員工縮短了假期,從大年初二開始在家辦公,初七開始全員辦公。架構
短期內爆發式的需求,對於每一家教育企業而都是始料未及的。據百家雲CEO李鋼江透露,百家雲的業務量短期內增加了數十倍。如此迅速的擴容須要,還要在客戶無感知的狀況下完成,比交付一個新系統難度更大。併發
不幸中的萬幸是,百家雲團隊對敏捷架構的探索讓他們在如此高併發場景上早有準備。這場戰役以前,百家雲已在阿里雲團隊的幫助下,優化自身容器集羣架構與規劃,經過以阿里雲容器服務ACK、彈性裸金屬(神龍)實例的核心方案,從容實現動態擴容與高效管控。運維
百家雲很是幸運,在這輪爆發以前完成了容器化改造。其餘沒有使用容器的在線教育企業,面對暴漲的用戶,只能成倍堆積機器,致使部署時間拉長,業務成本劇烈升高。
故事要從百家雲的業務發展開始提及。
百家雲從2017年誕生之初就是在作直播大班課產品,是行業內擁有最純正的教育基因的雲視頻公司。在2018年已經實現了過億營收,服務了超過1000多家教育企業。
業務高速增加也在促使百家雲技術團隊探索自身技術架構的優化。到了2019年,百家雲逐步推出小班課產品,該產品的處理方式與大班課不一樣,須要經過音視頻抓屏的方式,將課程錄製下來回放。
此過程當中,還須要將音頻與視頻進行隔離。用虛擬機級別的隔離成本過高;若跑在統一虛擬機裏,各個進程則會互相干擾。百家雲團隊因而關注到了容器這種更爲輕量級的虛擬化技術。
在2019年上半年開始,百家雲內部就開始嘗試小規模對業務進行容器化改造,完成了基本流程的跑通。
然而,隨着百家雲容器規模的擴大,調度與管理成爲了新的問題。阿里雲的容器管理平臺(ACK, Alibaba Cloud Container Service for Kubernetes),大大減小百家雲的工做。百家的技術團隊表示,容器減小了運維和測試的工做量;方便了對應用運行環境實現版本控制;且相比虛擬機有着更小計算開銷,下降了IT成本。
彼時基於容器的雲原生大潮已然席捲,基於容器技術的雲原生架構,爲百家雲可能出現的業務峯值作了敏捷彈性的技術儲備。高併發
只是,這仍是第一步。工具
瞬間來臨的洪峯,仍是給百家雲帶來了考驗。性能
潮水襲來,百家雲的問題很直接:擴容。測試
疫情是全國共同的敵人。業務持續穩定增加的百家雲,不曾料想到新禧之年將面臨這樣一場「戰役」,原來容器集羣的許多配置沒有按大規模集羣去規劃,致使單個集羣可容納的節點受限,原來使用的小規格實例也限制了單個節點的容量。
針對百家雲的擴容問題,阿里雲團隊建議客戶選用大規格的彈性裸金屬服務器(神龍)。根據百家雲的應用負載特色,結合容器服務管控合適規格的彈性裸金屬實例來優化成本、避免浪費,提高彈性供給保障。
首先,阿里雲彈性裸金屬服務器(神龍)服務器的規格較高,能夠幫助百家雲顯著提高了單個節點的容量。
更重要的是,百家雲的K8s集羣對性能要求極高。神龍服務器的性能優點明顯, 「容器+彈性裸金屬(神龍)」的解決方案很是契合百家雲大流量、高併發的場景。
基於容器化構建方式,能夠知足業務快速發放和彈性的要求。神龍服務器徹底消除了虛擬化損耗,提高了8%的計算性能,其類物理機特性,可進行二次虛擬化。
神龍的性能,加上容器的彈性,造成了天做之合。數據顯示,容器運行在雲上神龍反而比非雲物理機的性能要好10%-15%。主要是由於虛擬化開銷已經offload到MOC卡上,神龍的CPU/Mem是無虛擬化開銷的,而上雲後運行在神龍上的每一個容器都獨享ENI彈性網卡,能提高13%的網絡吞吐量。
第三,神龍服務器是存儲帶寬+計算帶寬是分離,能知足百家雲的業務場景的大量讀寫需求。使用神龍服務器以後,計算能力大增,可是同時也遇到了存儲I/O性能瓶頸的問題。百家雲經過使用阿里雲的高性能NAS服務,並經過水平擴展爲4個集羣,解決了I/O的瓶頸。
基於以上方案,藉助自身的大規模集羣管理能力,在短短几天以內,阿里雲團隊幫助百家雲團隊有效升級了原有的架構方案,實現了數十倍的擴容,大幅提高了其性能與穩定性,並擁有了應對爆發性規模的能力。
面對突增流量壓力,如何迅速動態彈性擴容以及高效管控運維成爲迫切問題。
改變了原來虛擬化嵌套的形式,百家雲利用神龍實現了容器的高密度部署。配合容器的敏捷管理能力,起碼節省了25%的成本,下降了80%的運維工做量。同時,合理規劃K8s集羣,優化總體架構如網絡、存儲方案、擴容原則,確保後續運維的穩定性並下降使用成本。
此外,百家雲還使用了阿里雲高效運維管理的工具,顯著下降了運維工做量。
因爲百家雲業務上容器的時間很是緊迫,根本沒有多少時間能夠花在運維監控上。經過使用ARMS Prometheus,僅僅半小時百家雲就實現了容器節點環境的監控。相比開源 Prometheus 監控,ARMS Prometheus的數據量無上限且與阿里雲容器服務ACK無縫對接,讓百家雲在容器裏高效快速定位問題,瞭解可如何改善本身的產品。
阿里雲容器平臺的日誌服務(SLS)裏中小應用事件中心,詳細展現了集羣的狀態變動和組件異常等事件,幫助百家雲把節點裏面日誌的異常信息彙總到控制面板,及時告警。
李鋼江總結,阿里雲帶給百家雲的價值主要是如下三點:
一、提供了彈性計算的空間與敏捷安全的擴容能力:阿里雲對應用鏡像進行了鏡像預熱等手段,在擴容時可第一時間拉起容器。基於容器鏡像服務ACR 安全託管大規模容器鏡像資產,經過細粒度的鏡像受權管控,安全快速地對應用鏡像進行全生命週期管理。
二、提供了相對穩定的服務與優異性能:基於阿里雲自研的神龍軟硬一體架構,彈性裸金屬服務器(神龍)有着物理機的性能和虛擬機的使用體驗。經過利用神龍,百家雲實現更好地調度K8s集羣,加上高性能NAS服務,解決了I/O瓶頸問題。
三、技術支持團隊響應及時,幫助百家雲優化架構:百家雲之因此後來面臨擴容問題,部分源於其原來業務架構規劃未作好管理大規模集羣的準備,阿里雲幫助了百家雲在短期內優化了業務架構,優化集羣的管理能力。
阿里雲做爲全國第1、世界頂尖的雲服務商,在IaaS和PaaS層能力強大;百家雲在教育SaaS層的積累,能夠與阿里雲互補,一同以完整的在線教育方案去覆蓋市場。雙方正在逐步深化合做,百家雲將很快上線阿里云云市場——阿里雲SaaS加速器的商業平臺,即「軟件天貓」,後續用戶可直接在雲市場選購百家雲的服務。
2月26日上午10點歡迎加入阿里雲戰」疫「數字化課堂專題系列課程,詳細瞭解阿里雲在線教育完整解決方案,阿里雲技術如何助力在線教育應對大流量高併發,保證平臺持續安全運營以及疫情期間阿里雲對在線教育的特別支持政策。「雲+教育」無限可能,請掃描下方二維碼進入直播間。
若有須要,請郵件consulter@alibabacloud.com
查看更多:https://yqh.aliyun.com/detail..._content=g_1000106257
上雲就看雲棲號:更多雲資訊,上雲案例,最佳實踐,產品入門,訪問:https://yqh.aliyun.com/