聽阿里技術大神講解今年雙11背後的關鍵技術

from :http://www.chinacloud.cn/show.aspx?id=22417&cid=18web

天貓淘寶的雙11活動已通過去了十多天,今年的雙11有232個國家參與進來成爲名副其實的全球瘋狂購物節。相信全部的數字你們都已經很清楚了,11日全天的交易額達到912.17億元,其中在移動端交易額佔比68%今年每秒的交易峯值達到14萬筆,螞蟻金服旗下的支付寶交易峯值達到8.59萬筆/秒,這一系列的數字,考驗的是阿里巴巴背後強大的IT支持能力。最近,阿里雙11的總導演何導(何雲飛)率主要研發工做人員,接受了CSDN記者的採訪,解讀了今年雙11背後都採用了哪些關鍵技術。數據庫

  何導主要從今年雙11的架構解讀了今年的混和雲模式後端

  他介紹說,雙11已經作了7年,首先要考慮的是如何應對這個交易峯值。從成本的角度考慮,採購很是多的IT資源放在那裏爲了那最多半小時確定是不經濟的,因此就須要利用雲的模式,利用公有云,快速把資源調度過來,迅速投入應對用戶的海量訪問。等峯值事後,再快速把資源釋放。這是雲的好處,因此最後選擇了公有云+混合雲的組合模式,來支撐今年雙十一的峯值。安全

  


  也許有不少小夥伴會以爲,阿里不是有公有云麼,直接把阿里巴巴的系統裝到公有云上這個架構不就解決了嗎?事情沒有這麼簡單。阿里巴巴通過了15年的系統建設,系統很是很是複雜,裏面不知有多少個系統在流轉,一個訂單要流過多少系統、數據庫交互,這個複雜程度通常人是想象不到的。因此就算是用公有云支撐系統,最快的方式也是用混合雲聯繫起來。因此阿里把核心交易系統、支付系統乾乾淨淨地放到公有云上,還有一些複雜的業務系統在裏面互相調用。服務器

  何導認爲,除了用混合雲來應對雙11這種極端的峯值狀況外,常規的企業也能夠運用混合雲,由於它是一個快速、安全、彈性、低成本的利用公有云的方式。每一個企業的系統全面上雲的話,你們須要考慮一下。由於這個企業裏面系統訂單、商品、交易、財務、支付,這些系統要能所有搬上去是很是複雜。固然了有些系統很是簡單,好比說網站沒有交易的是速度很快,一個服務器、一個數據庫就搞定了。網絡

  若是客戶想用公有云,何導認爲這裏存在一個兼容性的問題。用戶想要用公有云去支撐業務,那麼內部的系統跟公有云的系統必定是兼容的,整個基礎設施應該是平滑過渡。阿里全部雲上的產品是能讓電商核心系統運行起來,包括從操做系統、中間件、數據庫須要徹底兼容。這些產品在aliyun.COM上能夠看到雲服務器、負載均衡、RDS雲數據庫,這是企業裏面最經常使用的三大件。在不久的未來,用戶還會看到阿里自研的大數據產品ODPS,還有OceanBase數據庫產品,將來都會在雲上開放。架構

  通過這次雙11的展示,阿里混合雲的好處,同時也是雲計算的本質,那就是對於用戶來講是隨時可得,儘量去突破距離、地域、規則的限制,來爭取人們最珍貴的東西——時間和資源。雲計算技術就是在不斷優化資源調度,不斷讓用戶的時間節省下來。雲平臺的本質是調度系統鏈接網絡去作好,讓這樣的技術是能夠流轉起來的。負載均衡

  顏然分享了OceanBase數據庫的使用狀況分佈式

  第二個分享技術經驗的就是OceanBase數據庫的研發人員,螞蟻金服的高級技術專家韓富晟(顏然)。他首先簡單介紹OceanBase究竟是什麼。性能

  OceanBase究竟是什麼?

  一、徹底自主研發的關係數據庫。它是一個關係數據庫系統。而後是在阿里內部從第一行代碼開始本身寫的,徹底本身研發的一個關係數據庫系統。

  二、金融級別的可靠性。由於數據庫支撐的是支付寶、餘額寶裏的真實交易,是不能出錯的,因此對於可靠性的要求是很是高的。

  三、有更低的成本。由於咱們採用的技術能把硬件自己的效率發揮得更好,因此咱們能夠得到更低的成本。

  


  螞蟻金服的高級技術專家韓富晟(顏然)介紹OceanBase

  咱們如今之因此還能去作一個OceanBase,更重要的一點是現有常見的一些幾大廠商的數據庫,誕生的時間大概是在40年前左右。那個時候你們面臨的硬件環境是單純的主機,而後在主機上編寫相應的軟件來作數據的存儲。如今現在雲計算的發展使得咱們開發軟件的時候面臨的不是單臺機器,而是集羣的環境,面對着不少臺機器,你們共同去知足業務的需求。面臨的硬件背景不同了,因此纔有更新的架構來實現很高的可靠性、更高的性能、更低的成本。

  OceanBase是2010年5月份開始立項的,到今天爲止有五年多的時間,從去年「雙十一」開始使用了,有10%的交易流量是留在OceanBase數據庫系統上,到今年百分之百已經所有切過來了。

  今年的「雙十一」百分之百流量遷過來以後,其實代表得到了全部人的承認,你們願意把關於錢、關於金融相關的事情放在了OceanBase數據庫上,這就是今天能站在這裏去跟你們介紹系統的緣由。

  今年的「雙十一」,支付寶整個核心鏈路是運行在OceanBase上面。這兩個數字你們在外面都見過,一個是14萬每秒的訂單建立,還有8.59萬筆每秒支付。建立是當用戶在天貓、淘寶頁面上點機當即購買或在購物車結算的時候會建立訂單,訂單會有至關複雜的流程把數據顯示在數據庫裏面,,而後跳到支付寶頁面去付錢。由於你們都在0點準備搶東西,因此那個時候峯值最高的。支付日後稍微錯一點,有一點錯的效應,因此是8.59萬筆,比14萬低一點,所有會落在OceanBase裏面。以交易系統爲例,在「雙十一」一天寫進數據庫的數據量有10TB。

  這麼多年來,已經陸陸續續有特別多的系統開始用OceanBase系統。像國際交易是阿里供應商系統也在用了。收藏夾是你們在收藏商品的時候,淘足跡是有一個頁面看你全部瀏覽的產品,這些交易已經慢慢開始使用OceanBase了。今年「雙十一」除了核心鏈路關注比較高的以外,這些業務也是使用OceanBase做爲後臺的數據庫了。

  畢玄:異地多活技術 三年心血終於成功

  另一個阿里本身的技術就是異地多活技術,阿里巴巴技術保障部研究員林昊(畢玄)經歷了三年的研發,今年終於把這個技術徹底應用到雙11中,而此次,也是把整個異地多活技術研發經歷講得清清楚楚。

  林昊說:「對於阿里的交易以及支付來說,作異地多活最重要的目的除了災備以外,更重要的點是追求持續可用,整個支付交易的體量對於用戶來說是持續可用。」

  阿里之因此作異地多活主要是以爲兩地三中心並非最好的模式,它存在弊端。

  兩地三中心對於阿里來說是有問題的,最重要的問題是:

  一、這個模式不必定Work。好比說某些地方用了兩地三中心以後,當一地的數據中心出問題的時候,是不敢流量切往異地的備份數據中心,緣由是異地的備份數據中心是冷的,平時是沒有用戶流量進去的。若是要把流量切到那邊起來以後,其實沒有人有多強的信心可以保障起用之後是能夠正常服務的,畢竟平時都是冷的。由於是冷的,就意味着整個起用的過程須要時間,不可能提及用就起用,必定會有時間週期。這是兩地三中心的最大問題,看起來模式是很安全的,也是可用的,可是事實上不必定是這樣。

  二、異地備份中心由於不對外提供服務,因此整個資源會處於浪費狀態,成本比較高企。

  三、對於阿里的規模來說有一個很大的問題,在兩地三中心中,數據必定是單點去寫。其實數據只在一個地方去寫,這個時候若是整個壓力比較高,好比像「雙十一」的場景中壓力很是高的狀況下,就意味着在兩地三中心的狀況下全部的數據仍是寫上的單個點,對於存儲成本壓力會不斷增長。好比去年8萬、今年14萬意味着每一年壓力都在增長,這時候數據庫整個伸縮和外層業務的伸縮都面臨着更大挑戰。

  對於咱們來說這三個問題是比較明顯的。

  阿里在整個高可用上也經歷過了一段時間,主要是作了三個步驟。第一個是作了同城的雙活,第二個作了異地只讀及冷備,第三個是作了異地多活,經歷了三代體系的演進才走到了今天。

  阿里決定開始作異地多活,要的目標是:

  一、須要多個跨地域的數據中心。異地多活是跨地域的,並且距離必定要作到1000千米以上的範圍,其實在中國範圍內全國城市均可以去布了。

  二、每一個數據中心都要承擔用戶的讀寫流量。若是隻是備或只讀業務來說,做用不是很大。

  三、多點寫。由於每一個數據中心去承擔用戶讀寫流量的話,若是讀或寫集中到全國一個點的話,整個延遲是沒有辦法承受的。

  四、任意一個數據中心出問題的時候,其餘中心均可以分鐘級去接管用戶的流量。

  這個是阿里在作異地多活項目的時候,但願在這四點上都可以作到,而後也只有這樣的狀況下才認爲是一個異地多活的業務。

  異地多活對於咱們來說,其實不少人均可以看到異地多活最大的挑戰是什麼?

  一、距離。看起來距離沒有什麼,好比說1000千米以上也就是30毫秒的網絡延遲,來回一次是30毫秒左右。30毫秒對於用戶來說,若是隻是給你增長30毫秒,用戶其實沒有感覺。可是當你打開一個淘寶頁面的時候,事實上當你在商品頁面看到一個商品點馬上購買的時候,頁面的背後大概有100屢次以上的後端交互,若是100屢次所有跨地域完成的話,就意味着頁面的響應時間將增長3秒。若是增長3秒,用戶絕對會有明顯感覺。由於對於阿里來說,不少頁面就出不來了,3秒已經超時了。對於咱們來說,這第一點是直接帶來用戶體驗的不可用。

  成本,當系統響應時間增高的時候,意味着每一年「雙十一」增長的QPS將付出更大的成本,由於吞吐量在降低,這個時候的成本也是很難接受的。距離帶來的延時問題是最大的問題。

  二、既然要解決掉距離的問題,多點寫是解決距離的問題,若是沒有延時問題能夠很少點寫。只要開始多點寫了就會帶來第二個最複雜的問題,其實咱們認爲第一點延時問題必定程度也許能夠強制接受,也就是可以打開,打不開就有問題了。若是一旦出現多點寫帶來的數據正確性問題,這對咱們來說是最致命的。多點寫,好比說出現這一次訪問在A數據中心寫的數據,而後再訪問的時候到B數據中心又寫了一條數據,兩條數據若是合不到一塊兒的話。對於你們最直觀的感覺是有可能買了一個東西付了錢,而後看到多是沒付錢。或者乾脆買了一個東西,壓根就沒有看到購買。對於阿里來說,這是最大的一個問題。

  對於咱們來說,在多點寫的狀況下最大的挑戰是怎麼保證用戶寫入的數據必定是在正確的地方,另外看到的必定是一致的,這是整個異地多活中最大的挑戰。

  針對這兩個個問題,對於延時的問題來說,其實延長時的問題意味着最好的解決方案是什麼呢?若是這一次訪問頁面的整個操做所有在當前機房內完成的,天然就不存在延時問題,由於沒有跨出去。

  針對第二個問題,異地。在全國部署的時候,意味着是否是要把整個業務所有全國部署,由於這有成本因素。你們知道阿里的業務很是龐雜,其實沒有必要把全部的業務都在全國部署,由於不是全部的業務都有足夠的量。

  由於不是整個業務全國部署,因此決定起另一個名字叫單元化。意味着我是把業務劃成了各類各樣的單元,好比有交易的單元,這個單元是完成交易業務,因此在內部代號是單元化項目。

  爲了解決延時問題,能在一個機房內完成就不存在延時問題。另一個核心思想是單元封閉,須要讓單元內的應用訪問和數據的讀寫操做所有處於封閉狀態,這就是最完美的情況。若是能作到這樣,其實在全國任意城市部署都不會有問題。

  開始多點寫之後,怎麼去保障整個數據寫入的正確性以及一致性。阿里確實作了很是多的東西,由於一個用戶訪問阿里的時候,其實阿里的背後是龐大的分佈式系統,你訪問了一層可能只訪問了一個系統,事實上背後牽涉進來幾十個系統。我們把整你在訪問每一層的時候路由都是正確的,好比這個用戶訪問數據中心A,可是因爲某個緣由訪問到數據中心B,怎麼在保證後面訪問不一樣系統的時候準確跳轉到正確的地方去,由於每一個數據中心的數據不太同樣。

  爲了保證一個用戶真正寫數據的時候不要寫錯,寫入數據庫以前都會作保護動做,確保用戶寫的數據沒有寫錯一個地方。若是寫錯一個地方,可能就沒法恢復了,因此在那個地方有最後的一層保護。同時有實時數據校驗系統檢查是否符合咱們的指望。

  對於異地多活來說,還有數據一致性中很大的挑戰會出如今流量切換的動做中,好比說AB兩個數據中心,A開始是承擔20%的流量,8承擔80%的流量。當把流量從一個地方切到另一個地方的時間,有可能出現切換過程當中你還在A數據中心寫,但其實寫完以後到B了,有可能看到出現的數據是不一致的。怎麼保證在整個流量切換過程當中數據是絕對一致的,咱們也作了不少的東西。

  在異地整個數據中心還有另一個很是重要的核心技術產品,就是咱們須要一個數據同步的東西。由於你們知道阿里如今除了OB之外,很重要的一塊是MySQL,MySQL本身的主備是沒有辦法知足要求,在異地作到延時是沒有辦法知足的,咱們決定作了自研的數據同步產品。在2015年「雙十一」中,全部數據同步控制在1秒之內,1秒之內是能夠接受的。

  阿里爲了作到整個異地多活,其實本身也折騰了不少年。這個項目在阿里內部總共花了三年的時間,本身在最近的一封總結郵件中也寫到,經歷了三年的磨鍊,咱們終於把異地多活變成了阿里電商架構級的能力,意味着在整個架構中具有異地多活的能力,在之前也許不必定具有。

  咱們爲了整個過程當中是比較平滑的,由於不能對業務產生太大影響,因此分了三年的時間去完成。在2013年首先採用的是在同城起用了兩個單元雙活,真正意義的雙活,由於那兩個單元都是寫本身的數據庫的,兩個單元都是雙寫。

  在2014年以爲能夠往前更進一步,選擇了距離更近的城市,其實仍是有延時。若是沒有作過單元化改造業務部署到異地的時候,頁面會超時,有些頁面打不開。可是由於單元化在背後就沒有太大問題,在2014年成功在兩個相距有必定距離的城市起用了異地雙活,在去年「雙十一」中兩個城市分別承擔了50%的用戶流量,有些用戶會訪問一個城市,有些用戶訪問另一個城市,當下單的時候會下在同一個城市裏面。

  在今年單元化能夠宣告能力基本成熟的階段,因此在今年開始起用了距離在1000千米以上的另一個數據中心,而後今年數據中心是多點部署。從2015年從2個變成3個或4個之後,對於咱們來說的另一點是由於距離增長到了1000千米以上,基本上意味着阿里整個電商以及支付是能夠在全國任意一個城市去部署,而且能夠部署多個,意味着之後的「雙十一」整個擴充能力是會變得很容易。

  對於咱們來說,當阿里整個架構能力進一步提高到了異地多活時代之後,對於咱們來說帶來了兩個好處:

  第1、有極強的水平伸縮能力。之前作「雙十一」的時候,都必須去算,好比去年8萬筆,今年14萬筆的時候,必需要算增長的6萬。還有由於每一年業務模式的變化須要算每一個應用加多少機器。可是在單元的狀況下,一組單元就是多大的能力,而後只要按照單元擴充就結束了。假設一個單元能夠作到2萬筆,其實14萬筆對於咱們來說是建設7個單元就結束了,整個伸縮能力會比之前強大很是多。並且每一個單元都是寫本身的數據庫和存儲層,包括cache所有寫本身的,這個時候伸縮規模是可控的,不像之前不斷加,數據庫有可能抗不住。在抗不住的時候可能會作分佈等等,但其實也是比較複雜的,如今咱們改變了伸縮力度的模式。

  第2、異地多活怎麼去應對故障。好比在阿里內部會按照這樣的等級去劃分全部業務可以支持故障應對能力,好比說單實例出故障在多久能恢復,或者單機房或單城市或全局的服務,好比DNS等等,咱們會按照這個對每一個業務,而後就知道每一個業務當出現故障時整個應對能力是怎樣的。

  在阿里作完之後,但願整個異地多活的能力能逐漸演變成業界的,好比說在阿里作了整個多活之後,其實金融行業也再也不但願本身只是一個兩地三中心而已,但願更加往前前進一步,對於他們來說整個投入會更加划算。另外容災能力會更強。阿里把本身異地多活的能力沉澱成不一樣的東西,好比支付寶、螞蟻金服把本身的能力承擔到金融雲裏,就意味着在金融雲上搭建的金融系統會天然具有異地多活的能力。

  編輯總結

  經過上面幾位技術大拿的講解,咱們會發現,因爲中國網民數量是世界之最,中國互聯網公司所面對的技術問題是其餘國家很難想象的,因此咱們的技術也都須要本身去研發。以阿里爲主的互聯網人,經過雙11這種殘酷的考驗來鍛鍊本身的技術和產品,從而用這種產品爲更多的用戶服務。

安慶英語培訓機構 安順英語培訓機構 安陽英語培訓機構 鞍山英語培訓機構 阿拉善英語培訓機構 安康英語培訓機構 阿壩英語培訓機構 阿里英語培訓機構 阿克蘇英語培訓機構 阿勒泰英語培訓機構 北京英語培訓機構 蚌埠英語培訓機構 亳州英語培訓機構 白銀英語培訓機構 北海英語培訓機構 百色英語培訓機構 畢節英語培訓機構 保定英語培訓機構 白山英語培訓機構 白城英語培訓機構 本溪英語培訓機構 包頭英語培訓機構 巴彥淖爾英語培訓機構 濱州英語培訓機構 寶雞英語培訓機構 巴中英語培訓機構 巴音郭楞英語培訓機構 博爾塔拉英語培訓機構 保山英語培訓機構 重慶英語培訓機構 潮州英語培訓機構 滁州英語培訓機構 巢湖英語培訓機構 池州英語培訓機構 崇左英語培訓機構 滄州英語培訓機構 承德英語培訓機構 長沙英語培訓機構 常德英語培訓機構 郴州英語培訓機構 長春英語培訓機構 常州英語培訓機構 朝陽英語培訓機構 赤峯英語培訓機構 長治英語培訓機構 成都英語培訓機構 昌都英語培訓機構 昌吉英語培訓機構 楚雄英語培訓機構 東莞英語培訓機構 定西英語培訓機構 大慶英語培訓機構 大興安嶺英語培訓機構 大連英語培訓機構 丹東英語培訓機構 東營英語培訓機構 德州英語培訓機構 大同英語培訓機構 德陽英語培訓機構 達州英語培訓機構 大理英語培訓機構 德宏英語培訓機構 迪慶英語培訓機構 鄂州英語培訓機構 恩施英語培訓機構 鄂爾多斯英語培訓機構 佛山英語培訓機構 阜陽英語培訓機構 福州英語培訓機構 防城港英語培訓機構 撫州英語培訓機構 撫順英語培訓機構 阜新英語培訓機構 廣州英語培訓機構 甘南英語培訓機構 桂林英語培訓機構 貴港英語培訓機構 貴陽英語培訓機構 贛州英語培訓機構 固原英語培訓機構 果洛英語培訓機構 廣安英語培訓機構 廣元英語培訓機構 甘孜英語培訓機構 惠州英語培訓機構 河源英語培訓機構 杭州英語培訓機構 湖州英語培訓機構 合肥英語培訓機構 淮南英語培訓機構 鶴壁英語培訓機構 黃山英語培訓機構 河池英語培訓機構 賀州英語培訓機構 海口英語培訓機構 邯鄲英語培訓機構 衡水英語培訓機構 哈爾濱英語培訓機構 鶴崗英語培訓機構 黑河英語培訓機構 黃石英語培訓機構 黃岡英語培訓機構 衡陽英語培訓機構 懷化英語培訓機構 淮安英語培訓機構 葫蘆島英語培訓機構 呼和浩特英語培訓機構 呼倫貝爾英語培訓機構 海東英語培訓機構 海北英語培訓機構 黃南英語培訓機構 海西英語培訓機構 菏澤英語培訓機構 漢中英語培訓機構 哈密英語培訓機構 和田英語培訓機構 紅河英語培訓機構 荊門英語培訓機構 揭陽英語培訓機構 嘉興英語培訓機構 金華英語培訓機構 嘉峪關英語培訓機構 金昌英語培訓機構 酒泉英語培訓機構 焦做英語培訓機構 雞西英語培訓機構 佳木斯英語培訓機構 荊州英語培訓機構 吉林英語培訓機構 景德鎮英語培訓機構 九江英語培訓機構 吉安英語培訓機構 錦州英語培訓機構 濟南英語培訓機構 濟寧英語培訓機構 晉城英語培訓機構 晉中英語培訓機構 開封英語培訓機構 克拉瑪依英語培訓機構 喀什英語培訓機構 昆明英語培訓機構 麗水英語培訓機構 六安英語培訓機構 洛陽英語培訓機構 蘭州英語培訓機構 隴南英語培訓機構 臨夏英語培訓機構 柳州英語培訓機構 來賓英語培訓機構 六盤水英語培訓機構 廊坊英語培訓機構 漯河英語培訓機構 婁底英語培訓機構 遼源英語培訓機構 連雲港英語培訓機構 遼陽英語培訓機構 萊蕪英語培訓機構 臨沂英語培訓機構 聊城英語培訓機構 臨汾英語培訓機構 呂梁英語培訓機構 瀘州英語培訓機構 樂山英語培訓機構 涼山英語培訓機構 拉薩英語培訓機構 林芝英語培訓機構 麗江英語培訓機構 臨滄英語培訓機構 茂名英語培訓機構 梅州英語培訓機構 馬鞍山英語培訓機構 牡丹江英語培訓機構 綿陽英語培訓機構 眉山英語培訓機構 寧波英語培訓機構 南平英語培訓機構 寧德英語培訓機構 南寧英語培訓機構 南陽英語培訓機構 南京英語培訓機構 南通英語培訓機構 南昌英語培訓機構 南充英語培訓機構 內江英語培訓機構 那曲英語培訓機構 怒江英語培訓機構 莆田英語培訓機構 平涼英語培訓機構 濮陽英語培訓機構 平頂山英語培訓機構 萍鄉英語培訓機構 盤錦英語培訓機構 攀枝花英語培訓機構 清遠英語培訓機構 欽州英語培訓機構 慶陽英語培訓機構 黔南英語培訓機構 黔東南英語培訓機構 黔西南英語培訓機構 遷安英語培訓機構 秦皇島英語培訓機構 齊齊哈爾英語培訓機構 七臺河英語培訓機構 青島英語培訓機構 曲靖英語培訓機構 日照英語培訓機構 日喀則英語培訓機構 上海英語培訓機構 深圳英語培訓機構 汕頭英語培訓機構 韶關英語培訓機構 汕尾英語培訓機構 紹興英語培訓機構 宿州英語培訓機構 三明英語培訓機構 三亞英語培訓機構 石家莊英語培訓機構 三門峽英語培訓機構 商丘英語培訓機構 雙鴨山英語培訓機構 綏化英語培訓機構 十堰英語培訓機構 隨州英語培訓機構 邵陽英語培訓機構 四平英語培訓機構 松原英語培訓機構 蘇州英語培訓機構 宿遷英語培訓機構 上饒英語培訓機構 瀋陽英語培訓機構 石嘴山英語培訓機構 朔州英語培訓機構 商洛英語培訓機構 遂寧英語培訓機構 山南英語培訓機構 石河子英語培訓機構 天津英語培訓機構 台州英語培訓機構 銅陵英語培訓機構 天水英語培訓機構 銅仁英語培訓機構 唐山英語培訓機構 通化英語培訓機構 泰州英語培訓機構 鐵嶺英語培訓機構 通遼英語培訓機構 泰安英語培訓機構 太原英語培訓機構 銅川英語培訓機構 吐魯番英語培訓機構 塔城英語培訓機構 溫州英語培訓機構 蕪湖英語培訓機構 武威英語培訓機構 梧州英語培訓機構 武漢英語培訓機構 無錫英語培訓機構 烏海英語培訓機構 烏蘭察布英語培訓機構 吳忠英語培訓機構 濰坊英語培訓機構 威海英語培訓機構 渭南英語培訓機構 烏魯木齊英語培訓機構 文山英語培訓機構 宣城英語培訓機構 廈門英語培訓機構 邢臺英語培訓機構 信陽英語培訓機構 新鄉英語培訓機構 許昌英語培訓機構 襄樊英語培訓機構 咸寧英語培訓機構 孝感英語培訓機構 湘潭英語培訓機構 湘西英語培訓機構 徐州英語培訓機構 新餘英語培訓機構 興安盟英語培訓機構 錫林郭勒英語培訓機構 西寧英語培訓機構 忻州英語培訓機構 西安英語培訓機構 咸陽英語培訓機構 西雙版納英語培訓機構 陽江英語培訓機構 雲浮英語培訓機構 義烏英語培訓機構 玉林英語培訓機構 伊春英語培訓機構 宜昌英語培訓機構 岳陽英語培訓機構 益陽英語培訓機構 永州英語培訓機構 延邊英語培訓機構 揚州英語培訓機構 鹽城英語培訓機構 鷹潭英語培訓機構 宜春英語培訓機構 營口英語培訓機構 銀川英語培訓機構 玉樹英語培訓機構 煙臺英語培訓機構 陽泉英語培訓機構 運城英語培訓機構 延安英語培訓機構 榆林英語培訓機構 宜賓英語培訓機構 雅安英語培訓機構 伊犁英語培訓機構 玉溪英語培訓機構 珠海英語培訓機構 湛江英語培訓機構 肇慶英語培訓機構 中山英語培訓機構 舟山英語培訓機構 漳州英語培訓機構 張掖英語培訓機構 資陽英語培訓機構 張家口英語培訓機構 鄭州英語培訓機構 駐馬店英語培訓機構 周口英語培訓機構 株洲英語培訓機構 張家界英語培訓機構 鎮江英語培訓機構 中衛英語培訓機構 淄博英語培訓機構 棗莊英語培訓機構 自貢英語培訓機構 昭通英語培訓機構 英語培訓機構

相關文章
相關標籤/搜索