CDN

CDN的原理,CDN 的實現方法,CDN 掛了怎麼及時更新等等問題css

先留着這個話題,有時間更新html

 

雲時代,爲了提高靜態資源的加載速度,大夥都是拼了。這促使近些年國內 CDN 的使用逐步普及。而做爲一家以圖片分享社區爲核心業務的公司,圖片 CDN 的使用比較多,下面梳理下本身的一些經驗。閉門造車,若有勘誤,你們多多包涵。nginx

主要包括瞭如下內容:瀏覽器

  1. CDN使用背景,圖片的分佈式存儲緩存

  2. CDN 網絡原理概述bash

  3. 批量添加、切換 CDN 的步驟和注意事項服務器

  4. 多 CDN 切換的步驟和注意事項markdown

  5. CDN 訪問故障分析網絡

CDN使用背景,圖片的分佈式存儲

由於下文中的CDN的使用都是基於咱們當前的圖片存儲,爲了下文介紹不是那麼突兀描述下當前圖片存儲的結構圖運維

雲時代必備 CDN 技能包

CDN 網絡原理概述

簡單畫了一張圖予以說明。

實際咱們在第五步,回源的時候,咱們會要求 CDN 服務商,不能全部節點直接回源到咱們源站,協商要求他們使用統一代理回源咱們源站,也就是說同一個資源只許他們回源一次。以後,其餘邊緣節點沒有緩存,請求他們自身的代理。

也就是說他們的 CDN 是有多級緩存的。

批量添加 CDN 的步驟和注意事項

業務需求:如今須要將某個域名(a.mengkang.net)下的圖片訪問的流量切換到 CDN 上。

操做步驟:

  1. 先對原域名下訪問日誌作統計,統計出訪問頻次較高的圖片地址(好比20萬個地址),把這些地址交給cdn服務商。

  2. 讓他們先去預熱抓取這20萬個地址的資源。

  3. 預熱完畢後,咱們再把(a.mengkang.net)的一部分域名換爲(b.mengkang.net)。而後把b.mengkang.net作cname解析到cdn服務器給定的域名地址上去(好比b.mengkang.ccgslb.com.cn)。

  4. 經過wget測試是訪問域名b.mengkang.net下的圖片是否可以被cdn緩存住。

  5. cache測試沒有問題以後,我再把a.mengkang.net下的部分流量切到b.mengkang.net上去,同事運維的同事監控流量回源的狀況,根據回源狀況再對分配流量的大小作調整。

多 CDN 切換的步驟和注意事項

http://mengkang.net/608.html

CND資源訪問故障的定位

案例一:圖片大面積沒法加載,同一圖片地址,時而能打開,時而沒法訪問。沒法訪問時,單獨訪問圖片地址發現還跳轉到了一個遊戲網站主頁。

聯繫 CDN 客服,獲得的反饋是運營商 DNS 劫持,他們的服務沒問題。(很是的消極怠工)

拿下面這張圖片做爲例子 http://f4.topit.me/4/2d/d1/1133196716aead12d4s.jpg

1. 首先咱們肯定咱們源站資源是可訪問的,在 CDN 回源上不存在問題

咱們經過wget命令綁定域名host,假如源站ip111.1.23.214,這樣則會繞過 CDN,直接訪問咱們源站了。

  1. wget -S -0 /dev/null --header="Host: f4:topit.me" http://111.1.23.214/4/2d/d1/1133196716aead12d4s.jpg

確認圖片是能正常訪問的。

2. 而後經過wget -S打印詳細的 http 頭信息

  1. wget -S  http://f4.topit.me/4/2d/d1/1133196716aead12d4s.jpg

請求結果以下

  1. # wget -S  http://f4.topit.me/4/2d/d1/1133196716aead12d4s.jpg
  2. --2014-11-08 21:47:34--  http://f4.topit.me/4/2d/d1/1133196716aead12d4s.jpg
  3. Resolving f4.topit.me... 123.150.50.14, 123.150.50.13
  4. Connecting to f4.topit.me|123.150.50.14|:80... connected.
  5. HTTP request sent, awaiting response... 
  6.   HTTP/1.1 302 Moved Temporarily
  7.   Server: nginx/1.7.3
  8.   Date: Sat, 08 Nov 2014 13:45:31 GMT
  9.   Content-Type: text/html; charset=iso-8859-1
  10.   Content-Length: 218
  11.   Location: http://www.aiaigame.com/index.html
  12.   Cache-Control: max-age=300
  13.   Expires: Sat, 08 Nov 2014 13:50:31 GMT
  14.   Powered-By-ChinaCache: MISS from CHN-SX-3-3gC.2
  15.   Age: 125
  16.   Powered-By-ChinaCache: HIT from CHN-TJ-7-3V2.6
  17.   Connection: close
  18. Location: http://www.aiaigame.com/index.html [following]
  19. --2014-11-08 21:47:36--  http://www.aiaigame.com/index.html
  20. Resolving www.aiaigame.com... 119.90.14.54, 119.90.14.59, 220.181.64.153, ...
  21. Connecting to www.aiaigame.com|119.90.14.54|:80... connected.
  22. HTTP request sent, awaiting response... 
  23.   HTTP/1.1 200 OK
  24.   Date: Sat, 08 Nov 2014 13:42:50 GMT
  25.   Server: Apache/2.2.10 (Unix) DAV/2 PHP/5.2.6 mod_ssl/2.2.10 OpenSSL/0.9.8e-fips-rhel5
  26.   Last-Modified: Fri, 07 Nov 2014 09:14:50 GMT
  27.   ETag: "31a8087-132ee-507413eb6f680"
  28.   Accept-Ranges: bytes
  29.   Content-Length: 78574
  30.   Cache-Control: max-age=300
  31.   Expires: Sat, 08 Nov 2014 13:47:50 GMT
  32.   Vary: Accept-Encoding,User-Agent
  33.   Content-Type: text/html
  34.   Powered-By-ChinaCache: HIT from 01011623g3.3
  35.   Age: 288
  36.   Powered-By-ChinaCache: HIT from 01001743SJ
  37.   Connection: keep-alive
  38. Length: 78574 (77K) [text/html]
  39. Saving to: 「index.html.4」
  40.   
  41. 100%[=====================================================================================================================================================>] 78,574      --.-K/s   in 0.005s  
  42.   
  43. 2014-11-08 21:47:38 (16.3 MB/s) - 「index.html.4」 saved [78574/78574]

經過該請求,咱們能夠清楚的看到,請求是先已經鏈接到了123.150.50.14:80而後發生的302跳轉,頭信息裏清楚的寫到Powered-By-ChinaCache: HIT from CHN-TJ-7-3V2.6,也就是說是 CDN 自身的問題,並且下面的跳轉的網頁也是使用ChinaCache的客戶。

這樣問題獲得了定位,CDN 那邊也沒法再推脫,才着手處理。

案例二:訪問網頁時 css 裏面的圖片都沒法訪問,單獨打開圖片地址能訪問。使用 wget --referer 定位是防盜鏈錯誤設置

故障截圖(有點醜)

我把這個問題反饋給客服,給個人答覆是他們沒有作任何限制,是咱們源站的問題。那隻能講證據了。

1. 首先確認源站沒問題,模擬瀏覽器訪問時帶上referer

  1. wget -S -O /dev/null --header="Host: img.topit.me" --referer="http://static.topitme.com/s/css/main21.css" http://211.155.84.132/img/bar/next.png

結果以下,說明源站是沒有設置權限的

  1.  wget -S -O /dev/null --header="Host: img.topit.me" --referer="http://static.topitme.com/s/css/main21.css" http://211.155.84.132/img/bar/next.png
  2. --2015-05-07 13:52:50--  http://211.155.84.132/img/bar/next.png
  3. Connecting to 211.155.84.132:80... connected.
  4. HTTP request sent, awaiting response... 
  5.   HTTP/1.1 200 OK
  6.   Server: nginx
  7.   Date: Thu, 07 May 2015 05:52:50 GMT
  8.   Content-Type: image/png
  9.   Content-Length: 3022
  10.   Connection: keep-alive
  11.   Last-Modified: Wed, 04 Jan 2012 14:44:07 GMT
  12.   Expires: Sun, 04 May 2025 05:52:50 GMT
  13.   Cache-Control: max-age=315360000
  14.   Accept-Ranges: bytes
  15. Length: 3022 (3.0K) [image/png]

同時,綁定host的也採用另外一種方式wget -e http_proxy

  1. wget -SO /dev/null --referer="http://static.topitme.com/s/css/main21.css" http://img.topit.me/img/style/icon_heart.png -e http_proxy=211.155.84.137

2. 而後直接請求,不綁定host再請求

  1. wget -S  -O /dev/null  --referer="http://static.topitme.com/s/css/main21.css"  http://img.topit.me/img/bar/next.png
  2. --2015-05-07 11:29:21--  http://img.topit.me/img/bar/next.png
  3. Resolving img.topit.me... 111.202.7.252, 125.39.78.164
  4. Connecting to img.topit.me|111.202.7.252|:80... connected.
  5. HTTP request sent, awaiting response... 
  6.   HTTP/1.1 403 Forbidden
  7.   Server: nginx
  8.   Date: Thu, 07 May 2015 03:29:21 GMT
  9.   Content-Type: text/html
  10.   Content-Length: 162
  11.   Connection: keep-alive
  12. 2015-05-07 11:29:21 ERROR 403: Forbidden.

能夠清晰的看到域名的解析過程,CDN DNS 經過預約義策略,返回到最優的 ip 111.202.7.252予以訪問。而後返回了403。只有我截圖對比了兩種狀況,CDN 客服才主動着手處理這個問題。

永遠不要期望着客服來幫你解決問題,只有本身找到問題,他們逼無可退的時候才肯認可是本身的問題。

相關文章
相關標籤/搜索
本站公眾號
   歡迎關注本站公眾號,獲取更多信息