1 選題背景 html
美國互聯網流量監測機構comeScore在2013年5月發佈報告稱,2013年4月有1.829億美國人觀看了網絡視頻,觀看量達到388億次,網絡視頻廣告觀看量也創下132億次的歷史新高。總的來看,當月共有84.7%的美國人觀看過網絡視頻。平均每段網絡視頻內容持續5.6分鐘,平均每段網絡視頻廣告持續0.4分鐘。 程序員
在國內,據iUserTracker監測數據顯示,在線視頻在2012年第二季度已經超越搜索服務和社區交友,成爲中國用戶規模最大的網絡服務,2012年5月用戶規模達到4.2億。艾瑞的分析報告指出,2012年視頻行業總體市場規模達到92.5億元,同比2011年增加了47.6%,並且將來還會以30%以上的速度繼續增加。 redis
根據以上統計數據,網絡視頻的網民滲透率很是高,網絡視頻聚集了大量網民。而在2012年世界網民的數量已經超過25億,國內網民的規模也達到了5.64億。面對規模如此之大的網絡視頻市場,在線視頻服務商們對這塊大蛋糕固然是虎視眈眈。 算法
視頻行業充滿機遇與挑戰。2012年,國務院「寬帶中國」工程,加快信息網絡寬帶化升級的決定出爐,北京、上海、南京、西安等城市也前後宣佈了大幅度免費提高居民寬帶速度。業內預計,此舉將讓網絡視頻等對網絡環境有較高要求的行業迎來新的發展機遇。隨着視頻成爲網絡基礎應用,大量企業須要經過本身網站進行視頻推廣,而傳媒和教育等行業更須要構建在線視頻平臺。傳統狀況下,企業須要花費巨大的資金成本購置寬帶和服務器,再僱傭技術公司來自建系統,繼而組建一支IT團隊對系統進行後期維護和升級。最後倒是投入和產出之間的極大不平衡。 mongodb
保利威視(POLYV)(保利威視,http://www.polyv.net)是在此背景下提出來的一個集視頻管理、視頻存儲、視頻轉碼、視頻加密、視頻CDN分發、視頻播放器、多終端播放支持、廣告系統、統計系統於一身的在線視頻(SAAS)雲服務平臺。用戶只需按需購買保利威視(POLYV)的服務,便可快速開展在線視頻業務,大大節約了企業的成本並提升了效率,使多數企業的核心競爭力迴歸業務自己,抹平企業規模所致使的優劣差距,從而糾正互聯網企業競爭資本化的趨勢。保利威視(POLYV)也將大幅度下降中小企業參與競爭的門檻,爲市場注入更多的活力,有利於行業的長足發展。 數據庫
2 平臺需求 緩存
保利威視(POLYV)在線視頻雲服務平臺須要提供視頻發佈、視頻轉碼、視頻存儲、視頻管理、播放器設置、多終端播放、廣告系統、統計系統、視頻加密等基礎核心功能。 安全
2.1 視頻發佈 服務器
保利威視(POLYV)提供至少3種視頻上傳方式:經過保利威視(POLYV)管理後臺進行上傳,經過保利威視(POLYV)客戶端進行上傳,使用Flash插件上傳。其中,保利威視(POLYV)客戶端須要支持大文件(2G以上)上傳,並支持斷點續傳。 網絡
2.2 視頻轉碼
保利威視(POLYV)支持對FLV、MP四、AVI、MPG、MOV、ASF、3GP、F4V、WMV等多種格式的視頻源文件進行轉碼,輸出多種碼率、多種格式的視頻文件,同時須要抽取視頻的關鍵幀,造成視頻的截圖集。
2.3 視頻存儲
提供PB級別的存儲能力,多副本、多數據中心容災備份,並提供高帶寬、覆蓋全國骨幹節點的雙CDN加速服務。
2.4 視頻管理
視頻信息編輯、刪除、視頻搜索、截圖修改、視頻預覽、播放列表、視頻信息分頁顯示等多項視頻管理功能。
2.5 播放器設置及多終端播放
提供豐富的播放器皮膚,用戶可自由調節播放器面板的顏色、透明度、視頻水印、播放器LOGO,能夠設置片頭、片尾、播放列表的位置等,提供實時預覽功能,立刻看到設置效果。
視頻能夠在Web頁面播放,也能夠在iOS設備(iPad、iPhone)上播放,也能夠在Android移動設備上播放。
2.6 廣告和統計
提供視頻片頭、視頻片尾、暫停播放等廣告位置,支持多樣廣告素材,可設置廣告開始、廣告結束的時間。
記錄視頻播放量、觀衆量、播放時長、視頻平均播放時長、人均播放量、人均播放時長、地理位置、以及每次播放的細節過程和播放行爲,統計廣告訪問的狀況。
2.7 視頻加密
2.7.1具備自主知識產權的視頻加密技術,具體實現原理和流程以下:
圖2:視頻加密實現流程
保利威視(POLYV)的視頻加密技術在較高級別加密安全性的前提下實現了用戶的易用體驗。
3 行業應用
本節對保利威視(POLYV)平臺應用的幾個重點行業作簡單的描述。
3.1 教育應用
3.11 行業需求:
3.12 方案優點
3.2 企業應用
圖4:企業用戶
3.21 行業需求:
3.22 方案優點
3.3 廣電應用
3.31 行業需求:
3.32 方案優點
4 技術路線
保利威視(POLYV)是一個複雜的分佈式軟件系統,在技術選型方面採用目前主流的JavaEE平臺。開發語言主要使用Java和Python,關係數據庫使用MySQL,NoSQL數據庫使用MongoDB、Redis和Memcached,其中,MongoDB主要用於存儲訪問日誌,Redis主要用於構建具備優先級的分佈式隊列,Memcached用於緩存數據。保利威視(POLYV)平臺的架構如圖6所示。
5實現過程
本節對保利威視(POLYV)幾個重要系統的實現過程進行簡單描述。
5.1 分佈式存儲系統
在選型階段,做者分別對Lustre、MogileFS、FastDFS、MooseFS、HDFS等開源分佈式文件系統進行了調研和評測,結合保利威視(POLYV)平臺對存儲需求的特色,最終從性能、易用、易擴展等方面來肯定使用FastDFS搭建保利威視(POLYV)的分佈式文件存儲系統。
FastDFS是一款類Google FS的開源分佈式文件系統,它用純C語言實現,支持Linux、FreeBSD等操做系統。它只能經過專有的API對文件進行存取訪問,不支持POSIX接口訪問,不能mount使用。
整體來講,基於FastDFS搭建的保利威視(POLYV)分佈式存儲系統能夠容易擴展到PB級別的存儲能力,並且比較適合用於存儲圖片和視頻文件。
5.2 視頻轉碼服務
保利威視(POLYV)平臺的視頻轉碼服務流程如圖8所示。
圖8:視頻轉碼序列圖
用戶發佈視頻後,視頻發佈服務根據用戶的類型和級別、視頻文件的大小、視頻的碼率等信息計算一個權重值,新建一個具備權重優先級的視頻轉碼任務,並把任務加入到分佈式隊列中。轉碼機器羣中的守護進程會按期從分佈式隊列中提取轉碼任務,進行視頻轉碼,轉碼完成後把相關狀態數據更新到數據庫中。
5.3 統計系統
保利威視(POLYV)平臺的視頻播放和廣告訪問統計的處理流程如圖9所示。
圖9:統計流程序列圖
保利威視(POLYV)的視頻播放器在播放視頻的過程當中會將相關數據經過HTTP發送到Nginx,Nginx會將此類請求以日誌的方式記錄下來。保利威視(POLYV)的統計程序將按期分析Nginx的日誌,提取相關數據並把數據保存到MongoDB數據庫中。統計程序還將按期對MongoDB中的數據進行統計,並把統計結果轉存到MySQL數據庫中。
6 效果及評價
做爲新興的在線視頻雲服務平臺,保利威視(POLYV)深刻分析了不一樣行業企業對視頻應用的個性化需求,針對教育培訓、傳媒、政企、電子商務分別推出了行業應用解決方案。保利威視(POLYV)自上線以來,接受了大量用戶的試用,發展了數家代理商。到目前爲止,平臺的用戶數已超過1000個,平臺的服務獲得了廣大用戶的承認。
除了解決方案的行業針對性外,保利威視(POLYV)還因其開放平臺模式,深受用戶的歡迎。經過保利威視(POLYV)開放的API接口,用戶能夠本身開發應用程序來實現個性化的需求,能夠整合第三方視頻增值業務平臺,包括統計、分享、營銷工具、廣告聯盟等,使網站對視頻的應用更靈活和強大,網站視頻價值實現最大化。
保利威視(POLYV)處於迅速發展中,在將來一段時間內,隨着用戶量的不斷增長,保利威視(POLYV)須要對平臺進行擴展和優化甚至是重構,以加強平臺的服務能力。
參考文獻
[1] comScore. April 2013 U.S. Online Video Rankings[OL]. 2013. http://www.comscore.com/chi/Insights/Press_Releases/2013/5/comScore_Releases_April_2013_US_Online_Video_Rankings
[2] Ffmpeg. FFmpeg Documentation[OL]. 2013. http://www.ffmpeg.org/documentation.html
[3] MongoDB. MongoDB Documentation[OL]. 2013. http://docs.mongodb.org/manual/
[4] Redis. Redis Documentation[OL]. 2013. http://redis.io/documentation
[5] Leonard Richardson, Sam Ruby. RESTful Web Services[M], O’Reilly Media, Inc, USA, 2007
[6] 餘慶. 分佈式文件系統FastDFS架構剖析[J]. 程序員, 2010(11).
[7] 李敏, 郭捷. 基於H.264/SVC的視頻加密技術研究[J]. 信息安全與通訊加密, 2012(5)
[8] 曹蕊, 陳丹, 楊帆. 幀異或視頻加密算法[J]. 計算機與數字工程,2012, 40(2)
[9] 胡文波, 徐造林. 分佈式存儲方案的設計與研究[J]. 計算機技術與發展, 2010(4)
[10] 宋愛青. 基於Hadoop的日誌分析系統的設計與實現[D]. 北京:中國地質大學, 2012
歡迎來信交流:reakoxie@163.com