網站流量數據採集環境部署及實現(埋點)

時間  2019-11-29
標籤 網站 流量 數據 採集 環境 部署 實現 欄目 網站開發 简体版
原文   原文鏈接

1、原理分析與設計實現

　　

　　　　友情連接：http://www.javashuo.com/article/p-bbohymhl-dn.htmljavascript

 

 

 

2、系統環境部署

 

　　　　！！！執行復制下列命令是注意查看是否爲英文類型的 「-」 ，當命令錯誤時首先排查該處html

 

-------------------------------服務器　　A　　中部署開始-----------------------------------java

　　須要的安裝包linux

uaJIT-2.0.4.tar.gz
set-misc-nginx-module-0.29.tar.gz
lua-nginx-module-0.10.0.tar.gz
ngx_devel_kit-0.2.19.tar.gz
echo-nginx-module-0.58.tar.gz
openresty-1.9.7.3.tar.gz
nginx-1.8.1.tar.gz

 

  • 服務器中安裝依賴
yum -y install gcc perl pcre-devel openssl openssl-devel

 

  • 上傳 LuaJIT-2.0.4.tar.gz 並安裝 LuaJIT
tar -zxvf LuaJIT-2.0.4.tar.gz -C /usr/local/src/
cd /usr/local/src/LuaJIT-2.0.4/
make && make install PREFIX=/usr/local/luajit

 

  • 設置 LuaJIT 環境變量
vi /etc/profile
export LUAJIT_LIB=/usr/local/luajit/lib
export LUAJIT_INC=/usr/local/luajit/include/luajit-2.0
source /etc/profile

 

  • 建立 modules 文件夾，保存 nginx 依賴的模塊
mkdir -p /usr/local/nginx/modules

 

  • 上傳 nginx 依賴的模塊
set-misc-nginx-module-0.29.tar.gz
lua-nginx-module-0.10.0.tar.gz
ngx_devel_kit-0.2.19.tar.gz
echo-nginx-module-0.58.tar.gz

 

  • 將依賴的模塊直接解壓到 modules 目錄
tar -zxvf lua-nginx-module-0.10.0.tar.gz -C /usr/local/nginx/modules/
tar -zxvf set-misc-nginx-module-0.29.tar.gz -C /usr/local/nginx/modules/
tar -zxvf ngx_devel_kit-0.2.19.tar.gz -C /usr/local/nginx/modules/
tar -zxvf echo-nginx-module-0.58.tar.gz -C /usr/local/nginx/modules/

 

  • 安裝 openresty
tar -zxvf openresty-1.9.7.3.tar.gz -C /usr/local/src/
cd /usr/local/src/openresty-1.9.7.3/
./configure --prefix=/usr/local/openresty --with-luajit && make && make install

 

  • 安裝 nginx
tar -zxvf nginx-1.8.1.tar.gz -C /usr/local/src/

 

  • 編譯 nginx 並支持其餘模塊

 

cd /usr/local/src/nginx-1.8.1/
#解壓事後修改src/http/modules/ngx_http_log_module.c文件能夠解決獲取的中文亂碼問題
./configure --prefix=/usr/local/nginx \
--with-ld-opt="-Wl,-rpath,/usr/local/luajit/lib" \
--add-module=/usr/local/nginx/modules/ngx_devel_kit-0.2.19 \
--add-module=/usr/local/nginx/modules/lua-nginx-module-0.10.0 \
--add-module=/usr/local/nginx/modules/set-misc-nginx-module-0.29 \
--add-module=/usr/local/nginx/modules/echo-nginx-module-0.58
make -j2
make install

 

備註：若是對 linux 相關操做不熟，請嚴格按照上述步驟搭建環境，切記心細，心細，再心細。nginx

 

-------------------------------服務器　　A　　中部署結束-----------------------------------算法

 

3、自定義採集數據實現

 

-------------------------------服務器　　B　　中執行開始-----------------------------------後端

  • 安裝httpd
yum install httpd
  • 啓動httpd
service httpd start
  • 進入/var/www/html/內上傳 index.html頁面文件
cd /var/www/html/

 

  • 建立頁面 index.html

　　頁面 index.html代碼以下：緩存

<!DOCTYPE html>
<html>
    <head>
        <meta charset="UTF-8">
        <title>welcome</title>    
    
        <script type="text/javascript">
        var _maq = _maq || [];
        _maq.push(['_setAccount', 'jiFeng']);
     
        (function() {
            var ma = document.createElement('script'); 
            ma.type = 'text/javascript';
            ma.async = true;
            ma.src = 'http://192.168.175.153/ma.js';
            var s = document.getElementsByTagName('script')[0]; 
            s.parentNode.insertBefore(ma, s);
        })();
        </script>
                        
    </head>
    <body>
        <h1 align="center">雲計算大數據</h1>    
    </body>
</html>

-------------------------------服務器　　B　　中執行結束-----------------------------------服務器

-------------------------------服務器 　　A　　中執行開始-----------------------------------cookie

  •  在安裝目錄 nginx/html 下添加一個數據採集腳本 ma.js。
cd /usr/local/nginx/html/

 

　　　　　　腳本 ma.js代碼以下：

(function () {
    var params = {};
    //Document對象數據
    if(document) {
        params.domain = document.domain || ''; 
        params.url = document.URL || ''; 
        params.title = document.title || ''; 
        params.referrer = document.referrer || ''; 
    }   
    //Window對象數據
    if(window && window.screen) {
        params.sh = window.screen.height || 0;
        params.sw = window.screen.width || 0;
        params.cd = window.screen.colorDepth || 0;
    }   
    //navigator對象數據
    if(navigator) {
        params.lang = navigator.language || ''; 
    }   
    //解析_maq配置
    if(_maq) {
        for(var i in _maq) {
            switch(_maq[i][0]) {
                case '_setAccount':
                    params.account = _maq[i][1];
                    break;
                default:
                    break;
            }   
        }   
    }   
    //拼接參數串
    var args = ''; 
    for(var i in params) {
        if(args != '') {
            args += '&';
        }   
        args += i + '=' + encodeURIComponent(params[i]);
    }   
 
    //經過Image對象請求後端腳本
    var img = new Image(1, 1); 
    img.src = 'http://192.168.175.153/log.gif?' + args;
})();

 

  •  修改 nginx 的配置文件，添加自定義相關業務邏輯。
cd /usr/local/nginx/conf
vi nginx.conf 
worker_processes  2;

events {
    worker_connections  1024;
}


http {
    include       mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for"';
                      
    log_format user_log_format "$msec||$remote_addr||$status||$body_bytes_sent||$u_domain||$u_url||$u_title||$u_referrer||$u_sh||$u_sw||$u_cd||$u_lang||$http_user_agent||$u_account";
    
    sendfile        on;  #容許sendfile方式傳輸文件，默認爲off

    keepalive_timeout  65; #鏈接超時時間，默認爲75s

    server {
        listen       80;
        server_name  localhost;
        location /log.gif {
            #假裝成gif文件
            default_type image/gif;    
            #nginx自己記錄的access_log，日誌格式爲main
            access_log  logs/access.log  main;
        
            access_by_lua "
                -- 用戶跟蹤cookie名爲__utrace
                local uid = ngx.var.cookie___utrace        
                if not uid then
                    -- 若是沒有則生成一個跟蹤cookie，算法爲md5(時間戳+IP+客戶端信息)
                    uid = ngx.md5(ngx.now() .. ngx.var.remote_addr .. ngx.var.http_user_agent)
                end 
                ngx.header['Set-Cookie'] = {'__utrace=' .. uid .. '; path=/'}
                if ngx.var.arg_domain then
                -- 經過subrequest到/i-log記錄日誌，將參數和用戶跟蹤cookie帶過去
                    ngx.location.capture('/i-log?' .. ngx.var.args .. '&utrace=' .. uid)
                end 
            ";  
        
            #此請求資源本地不緩存
            add_header Expires "Fri, 01 Jan 1980 00:00:00 GMT";
            add_header Pragma "no-cache";
            add_header Cache-Control "no-cache, max-age=0, must-revalidate";
        
            #返回一個1×1的空gif圖片
            empty_gif;
        }   
    
        location /i-log {
            #內部location，不容許外部直接訪問
            internal;
        
            #設置變量，注意須要unescape
            set_unescape_uri $u_domain $arg_domain;
            set_unescape_uri $u_url $arg_url;
            set_unescape_uri $u_title $arg_title;
            set_unescape_uri $u_referrer $arg_referrer;
            set_unescape_uri $u_sh $arg_sh;
            set_unescape_uri $u_sw $arg_sw;
            set_unescape_uri $u_cd $arg_cd;
            set_unescape_uri $u_lang $arg_lang;
            set_unescape_uri $u_account $arg_account;
        
            #打開subrequest（子請求）日誌
            log_subrequest on;
            #自定義採集的日誌，記錄數據到user_defined.log
            access_log logs/user_defined.log user_log_format;
        
            #輸出空字符串
            echo '';
        }        
    }
}

 

  •  啓動 nginx
cd /usr/local/nginx
sbin/nginx -c conf/nginx.conf
  •  查看是否啓動
ps -ef | grep nginx

 

　　

-------------------------------服務器 　　A　　中執行結束-----------------------------------

  •  經過遊覽器訪問 nginx
訪問：192.168.175.151/index.html

 -------------------------------服務器 　　A　　中執行開始-----------------------------------

  • 觀察自定義日誌採集文件是否有對應的內容輸出：
cd /usr/local/nginx/logs
tail -f user_defined.log

 

 

此時還能夠觀察 nginx 默認的輸出日誌文件：

tail -f access.log

 

中止 nginx: 

cd /usr/local/nginx
 sbin/nginx –s stop

-------------------------------服務器 　　A　　中執行結束-----------------------------------

相關文章
相關標籤/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公眾號
   歡迎關注本站公眾號,獲取更多信息
聯繫我們 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程