36 shell-告警系統

1.需求及思路
需求：使用shell定製各類個性化告警工具，但須要統一化管理、規範化管理。
思路：指定一個腳本包，包含主程序、子程序、配置文件、郵件引擎、輸出日誌等。
主程序：做爲整個腳本的入口，是整個系統的命脈。
配置文件：是一個控制中心，用它來開關各個子程序，指定各個相關聯的日誌文件。
子程序：這個纔是真正的監控腳本，用來監控各個指標。
郵件引擎：是由一個python程序來實現，它能夠定義發郵件的服務器、發郵件人以及發件人密碼
輸出日誌：整個監控系統要有日誌輸出。

bin下是主程序
conf下是配置文件
shares下是各個監控腳本
mail下是郵件引擎
log下是日誌
2.main.sh

#!/bin/bash
#是否發送郵件的開關
export send=1 //export意味着send變量在其子腳本有效
#過濾ip地址，爲了告知發郵件的ip
export addr=`/sbin/ifconfig |grep -A1 "ens33: "|awk '/inet/ {print $2}'`
dir=`pwd`
#只須要最後一級目錄名
last_dir=`echo $dir|awk -F'/' '{print $NF}'`
#下面的判斷目的是，保證執行腳本的時候，咱們在bin目錄裏，否則監控腳本、郵件和日誌頗有可能找不到
if [ $last_dir == "bin" ] || [ $last_dir == "bin/" ]; then //保證當前目錄在bin，由於下面執行腳本的時候會用到相對路徑
    conf_file="../conf/mon.conf"
else
    echo "you shoud cd bin dir"
    exit
fi
exec 1>>../log/mon.log 2>>../log/err.log //日誌信息的輸出
echo "`date +"%F %T"` load average"
/bin/bash ../shares/load.sh
#先檢查配置文件中是否須要監控502
if grep -q 'to_mon_502=1' $conf_file; then  //配置文件中502爲1，則聲明日誌路徑及執行502.sh監控腳本
    export log=`grep 'logfile=' $conf_file |awk -F '=' '{print $2}' |sed 's/ //g'`
    /bin/bash  ../shares/502.sh
fi

3.mon.conf

##to config the options if to monitor
##定義mysql的服務器地址、端口以及user、password
to_mon_cdb=0   ##0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
##httpd   若是是1則監控，爲0不監控
to_mon_httpd=0
##php 若是是1則監控，爲0不監控
to_mon_php_socket=0
##http_code_502  須要定義訪問日誌的路徑
to_mon_502=1
logfile=/data/log/xxx.xxx.com/access.log
##request_count   定義日誌路徑以及域名
to_mon_request_count=0
req_log=/data/log/www.discuz.net/access.log
domainname=www.discuz.net
##to config the options if to monitor
##定義mysql的服務器地址、端口以及user、password
to_mon_cdb=0   ##0 or 1, default 0,0 not monitor, 1 monitor
db_ip=10.20.3.13
db_port=3315
db_user=username
db_pass=passwd
##httpd   若是是1則監控，爲0不監控
to_mon_httpd=0
##php 若是是1則監控，爲0不監控
to_mon_php_socket=0
##http_code_502  須要定義訪問日誌的路徑
to_mon_502=1
logfile=/data/log/xxx.xxx.com/access.log
##request_count   定義日誌路徑以及域名
to_mon_request_count=0
req_log=/data/log/www.discuz.net/access.log
domainname=www.discuz.net

配置文件中定義的各個日誌的路徑也可用在各須要的子腳本中定義，可是機器多的時候路徑不同，修改起來很繁瑣，所以放在一塊兒方便。

4.load.sh

#! /bin/bash
load=`uptime |awk -F 'average:' '{print $2}'|cut -d',' -f1|sed 's/ //g' |cut -d. -f1`  //系統負載取整數
if [ $load -gt 10 ] && [ $send -eq "1" ]  //若是系統負載大於10且主腳本中聲明要發郵件
then
    echo "$addr `date +%T` load is $load" >../log/load.tmp
    /bin/bash ../mail/mail.sh xxxxx@163.com "$addr\_load:$load" `cat ../log/load.tmp`
fi
echo "`date +%T` load is $load"  //這部分輸出到主腳本定義的路徑中

5.502.sh

#! /bin/bash
d=`date -d "-1 min" +%H:%M`
c_502=`grep :$d:  $log  |grep ' 502 '|wc -l`  //502的信息須要在日誌中找 
if [ $c_502 -gt 10 ] && [ $send == 1 ]; then
     echo "$addr $d 502 count is $c_502">../log/502.tmp
     /bin/bash ../mail/mail.sh $addr\_502 $c_502  ../log/502.tmp
fi
echo "`date +%T` 502 $c_502"

6.disk.sh

#! /bin/bash
rm -f ../log/disk.tmp
for r in `df -h |awk -F '[ %]+' '{print $5}'|grep -v Use` //F後表示能夠用空格和%做爲分隔符，方框後的+號表示分隔符能夠重複多個；grep -v表示取反，Use表示df -h出現的表頭，前提是系統語言爲英語，保險起見能夠在前一句定義語言爲英語
do
    if [ $r -gt 90 ] && [ $send -eq "1" ]
then
    echo "$addr `date +%T` disk useage is $r" >>../log/disk.tmp
fi
if [ -f ../log/disk.tmp ]
then
    df -h >> ../log/disk.tmp
    /bin/bash ../mail/mail.sh $addr\_disk $r ../log/disk.tmp
    echo "`date +%T` disk useage is nook"
else
    echo "`date +%T` disk useage is ok"
fi

7.告警系統引擎
mail.sh（作告警收斂，不是隨時發郵件，問題能及時恢復不須要發郵件，問題積累到必定程度發郵件）內容 //其中mail.py內容到這裏下載https://coding.net/u/aminglinux/p/aminglinux-book/git/blob/master/D22Z/mail.py

log=$1  //定義變量log爲參數1
t_s=`date +%s`  //當前時間戳
t_s2=`date -d "2 hours ago" +%s`  //兩小時前時間戳
if [ ! -f /tmp/$log ]   //若是文件不存在，則建立並將t_s2 echo到文件內容
then
    echo $t_s2 > /tmp/$log
fi
t_s2=`tail -1 /tmp/$log|awk '{print $1}'`  //賦值最後一行給t_s2，第一次運行意味着此值跟上面的t_s2同樣
echo $t_s>>/tmp/$log  //追加當前時間戳到最後一行，意味着上一行的賦值把此值（上一次運行的）給t_s2
v=$[$t_s-$t_s2]  //上次的時間戳和此次的時間戳差值
echo $v
if [ $v -gt 3600 ]  //兩次出現異常的時間差大於一小時，意即沒有問題（平穩運行）已經一小時以上，則發郵件；且生成新文件並echo 「0」計數
then
    ./mail.py  $1  $2  $3
    echo "0" > /tmp/$log.txt
else  //時間差小於一小時（問題出現得較爲頻繁），則計數暫時不發郵件
    if [ ! -f /tmp/$log.txt ]
    then
        echo "0" > /tmp/$log.txt
    fi
    nu=`cat /tmp/$log.txt` //讀取文件中的數字
    nu2=$[$nu+1]  //數字加一
    echo $nu2>/tmp/$log.txt  //從新定向到文件
    if [ $nu2 -gt 10 ]  //計數大於十（即頻繁問題出現十次以上）則發郵件，並清零計數文件
    then
         ./mail.py  $1 "trouble continue 10 min $2" "$3"
         echo "0" > /tmp/$log.txt
    fi
fi  

最後加上任務計劃：
* * * * * cd /usr/local/sbin/mon/bin; /bin/bash main.sh