阿里雲 日誌服務 集成

集成日誌服務sdk時, 須要用到一個endpoint ,請問應該填什麼?
若是在阿里雲的 ECS 機器內使用日誌服務 API,還可使用內網服務入口(使用內網服務入口訪問日誌服務不消耗 ECS 公網流量,能夠節約寶貴的 ECS 公網帶寬),
不肯定的話就用公網!!!
日誌服務對 LogHub、LogSearch 功能收費,
LogShipper 免費。LogShipper就是將日誌可能發到OSS等(僅支持將數據投遞至與日誌服務project相同region的OSS Bucket)
LogSearch 爲附加功能,您能夠經過開啓索引進行日誌查詢與分析,計費項爲索引流量
查詢語法
如何更經濟地使用
使用 Logtail:有 Batch 與斷點續傳功能,在保障實時性的同時以最優算法傳輸數據。
  • API 寫入用戶儘可能使用 64KB~1MB 大包寫入,減小請求次數。
  • 索引關鍵字段,例如 UserID,Action 等,對無用字段不配置索引。
日誌服務中的幾個基本概念。
  • 項目(Project)爲日誌服務的基本管理單元。每一個項目位於阿里雲的一個區域(Region,好比杭州區),且建立後就不能修改區域。
  • 日誌庫(LogStore)爲日誌服務的日誌存儲單元。每一個日誌庫屬於一個指定的Project,且每一個項目能夠包括多個日誌庫。用戶能夠指定一個日誌庫中的日誌保存時間及如何使用這些日誌(例如,實時消費,實時查詢,同步到ODPS等)。
假如用戶有一個「big-game」遊戲應用,服務器上有三種日誌:操做日誌(operation_log),應用程序日誌(application_log)以及訪問日誌(access_log),用戶能夠首先建立名爲「big-game」的項目,而後在該項目下面爲這三種日誌建立三個日誌庫,分別用於它們的收集、存儲和消費。
  • Logtail爲日誌服務提供了一種無侵入的日誌寫入服務。它經過在你的機器上安裝一個日誌收集客戶端來監聽你所指定的日誌文件並自動把新寫入到日誌文件的日誌上傳到你所指定的日誌庫。目前,該種日誌寫入服務還只支持ECS 64位Linux雲主機和Windows雲主機中的日誌源,其餘日誌源能夠經過日誌服務提供的SDK或者API來寫入用戶的日誌庫。
日誌(Log)
日誌爲Log Service中處理的 最小 數據單元。Log Service採用半結構數據模式定義 一條日誌 ,具體數據模型以下:
  • 主題(Topic):用戶自定義字段,用以標記一批日誌(例如:訪問日誌根據不一樣的站點進行標記)。默認該字段爲空字符串(空字符串也爲一個有效的主題)。
  • 時間(Time):日誌中保留字段,用以表示日誌產生的時間(精度爲秒,從1970-1-1 00:00:00 UTC計算起的秒數),通常由日誌中的時間直接生-。
  • 內容(Content):用以記錄日誌的具體內容。內容部分由一個或多個內容項組成,每個內容項由Key、Value對組成。
  • 來源(Source):日誌的來源地,例如產生該日誌機器的IP地址。默認該字段爲空。

一個日誌庫內的日誌能夠經過日誌主題(Topic)來劃分。用戶能夠在寫入時指定日誌主題。例如,一個平臺用戶可使用用戶編號做爲日誌主題寫入日誌。
日誌組(LogGroup)
一組日誌的集合,寫入與讀取的基本單位。日誌組限制爲:最大4096行日誌,或10MB空間。
寫入日誌:
有3種,一種是Logtail,一種是 sdk ,還有api,
使用控制檯預覽,查詢日誌
支持 日誌報警:如某字段大於某值時
日誌格式:
使用Protocol Buffer格式做爲標準的日誌寫入格式。
須要把原始日誌數據序列化成以下格式的Protocol Buffer數據流後才能經過API寫入服務端:
message Log { required uint32 time = 1; // UNIX Time Format message Content { required string key = 1; required string value = 2; } repeated Content contents= 2; } message LogGroup { repeated Log logs= 1; optional string reserved =2; // 內部字段,不須要填寫 optional string topic = 3; optional string source = 4; } message LogGroupList { repeated LogGroup logGroupList = 1; }
  1. 關於Protocol Buffer格式的更多信息請參考其Github首頁protobuf
數據模型
核心概念:
key:value 是您本身的數據,您本身想填怎麼填什麼
如何刪除具體的某一條日誌
不能刪除!!!
我經過api sdk寫入的日誌,須要多長時間才能查詢到,就是創建索引須要多長時間,我才能經過api查詢到數據,有沒有經過api寫入日誌的時候手動刷新索
您好,如今咱們的索引作了優化,不用再等一分鐘才能查了,基本是實時的,有延遲的話頂多就幾秒鐘。
日誌服務:
1,如何知道日誌總條數和偏移量?想作一個分頁
https://help.aliyun.com/document_detail/29074.html 這個函數能夠拿到條數 Aliyun_Log_Models_GetHistogramsRequest
經過上面 函數獲取到條數後再經過 Aliyun_Log_Models_GetLogsRequest 傳遞本身計算好的offset是嗎?
能夠實現:經過api寫日誌,查詢,分頁功能!仍是很強大的!
相關文章
相關標籤/搜索