日誌服務(Log Service,簡稱 Log)是針對日誌類數據的一站式服務,在阿里巴巴集團經歷大量大數據場景錘鍊而成。您無需開發就能快捷完成日誌數據採集、消費、投遞以及查詢分析等功能,提高運維、運營效率,創建 DT 時代海量日誌處理能力。安全
核心功能以下:服務器
實時採集與消費(LogHub)網絡
功能:運維
經過ECS、容器、移動端,開源軟件,JS等接入實時日誌數據(例如Metric、Event、BinLog、TextLog、Click等)機器學習
提供實時消費接口,與實時計算及服務對接oop
用途:數據清洗(ETL),流計算(Stream Compute),監控與報警, 機器學習與迭代計算學習
投遞數倉(LogShipper)大數據
穩定可靠的日誌投遞。將日誌中樞數據投遞至存儲類服務進行存儲與大數據分析。支持壓縮、自定義Partition、以及行列等各類存儲方式。阿里雲
用途:數據倉庫 + 數據分析、審計、推薦系統與用戶畫像rest
查詢與實時分析(Search/Analytics)
實時索引、查詢分析數據。
查詢:關鍵詞、模糊、上下文、範圍
統計:SQL聚合等豐富查詢手段
可視化:Dashboard + 報表功能
對接:Grafana,JDBC/SQL92
用途:DevOps/線上運維,日誌實時數據分析,安全診斷與分析,運營與客服系統
產品優點
全託管服務
易用性強,5分鐘便可接入服務進行使用,Agent支持任意網絡下數據採集
LogHub覆蓋Kafka 100%功能,並提供完整監控、報警等功能數據,彈性伸縮等(可支持PB/Day規模),使用成本爲自建50%如下
LogSearch/Analytics 提供保存查詢、儀表盤和報警功能、使用成本爲自建 20%如下
30+ 接入方式,與雲產品 (OSS/E-MapReduce/MaxCompute/Table Store/MNS/CDN/ARMS等)、開源軟件(Storm、Spark)無縫對接
生態豐富
LogHub 支持30+採集端,包括Logstash、Fluent等,不管是從嵌入式設備,網頁,服務器,程序等都能輕鬆接入。在消費端,支持與Spark Streaming、Storm、雲監控、ARMS等對接
LogShipper 支持豐富數據格式(TextFile、SequenceFile、Parquet等),支持自定義Partition,數據能夠直接被Presto、Hive、Spark、Hadoop、E-MapReduce、MaxCompute、HybridDB等存儲引擎
LogSearch/Analytics 查詢分析語法完整,兼容SQL92,即將提供:JDBC協議與Grafana對接
實時性強
LogHub:寫入便可消費;Logtail(採集Agent)實時採集傳輸,1秒內到服務端(99.9%狀況)
LogSearch/Analytics:寫入便可查詢分析,在多個查詢條件下1秒可查詢10億級數據,多個聚合條件下1秒可分析1億級數據
完整API/SDK
輕鬆支持自定義管理及二次開發
全部功能都可經過API/SDK實現,提供多種語言SDK,可輕鬆管理服務和百萬級設備
查詢分析語法簡單便捷(兼容SQL92),接口友好適合與生態軟件對接(即將提供Grafana對接方案)
關於阿里雲日誌服務的詳細內容:阿里雲日誌服務使用教程
(日誌服務(Log Service,簡稱Log)是針對日誌類數據一站式服務,在阿里巴巴集團經歷大量大數據場景錘鍊而成。用戶無需開發就能快捷完成數據採集、消費、投遞以及查詢分析等功能,幫助提高運維、運營效率,創建DT時代海量日誌處理能力。)
更多精品課程點擊:阿里雲大學