信息論（一）：概述

1. 什麼是信息

1.1 在通訊中對信息的表達：

• 信息是指各個事物運動的狀態及狀態變化的方式。
• 消息是信息的載體。
• 信號是信息的物理表達。

信息具備普遍性和抽象性。

1.2 信息的重要性質

• 存在廣泛性，有序性，相對性，可度量性，可擴充性，可儲存、傳輸與攜帶，可壓縮性，可替代性，可共享性，時效性。

1.3 香農信息——機率信息

信息是事物運動狀態或存在方式的不肯定性描述。

2. 什麼是信息論

信息論是專門研究信息的有效處理和可靠傳輸的通常規律的學科。

3. 信息論研究的對象、目的和內容

3.1 信息論研究的對象：通訊系統模型

• 信源：產生消息和消息序列的源。

• 編碼器：將信源發出的消息變成適用於信道傳達的信號。
  通常有信源編碼器和信道編碼器。

  • 信源編碼器：信源壓縮編碼，提升信息傳輸效率。
  • 信道編碼器：信道糾錯編碼，提升信息傳輸的可靠性。
• 信道：信號從甲地傳到乙地的媒介或通道。
• 譯碼器：把編碼信息（已疊加干擾）進行反變換，分爲信源譯碼器和信道譯碼器。
• 信宿：消息傳送的對象。

3.2 信息論研究的目的

提升信息傳輸的可靠性、有效性、保密性和認證性。

3.3 信息論研究的內容

• 狹義信息論——經典信息論
• 通常信息論——工程信息論
• 廣義信息論