十一週導論課後筆記

1.1信息

1.1.1 信息的定義
1.維納：

        信息是信息，不是物質，也不是能量。
    信息是人們在適應外部世界並使這種適應副作用於外部的過程當中，同外部世界進行相互交換的內容的名稱。
2.差別類：
    朗高：

信息是反映事物的形式關係和差異的東西。信息存在於客體間的差異之中，而不是存在於客體之中。

阿希貝：

信息的本性在於事物自己具備變異度。
3.鍾義信

鍾義信教授分別在本體論和認識論層次上提出了信息定義體系。

本體論層次的信息是指事物運動的狀態及其變化方式的自我表述。

認識論層次的信息是指認識主體所感知或所表述的事物運動的狀態和方式，包括這種狀態或方式的形式、含義和效用。
    ①語法信息。它是指主體所感知或所表述的事物運動狀態和方式的形式化關係。
    ②語義信息。它是指認識主體所感知或所表述的事物運動狀態和方式的邏輯含義。
    ③語用信息。它是指認識主體所感知或所表述的事物運動狀態和方式相對於某種目的的效用。
    ④先驗信息。觀察者關於某事物的先驗信息是指他在觀察以前經過某種途徑所感知的該事物運動的狀態和方式。

⑤實得信息。在觀察過程當中觀察者關於某事物的實得信息，是指他經過觀察所新感知到的該事物運動的狀態和方式。

⑥實在信息。它是指在理想觀察條件下，觀察者所得到的關於該事物實際的運動狀態和方式等所有信息。

4.香農

假定事物狀態能夠用一個以經典集合論爲基礎的機率模型來描述，則信息就是用來消除不肯定性的東西，或信息是事物運動狀態或存在方式的不肯定性描述。但要在實際中尋找個合適的機率模 型每每是很是困難的，甚至這樣一種模型是否存在還值得探討。此外信息有很強的主觀性和實用性，但該定義沒有考慮信息接收者的主觀特性和主觀意義，不顧信息的具體含義、具體用途、重要程度和可能引發的後果等因素,這就與實際狀況不徹底一致。

 

5.種加屬差定義

種加屬差定義亦稱「真實定義」、「實質定義」或「事物定義」。

被定義概念(屬概念)=鄰近的種概念+屬差

簡單地說，種加屬差就是一個信息相加的運算，

信息是可加的。

1.1.2信息的種類

按照產生信息的物體的性質，能夠將信息分爲天然信息(聲、光熱、電等),生物信息(生物爲繁衍生存而表現出來的各類形態和行爲，如遺傳信息、生物體內的交流信息、動物種羣內的交流信息等)，機器信息和社會信息等。

按照人類活動領域，能夠將信息分爲科技信息、經濟信息、政治信息、軍事信息、文

化信息等。

按照信息所依附的載體，能夠將信息分爲文獻信息、口頭信息、電子信息、生物信

息等。

按照攜帶信息的信號性質，能夠將信息分爲連續信息、半連續信息和離散信息。

按照信息所起的做用，可將信息分爲無用信息、有用信息和干擾信息。

1.1.3 信息的度量

信息量的度量就等於其不肯定性的多少。

 

因爲不肯定性的大小可以度量，所以,信息是能夠度量的。

 

自信息量

自信息量是指一個事件本 身所包含的信息量，它是由事件的不肯定性所決定的。即自信息量是對單個事件不肯定性的度量。

隨機變量X產生的事件xi的自信息量定義爲:

I(xi)= -log2P(xi)= log21/p(xi)(比特，即bit,經常使用單位)

 

信息熵。

 

信息論的基本假設

①信息是能夠用一組符號來編碼的。

②信息的產生和傳輸是能夠用機率論和隨機過程來描述的。

③從機率角度看，一樣的信息包含一樣的信息量。

 

在事件發生之前，自信息量等於事件發生的不肯定性的大小。

在事件發生之後，自信息量表示事件所含有的或所能提供的信息量。

所以，自信息的含義爲:收到某信息得到的信息量等於不肯定性減小的量。

可是，自信息量不能用來做爲隨機變量X的信息度量。

 

離散隨機變量X ~p(xi)的信息熵是從平均意義上對信息不肯定性的度量，也稱爲平均自信息量,定義爲

H(X)=-∑p(xi)log2 p(xi)

 

當各個事件出現的機率相等即「不肯定性」最高時,信息熵最大。

 

1.2 計算機信息處理

1.2.1 位模式的信息表示

計算機外部的各類不一樣類型的數據都是在按照統一的數據格式進行轉換後存人計算機,並在從計算機輸出時再還原回來的，這種統一的格式稱爲位模式。位模式是一個序列，有時也稱爲位串,它是0和1的組合。一般長度爲8的位模式被稱爲1個字節(byte),一個字由若干字節組成。

1.文本的表示

英文通常採用ASCII編碼

美國標準Unicode編碼等

而中文則大多采用與前者兼容的GB 2312- -1980編碼。

2.數值的表示

十進制表示式

二進制表示式

對於二進制而言，數據分爲無符號數和有符號數兩類。

無符號數:就是二進制數的所有二進制位均表示數值位(沒有符號位)，至關於數的絕對值。

有符號數:約定二進制數的最高位爲符號由「0」表示正數，「1」表示負數]這種在計算機中使用的數的表示形式稱爲機器數。根據編碼的不一樣，又可將其分爲原碼反碼和補碼。

 

重要：補碼變反碼：從後往前直到第一個1，再往前的數都取反。

 

3.音頻的表示

要在計算機上表示音頻信息，必須對聲波進行數字化處理，即把模擬的聲波轉換成離散的數字信號。

    4.圖像的表示

5.視頻的表示

1.2.2計算機信息處理過程

信息處理就是對信息進行接收、存儲、轉化、傳輸和發佈等，其中:

①    信息接收包括信息感知信息測量、信息識別信息獲取以及信息輸人等。

②信息存儲就是把計算機接收到的信息或計算機處理的中間信息經過存儲設備

進行緩衝、保存、備份等處理。

③信息轉化就是將信息根據人們的特定須要進行分類、計算分析、檢索、管理和

綜合等處理。

④信息傳輸是經過計算機內部的指令或計算機之間的網絡把信息從一個位置傳

送到另一個位置。

⑤信息發佈就是把信息經過各類表示形式展現出來。

(圖靈機待續)