信號是數學對象,咱們將要展現分析信號幾何性質的工具-線性代數。經過線性空間的解讀,咱們能夠對信號的強度,信號之間的類似程度進行分析。使用矩陣能夠更好地理解信號處理過程。函數
向量空間的定義,就是一個線性空間的定義。工具
在實數空間R和複數空間C都有效,經常表述爲N維的空間。咱們將使用二維空間進行舉例。學習
學習中,僅僅使用x就表明二維空間中的向量,而且每一個向量的份量從0開始計數,而不是1.標量alpha是實數。向量空間的性質1:縮放(尺度變換)就是alpha x。spa
向量空間的性質2:兩個向量相加,仍然處於這個向量空間。code
信號的相加,表示兩個信號的混合(mix)後的新的信號。orm
複數向量空間僅在實數向量空間進行簡單的修改:信號中的每一個份量是一個複數(是複數就存在兩種表示方法:複平面座標與極座標)。對象
直角座標系表示:分紅兩個向量;極座標系,注意每一個信號的大小是絕對值(實際上是該信號在的長度)。blog
許多信號處理的基礎是多個信號的混合相加,線性組合結果仍然是該向量空間中的向量。數學
假設每一個信號(向量)都是一種樂器產生的時域信號。混音就是簡單將他們進行線性組合(混音哦,好帥)class
線性組合=矩陣相乘,每一個xm都是一個向量(列),表明一種樂器隨着時間出現的聲音的嘛,而線性組合就是矩陣和向量的乘積。
更加血腥的細節!!! xm的信號長度爲N,而一共有M種信號,將其細節進行展現以下。因此信號獲得兩種表述,矩陣表述(n行m列的矩陣)[X]n,m= xm[n](一共有m種信號,每一個信號長度爲n)。分別把X視爲標量和把x視爲向量。
因此信號的線性組合就是矩陣的乘法
總結:
線性代數在數字信號處理中過重要了!!!
信號存在於向量空間的向量!!!
經過線性組合,咱們能夠將多個信號組合成一個新的信號。
線性組合其實就是矩陣和向量的乘法。
9.信號的範數(Norm)
出現一個問題: 如何衡量信號(向量)的強度?
信號的強度經過範數進行描述,其中2範數(也叫歐式距離,歐式距離,歐式距離)定義爲一個信號的能量(power)。(注意2範數的寫法和它的縮寫方法);例子中是複數空間哦。
P範數表示信號的絕對值的p次方的累加,最後再進行p次開方。1範數爲每一個信號份量的絕對值的和。注意:都是對信號份量絕對值的操做,即表示該信號向量的每一個維度上的操做。
有意思的來了!!!無窮範數表示的是一個信號中,幅值最大的份量。
2範式描述的是信號的能量,而無窮範式描述的是信號的峯值(該信號份量的1範式的值,不是歐式距離。注意注意注意,複數空間中這個值是該信號的長度)。
應用舉例:揚聲器
在磁鐵周圍纏繞一層線圈(coil of wire),在振動一側,將線圈與紙質的椎體連接(paper cone),當線圈中流過電流,電磁效應使得線圈沿着軸向左右移動,拉動紙質椎體進行振動,最後發聲。
若是能量(2範式)的值太大,線圈就會因爲過熱而融化。
若是峯值(無窮範式)的值太大,線圈就會左右移動的太厲害,致使紙質椎體脫膠(回憶一下,真的好常見啊。)
例子2:自動駕駛汽車
2範數表示汽車的軌跡相對正確路線的擬合程度。 (能量越小,擬合程度越高,表示汽車沿着真個軌道走的越好)。可是,僅僅損失函數的值達到最好仍是不夠,若是無窮範數過大,表示某一次的偏離及其嚴重,那麼就會產生嚴重事故。 因此,這個時候通常須要在軌跡兩側創建警惕線,而該車的軌跡的無窮範數的值不容許超過警惕線範圍。
向量的標準化(歸一化):將向量的長度化爲1.
總結:
範數測量了信號的強度,咱們介紹了1範數,2範數和無窮範數。
上面介紹了信號是向量,單個信號的定量分析(強度等)由範數規定。下面,咱們介紹一對信號的定量分析,(做用巨大並且很是常見的方法)。
信號的轉置:行與列進行交換。
若是將轉置與共軛操做放在一塊兒(這個操做頗有用),就叫作複數轉置(厄米特轉置),使用H進行表示先進行轉置,而後將每一個份量進行取共軛操做,用*號表示。實數的共軛轉置就是普通的轉置咯。
複數乘法法則:(a+bi)(c+di)=(ac-bd)+(bc+ad)i。因此,複數與其共軛相乘等於一個實數。
內積的定義中,後面的向量要進行共軛轉置,複數空間的時候,虛數部分符號取反;實數空間的時候,與普通的轉置相同)。實數向量的內積是個值(標量),而複數向量的內積仍然是個複數(標量,例如x和y一個實數向量,一個虛數向量)。可是這種定義能夠保證複數向量本身自己的內積是個正數。
實數信號中,角度等於內積與兩個向量的2範數的相除。複數信號中稍微複雜,角度等於內積的實數部分與兩個向量的2範數的相除。注意 注意 注意 複數內積夾角的求法。
內積就表示兩個向量的類似程度,雖然計算時使用x[n]與y[n]*的乘積,可是它表示的是x[n]與y[n]的內積,<x[n],y[n]>
應用舉例:
每一個信號自己的內積就是該信號的2範數。(實數與複數皆同樣)
正交向量:若是兩個向量正交,則他們的內積爲0
諧波正弦是正交的。(諧波正弦表示改離散時域正弦信號爲週期信號的狀況,即角頻率omega爲:(2*pi*k)/N,N是週期)。 注意離散時域正弦的定義,注意離散時域正弦的定義,注意離散時域正弦的定義。
注意:exp^j*2*pi*k = 1 由於,exp^j*2*pi*k = cos(2*pi*k)+j*sin(2*pi*k)
諧波正弦信號的2範數爲sqrt(N),其中N爲信號長度。它的歸一化以下:
總結:
內積的定義。內積夾角度定義。諧波正弦信號是正交的。
信號的線性組合就是矩陣與向量的乘積,而線性組合也能夠表示爲兩個向量的內積。
多個不一樣信號,在時間n進行混合,獲得的值y[n]爲:X矩陣的第n行與權值的內積。複數向量的內積計算須要共軛轉置,因此用T表達是不許確的。
總結:
矩陣與向量相乘也是向量內積。
內積和角度這兩個有用的工具能夠幫助咱們對信號進行比較。Amazing的是,柯西不等式能夠對這個比較進行定量分析。
經過夾角獲得了柯西不等式,獲得結論:內積體現了兩個信號的類似程度。
柯西不等式很重要,柯西不等式很重要,柯西不等式很重要。兩個信號共線,則他們的類似程度最高。一個信號就是另外一個信號的縮放(哇哇哇,太神奇)。(想一想他們的信號長度N相同,通過alpha的縮放。)
應用舉例:大前提:全部信號在傳輸過程當中,都有噪音的影響。
如何識別通信信號中的0和1? 由於實際波形噪音嚴重,可是經過與理想信號(0和1)進行內積,就能獲得該信號屬於0或者1的可能性的大小。
雷達發出一個衝擊信號,同時不斷接受各類信號(純噪音,各類信號與噪音的負荷信號),一樣進行不斷的內積,若是發現了較大的內積值,就是咱們想要的結果了。根據延時信息還能夠獲得該信號(飛機)的速度信息。
面部識別:最簡單的是圖像的全部點都進行了註冊,因此信號的長度相等,對應份量位置表示相同的信息。因此內積能夠表示兩個圖像的類似程度。(實際識別複雜的多)
總結:
內積能夠衡量兩個信號的類似程度。
柯西不等式對這種衡量進行了校準,結果在0,1之間。信號接近邊界分別表示了不一樣和類似。
以上,咱們研究的對象都是有限長度的信號,包括實數和複數兩種信號,並研究了他們的範式,內積和線性組合。下面,咱們看看無限長的信號。信號的份量標示n從負無窮到正無窮之間。
先看看超級有用的2範數。 從有限到無限,範數的定義沒有變化。可是,在無限長度信號中,不必定存在2範數~~~~~~
例如,下面信號的2範數表示該信號: 能量無限能量無限能量無限 哈哈我瘋了。
推廣到p_norm,也不是全部的無限信號都有P範數。
無窮範數呢?
內積的定義與有限信號相比,也沒有變化噢。
無限信號的內積與線性組合關係十分緊密,而且與有線信號的線性組合是同樣的。 更重要的是:咱們對不少無限信號的線性組合很是關注。
總結:
無限信號的範數,內積,線性組合與有限信號徹底同樣。
BUT, 無限信號存在1範數,2範數,無窮範數不存在的狀況。另外,線性組合中可能涉及到無窮種信號的混合(而不僅僅是信號長度爲無窮)