學習概率與數理統計總結
1. 概率與數理統計
包括概率論和數理統計
概率論的基本問題是：已知總體分布的信息，需要推斷出局部的信息；
數理統計的基本問題是：已知樣本（局部）信息，需要推斷出總體分布的信息。
(1) 參數估計：
a) 點估計，估計量檢驗，矩估計
b) 無偏估計；有偏估計：嶺估計
(2) 假設檢驗
預先知道服從分布，
非參數假設檢驗
(3) 統計分析（包括多元統計分析）
n 方差分析
n 偏度分析
n 協方差分析
n 相關分析
n 主成分分析
n 聚類分析
n 回歸分析，檢驗統計量
(4) 抽樣理論
(5) 偏最小二乘回歸分析
(6) 線性與非線性統計
2. 隨機過程
定義：
3. 統計信號處理
假設檢驗和參數估計屬于統計推斷的兩種形式。
3.1 信號檢測
3.2 估計理論
估計理論是統計的內容；
估計理論包括靜態參數估計和動態參數估計，動態參數估計也稱狀態估計或波形估計（信號有連續和離散之分）。似乎有的人將靜態參數估計稱作參數估計，將動態參數估計稱作濾波！
靜態估計：
n 貝葉斯估計
濾波是估計理論的研究內容。濾波可以分為空域、時域和頻域的，數字圖像處理常用的就是空域和頻域的濾波如卷積運算，而無線信號處理則多為時域和頻域，如維納濾波。
解決最優濾波問題有三種方法論：包括維納濾波、卡爾曼濾波、現代時間序列分析。
無線定位信號處理包括兩部分內容，首先是消除奇異值，是消除錯誤的過程；其次是濾波，消除或減少信號在信道中傳播的隨機噪聲影響。
3.3 時間序列分析
時間序列包括估計理論包含濾波，總之估計理論和時間序列分析都屬于統計的范疇。
注意滑動平均這類濾波方法，在時間序列分析中經常被使用！
4. 變換理論
4.1 傅里葉變換
五種信號分類
分類名稱
對應變換
英文命名
對應算法
應用
連續周期信號
連續傅里葉級數變換
csft
連續信號
連續傅里葉變換
cft
離散周期信號
離散傅里葉級數變換
dfs
離散信號
序列傅里葉變換
sft
離散有限序列信號
離散傅里葉變換
dft
fft
圖像處理
信號處理
4.2 小波變換
小波分析是在傅里葉分析的基礎上發展起來的，小波變換和fourier變換、加窗fourier變換相比，是一個自適應的時間和頻率的局部變換，具有良好的時_頻定位特性和多分辨能力。它能有效地從信號中提取信息，通過伸縮核平移等運算對信號進行多尺度細化分析，被譽為“數學顯微鏡”。
小波的時頻窗在低頻自動變寬，在高頻時自動變窄。
5. 理論基礎
5.1 貝葉斯方法
貝葉斯體系的基本思路：依據過程概率分布的先驗知識，將包含在信號中的事實進行組合。粗略來講，在統計推斷中使用先驗分布的方法進行統計基本上都是貝葉斯統計。
貝葉斯估計：最大后驗估計、最大似然估計、最小均方估計、最小平均絕對誤差估計
貝葉斯推斷：是根據帶隨機性的觀測數據（樣本）以及問題的條件和假定（模型），對未知事物做出的，以概率形式表達的推測。