发表于2024-11-24
模式識彆與人工智能(基於MATLAB) pdf epub mobi txt 電子書 下載 2024
《模式識彆與人工智能(基於MATLAB)》以實用性、可操作性和實踐性為宗旨,以酒瓶顔色分類的設計為例,將理論與實踐相結閤,介紹各種相關分類器設計。
《模式識彆與人工智能(基於MATLAB)》將模式識彆與人工智能理論與實際應用相結閤, 以酒瓶顔色分類為例, 介紹瞭各種算法理論及相應的 MATLAB實現程序。全書共分為10章, 包括模式識彆概述、貝葉斯分類器的設計、判彆函數分類器的設計、聚類分析、 模糊聚類、神經網絡分類器設計、模擬退火算法的分類器設計、遺傳算法聚類設計、蟻群算法聚類設計、粒子群算法聚類設計,覆蓋瞭各種常用的模式識彆技術。
周潤景,內濛古大學電信學院自動化係教授,中國電子學會高級會員,IEEE/EMBS會員。多年來一直從事EDA技術的研究。近五年主持參與航天部項目六項,在國內外齣版EDA設計專著20多部,發錶論文50多篇,其中EI檢索30多篇,近五年來為國防科工局所屬單位培訓軍工電子係統可靠性設計、EMC設計、高速PCB設計1000多人次。在本項目中負責係統仿真。承擔國傢自然基金項目2項,教育部春暉計劃項目2項,自治區自然基金項目1項,自治區高校科研項目2項,軍工企業項目4項等。
第1章模式識彆概述
1.1模式識彆的基本概念
1.1.1模式的描述方法
1.1.2模式識彆係統
1.2模式識彆的基本方法
1.3模式識彆的應用
習題
第2章貝葉斯分類器設計
2.1貝葉斯決策及貝葉斯公式
2.1.1貝葉斯決策簡介
2.1.2貝葉斯公式
2.2基於最小錯誤率的貝葉斯決策
2.2.1基於最小錯誤率的貝葉斯決策理論
2.2.2最小錯誤率貝葉斯分類的計算過程
2.2.3最小錯誤率貝葉斯分類的MATLAB實現
2.2.4結論
2.3最小風險貝葉斯決策
2.3.1最小風險貝葉斯決策理論
2.3.2最小錯誤率與最小風險的貝葉斯決策比較
2.3.3貝葉斯算法的計算過程
2.3.4最小風險貝葉斯分類的MATLAB實現
2.3.5結論
習題
第3章判彆函數分類器設計
3.1判彆函數簡介
3.2綫性判彆函數
3.3綫性判彆函數的實現
3.4基於LMSE的分類器設計
3.4.1LMSE分類法簡介
3.4.2LMSE算法原理
3.4.3LMSE算法步驟
3.4.4LMSE算法的MATLAB實現
3.4.5結論
3.5基於Fisher的分類器設計
3.5.1Fisher判彆法簡介
3.5.2Fisher判彆法的原理
3.5.3Fisher分類器設計
3.5.4Fisher算法的MATLAB實現
3.5.5識彆待測樣本類彆
3.5.6結論
3.6基於支持嚮量機的分類法
3.6.1支持嚮量機簡介
3.6.2支持嚮量機基本思想
3.6.3支持嚮量機的幾個主要優點
3.6.4訓練集為非綫性情況
3.6.5核函數
3.6.6多類分類問題
3.6.7基於SVM的MATLAB實現
3.6.8結論
習題
第4章聚類分析
4.1聚類分析
4.1.1聚類的定義
4.1.2聚類準則
4.1.3基於試探法的聚類設計
4.2數據聚類——K均值聚類
4.2.1K均值聚類簡介
4.2.2K均值聚類原理
4.2.3K均值算法的優缺點
4.2.4K均值聚類的MATLAB實現
4.2.5待聚類樣本的分類結果
4.2.6結論
4.3數據聚類——基於取樣思想的改進K均值聚類
4.3.1K均值改進算法的思想
4.3.2基於取樣思想的改進K均值算法MATLAB實現
4.3.3結論
4.4數據聚類——K�步�鄰法聚類
4.4.1K�步�鄰法簡介
4.4.2K�步�鄰法的算法研究
4.4.3K�步�鄰法數據分類器的MATLAB實現
4.4.4結論
4.5數據聚類——PAM聚類
4.5.1PAM算法簡介
4.5.2PAM算法的主要流程
4.5.3PAM算法的MATLAB實現
4.5.4PAM算法的特點
4.5.5K均值算法和PAM算法分析比較
4.5.6結論
4.6數據聚類——層次聚類
4.6.1層次聚類方法簡介
4.6.2凝聚的和分裂的層次聚類
4.6.3簇間距離度量方法
4.6.4層次聚類方法存在的不足
4.6.5層次聚類的MATLAB實現
4.6.6結論
4.7數據聚類——ISODATA算法概述
4.7.1ISODATA算法應用背景
4.7.2ISODATA算法的MATLAB實現
4.7.3結論
習題
第5章模糊聚類分析
5.1模糊邏輯的發展
5.2模糊集閤
5.2.1由經典集閤到模糊集閤
5.2.2模糊集閤的基本概念
5.2.3隸屬度函數
5.3模糊集閤的運算
5.3.1模糊集閤的基本運算
5.3.2模糊集閤的基本運算規律
5.3.3模糊集閤與經典集閤的聯係
5.4模糊關係與模糊關係的閤成
5.4.1模糊關係的基本概念
5.4.2模糊關係的閤成
5.4.3模糊關係的性質
5.4.4模糊變換
5.5模糊邏輯及模糊推理
5.5.1模糊邏輯技術
5.5.2語言控製策略
5.5.3模糊語言變量
5.5.4模糊命題與模糊條件語句
5.5.5判斷與推理
5.5.6模糊推理
5.6數據聚類——模糊聚類
5.6.1模糊聚類的應用背景
5.6.2基於MATLAB的GUI工具的模糊算法構建——數據模糊化
5.6.3基於MATLAB的GUI工具的模糊算法構建——FIS實現
5.6.4係統結果分析
5.6.5結論
5.7數據聚類——模糊C均值聚類
5.7.1模糊C均值聚類的應用背景
5.7.2模糊C均值算法
5.7.3模糊C均值聚類的MATLAB實現
5.7.4模糊C均值聚類結果分析
5.7.5結論
5.8數據聚類——模糊ISODATA聚類
5.8.1模糊ISODATA聚類的應用背景
5.8.2模糊ISODATA算法的基本原理
5.8.3模糊ISODATA算法的基本步驟
5.8.4模糊ISODATA算法的MATLAB程序實現
5.8.5結論
5.9模糊神經網絡
5.9.1模糊神經網絡的應用背景
5.9.2模糊神經網絡算法的原理
5.9.3模糊神經網絡分類器的MATLAB實現
5.9.4結論
習題
第6章神經網絡聚類設計
6.1什麼是神經網絡
6.1.1神經網絡的發展曆程
6.1.2生物神經係統的結構及衝動的傳遞過程
6.1.3人工神經網絡的定義
6.2人工神經網絡模型
6.2.1人工神經元的基本模型
6.2.2人工神經網絡基本構架
6.2.3人工神經網絡的工作過程
6.2.4人工神經網絡的特點
6.3前饋神經網絡
6.3.1感知器網絡
6.3.2BP網絡
6.3.3BP網絡的建立及執行
6.3.4BP網絡分類器的MATLAB實現
6.3.5BP網絡的其他學習算法的應用
6.4反饋神經網絡
6.4.1離散Hopfield網絡的結構
6.4.2離散Hopfield網絡的工作方式
6.4.3離散Hopfield網絡的穩定性和吸引子
6.4.4離散Hopfield網絡的連接權設計
6.4.5離散Hopfield網絡分類器的MATLAB實現
6.4.6結論
6.5徑嚮基函數
6.5.1徑嚮基函數的網絡結構及工作方式
6.5.2徑嚮基函數網絡的特點及作用
6.5.3徑嚮基函數網絡參數選擇
6.5.4RBF網絡分類器的MATLAB實現
6.5.5結論
6.6廣義迴歸神經網絡
6.6.1GRNN的結構
6.6.2GRNN的理論基礎
6.6.3GRNN的特點及作用
6.6.4GRNN分類器的MATLAB實現
6.6.5結論
6.7小波神經網絡
6.7.1小波神經網絡的基本結構
6.7.2小波神經網絡的訓練算法
6.7.3小波神經網絡結構設計
6.7.4小波神經網絡分類器的MATLAB實現
6.7.5結論
6.8其他形式的神經網絡
6.8.1競爭型人工神經網絡——自組織競爭
6.8.2競爭型人工神經網絡——自組織特徵映射神經網絡
6.8.3競爭型人工神經網絡——學習嚮量量化神經網絡
6.8.4概率神經網絡
6.8.5CPN神經網絡分類器的MATLAB實現
習題
第7章模擬退火算法聚類設計
7.1模擬退火算法簡介
7.1.1物理退火過程
7.1.2Metropolis準則
7.1.3模擬退火算法的基本原理
7.1.4模擬退火算法的組成
7.1.5模擬退火算法新解的産生和接受
7.1.6模擬退火算法的基本過程
7.1.7模擬退火算法的參數控製問題
7.2基於模擬退火思想的聚類算法
7.2.1K均值算法的局限性
7.2.2基於模擬退火思想的改進K均值聚類算法
7.2.3幾個重要參數的選擇
7.3算法實現
7.3.1實現步驟
7.3.2模擬退火實現模式分類的MATLAB程序
7.4結論
習題
第8章遺傳算法聚類設計
8.1遺傳算法簡介
8.2遺傳算法原理
8.2.1遺傳算法的基本術語
8.2.2遺傳算法進行問題求解的過程
8.2.3遺傳算法的優缺點
8.2.4遺傳算法的基本要素
8.3算法實現
8.3.1種群初始化
8.3.2適應度函數的設計
8.3.3選擇操作
8.3.4交叉操作
8.3.5變異操作
8.3.6完整程序及仿真結果
8.4結論
習題
第9章蟻群算法聚類設計
9.1蟻群算法簡介
9.2蟻群算法原理
9.2.1基本蟻群算法原理
9.2.2模型建立
9.2.3蟻群算法的特點
9.3基本蟻群算法的實現
9.4算法改進
9.4.1MMAS算法簡介
9.4.2完整程序及仿真結果
9.5結論
習題
第10章粒子群算法聚類設計
10.1粒子群算法簡介
10.2經典的粒子群算法的運算過程
10.3兩種基本的進化模型
10.4改進的粒子群優化算法
10.4.1粒子群優化算法原理
10.4.2粒子群優化算法的基本流程
10.5粒子群算法與其他算法的比較
10.6粒子群算法分類器的MATLAB實現
10.6.1設定參數
10.6.2初始化
10.6.3完整程序及仿真結果
10.7結論
習題
參考文獻
第3章判彆函數分類器設計
3.1判彆函數簡介
判彆函數是統計模式識彆中用以對模式進行分類的一種較簡單的函數。在特徵空間中,通過學習,不同的類彆可以得到不同的判彆函數,比較不同類彆的判彆函數值的大小,就可以進行分類。統計模式識彆方法把特徵空間劃分為決策區對模式進行分類,一個模式類同一個或幾個決策區相對應。
設有c個類彆,對於每一個類彆ωi(i=1,2,…,c)定義一個關於特徵嚮量X的單值函數gi(X): ①如果X屬於第i類,那麼gi(X)>gj(X)(i,j=1,2,…,c,j≠i); ②如果X在第i類和第j類的分界麵上,那麼gi(X)=gj(X)(i,j=1,2,…,c,j≠i)。
人們已研究齣多種求取決策邊界的算法,綫性判彆函數的決策邊界是一個超平麵方程式,其中的係數可以從已知類彆的學習樣本集求得。F.羅森布拉特的錯誤修正訓練程序是求取兩類綫性可分分類器決策邊界的早期方法之一。在用綫性判彆函數不可能對所有學習樣本正確分類的情況下,可以規定一個準則函數(例如對學習樣本的錯分數最少)並用使準則函數達到最優的算法求取決策邊界。用綫性判彆函數的模式分類器也稱為綫性分類器或綫性機,這種分類器計算簡單,不要求估計特徵嚮量的類條件概率密度,是一種非參數分類方法。
當用貝葉斯決策理論進行分類器設計時,在一定的假設下也可以得到綫性判彆函數,這無論對於綫性可分或綫性不可分的情況都是適用的。在問題比較復雜的情況下可以用多段綫性判彆函數(見近鄰法分類、最小距離分類)或多項式判彆函數對模式進行分類。一個二階的多項式判彆函數可以錶示為與它相應的決策邊界是一個超二次麯麵。
本章介紹綫性判彆函數和非綫性判彆函數,用以對酒瓶的顔色進行分類,其中實現綫性判彆函數分類的方法有LMSE分類算法和Fisher分類,實現非綫性判彆函數分類的方法有基於核的Fisher分類和支持嚮量機。
3.2綫性判彆函數
判彆函數分為綫性判彆函數和非綫性判彆函數。最簡單的判彆函數是綫性判彆函數,它是由所有特徵量的綫性組閤構成的。我們現在對兩類問題和多類問題分彆進行討論。
1. 兩類問題
對於兩類問題,也就是Wi=(ω1,ω2)T。
1) 二維情況
取二維特徵嚮量X=(x1,x2)T,這種情況下的判彆函數g(x)=ω1x1+ω2x2+ω3,其中,ωi(i=1,2,3)為參數; x1和x2為坐標值,判彆函數g(x)具有以下性質: 當x∈ω1時,gi(x)>0; 當x∈ω2時,gi(x)<0; 當x不定時,gi(x)=0。這是二維情況下由判彆邊界分類。
2) n維情況
對於n維情況,現抽取n維特徵嚮量: X=(x1,x2,…,xn)T,判彆函數為g(x)=W0X+ωn+1。其中,W0=(ω1,ω2,…,ωn)T為權嚮量; X=(x1,x2,…,xn)T為模式嚮量。另外一種錶示方法是g(x)=WTX。其中,W=(ω1,ω2,…,ωn,ωn+1)T為增值權嚮量; X=(x1,x2,…,xn,1)T為增值模式嚮量。
在這種情況下,當x∈ω1時,g(x)>0; 當x∈ω2時,g(x)<0 g1="" x="" 0="" n="2時,邊界為一條直綫,當n=3時,邊界為一個平麵,當n">3時,邊界為超平麵。
2. 多類問題
對於多類問題,模式有ω1,ω2,…,ωM個類彆,可以分為下麵三種情況。
1) 第一種情況
每個模式類與其他模式可用單個判彆平麵分開,這時M個類有M個判彆函數,且具有性質
gi(x)=WTiX(3��1)
式中,Wi=(ωi1,ωi2,…,ωin+1)T為第i個判彆函數的權嚮量。當x∈ωi時,gi(x)>0,其他情況下gi(x)<0,也就是每一個類彆可以用單個判彆邊界與其他類彆相分開。
2) 第二種情況
每個模式類和其他模式類之間可以用判彆平麵分開,這樣就有M(M-1)2個平麵,對於兩類問題,M=2,則有1個判彆平麵,同理對於三類問題,就有3個判彆平麵。判彆函數為
gij(x)=WTijX(3��2)
式中,i≠j,判彆邊界為gij(x)=0,條件為: 當x∈ωi時,gij(x)>0; 當x∈ωj時,gij(x)<0。
3) 第三種情況
每類都有一個判彆函數,存在M個判彆函數: gk(x)=WkX(k=1,2,…,M),邊界為gi(x)=gj(x),條件為: 當x∈ωi時,gi(x)最大; 其他情況下gi(x)小。也就是說,要判彆X屬於哪一個類,先把X代入M個判彆函數,判彆函數最大的那個類就是X所屬類彆。
3.3綫性判彆函數的實現
對於給定的樣本集X,要確定綫性判彆函數g(x)=WTx+ω0的各項係數W和ω0,可以通過以下步驟來實現:
① 收集一組具有類彆標誌的樣本X={x1,x2,…,xN};
② 按照需要確定準則函數J;
③ 用最優化技術求準則函數J的極值解ω*和ω*0,從而確定判彆函數,完成分類器的設計。
對於未知樣本x,計算g(x),判斷其類彆。即對於一個綫性判彆函數,主要任務是確定綫性方程的兩個參數,一個是權嚮量W,另一個是閾值ω0。
在計算機中想要實現綫性判彆函數,可以通過“訓練”和“學習”的方式,將已知樣本放入到計算機的“訓練”程序,經過多次迭代,從而得到準確函數。
下麵具體介紹各種分類器的設計。
3.4基於LMSE的分類器設計
3.4.1LMSE分類法簡介
LMSE是Least Mean Square Error的英文縮寫,中文的意思是最小均方誤差,常稱作LMSE算法。
提到LMSE分類算法就不能不提感知器算法和自適應算法,因為LMSE算法本身就是自適應算法中最常用的方法,而感知器和自適應綫性元件在曆史上幾乎是同時提齣的,並且兩者在對權值的調整的算法非常相似,它們都是基於糾錯學習規則的學習算法。感知器算法存在如下問題: 不能推廣到一般的前嚮網絡中; 函數不是綫性可分時,得不齣任何結果。而由美國斯坦福大學的Widrow�睭off在研究自適應理論時提齣的LMSE算法,由於其易實現因而很快得到瞭廣泛應用,成為自適應濾波的標準算法。下麵介紹自適應過程。
自適應過程是一個不斷逼近目標的過程。它所遵循的途徑以數學模型錶示,稱為自適應算法。通常采用基於梯度的算法,其中LMSE算法尤為常用。自適應算法可以用硬件(處理電路)或軟件(程序控製)兩種辦法實現。前者依據算法的數學模型設計電路,後者則將算法的數學模型編製成程序並用計算機實現。算法有很多種,選擇算法很重要,它決定瞭處理係統的性能質量和可行性。
自適應均衡器的原理就是按照某種準則和算法對其係數進行調整,最終使自適應均衡器的代價(目標)函數最小化,達到最佳均衡的目的。而各種調整係數的算法就稱為自適應算法,自適應算法是根據某個最優準則來設計的。最常用的自適應算法有逼零算法、最陡下降算法、LMSE算法、RLS算法以及各種盲均衡算法等。
自適應算法所采用的最優準則有最小均方誤差準則、最小二乘準則、最大信噪比準則和統計檢測準則等,其中最小均方誤差準則和最小二乘準則是目前最為流行的自適應算法準則。LMSE算法和RLS算法由於采用的最優準則不同,因此這兩種算法在性能、復雜度等方麵均有許多差彆。
一種算法性能的好壞可以通過幾個常用的指標來衡量,例如收斂速度——通常用算法達到穩定狀態(即與最優值的接近程度達到一定值)的迭代次數錶示; 誤調比——實際均方誤差相對於算法的最小均方誤差的平均偏差; 運算復雜度——完成一次完整迭代所需的運算次數; 跟蹤性能——對信道時變統計特性的自適應能力。
3.4.2LMSE算法原理
LMSE算法是針對準則函數引進最小均方誤差這一條件而建立起來的。這種算法的主要特點是在訓練過程中判定訓練集是否綫性可分,從而可對結果的收斂性做齣判斷。
LMSE算法屬於監督學習的類型,而且是“模型無關”的,它是通過最小化輸齣和期望目標值之間的偏差來實現的。
LMSE算法屬於自適應算法中常用的算法,它不同於C均值算法和ISODATA算法,後兩種屬於基於距離度量的算法,直觀且容易理解。LMSE算法通過調整權值函數求齣判彆函數,進而將待測樣本代入判彆函數求值,最終做齣判定,得齣答案。
1. 準則函數
LMSE算法以最小均方差作為準則,因均方差為
模式識彆與人工智能(基於MATLAB) 下載 mobi epub pdf txt 電子書
模式識彆與人工智能(基於MATLAB) pdf epub mobi txt 電子書 下載