導航:首頁 > 網路問題 > 分類神經網路為什麼經過多輪訓練

分類神經網路為什麼經過多輪訓練

發布時間:2022-02-24 23:00:18

❶ 求助,神經網路分類器的訓練問題

給你介紹一種方法吧:使用9個BP網路,每個BP網路對應一個分類器,用來判斷一類問題。BP網路結構:每個BP網路輸入層4個節點,隱含層n個(具體個數自己定),輸出層1個節點。首先製作D類分類器--一個BP網路,當輸入樣本為D類樣本時,BP網路的目標輸出則為1,否則為0。使用者25組數據訓練BP網路1之後,就可以作為D類樣本分類器了。然後,依次類推分別製作EFGHIJKL分類器。使用時,一個新的輸入到來時,依次輸入給這幾個分類器,假若結果是:0.1 ,0.12,0.85,0.08,0.2,0.4,0.5,0.21,0.06,顯然,新的樣本屬於F類。每個神經網路的訓練演算法,低級的有梯度法,高級的有擬牛頓法、共軛梯度法,LM法

❷ 神經網路分類問題

神經網路是新技術領域中的一個時尚詞彙。很多人聽過這個詞,但很少人真正明白它是什麼。本文的目的是介紹所有關於神經網路的基本包括它的功能、一般結構、相關術語、類型及其應用。

「神經網路」這個詞實際是來自於生物學,而我們所指的神經網路正確的名稱應該是「人工神經網路(ANNs)」。在本文,我會同時使用這兩個互換的術語。

一個真正的神經網路是由數個至數十億個被稱為神經元的細胞(組成我們大腦的微小細胞)所組成,它們以不同方式連接而型成網路。人工神經網路就是嘗試模擬這種生物學上的體系結構及其操作。在這里有一個難題:我們對生物學上的神經網路知道的不多!因此,不同類型之間的神經網路體系結構有很大的不同,我們所知道的只是神經元基本的結構。

The neuron
--------------------------------------------------------------------------------

雖然已經確認在我們的大腦中有大約50至500種不同的神經元,但它們大部份都是基於基本神經元的特別細胞。基本神經元包含有synapses、soma、axon及dendrites。Synapses負責神經元之間的連接,它們不是直接物理上連接的,而是它們之間有一個很小的空隙允許電子訊號從一個神經元跳到另一個神經元。然後這些電子訊號會交給soma處理及以其內部電子訊號將處理結果傳遞給axon。而axon會將這些訊號分發給dendrites。最後,dendrites帶著這些訊號再交給其它的synapses,再繼續下一個循環。

如同生物學上的基本神經元,人工的神經網路也有基本的神經元。每個神經元有特定數量的輸入,也會為每個神經元設定權重(weight)。權重是對所輸入的資料的重要性的一個指標。然後,神經元會計算出權重合計值(net value),而權重合計值就是將所有輸入乘以它們的權重的合計。每個神經元都有它們各自的臨界值(threshold),而當權重合計值大於臨界值時,神經元會輸出1。相反,則輸出0。最後,輸出會被傳送給與該神經元連接的其它神經元繼續剩餘的計算。

Learning
--------------------------------------------------------------------------------

正如上述所寫,問題的核心是權重及臨界值是該如何設定的呢?世界上有很多不同的訓練方式,就如網路類型一樣多。但有些比較出名的包括back-propagation, delta rule及Kohonen訓練模式。

由於結構體系的不同,訓練的規則也不相同,但大部份的規則可以被分為二大類別 - 監管的及非監管的。監管方式的訓練規則需要「教師」告訴他們特定的輸入應該作出怎樣的輸出。然後訓練規則會調整所有需要的權重值(這是網路中是非常復雜的),而整個過程會重頭開始直至數據可以被網路正確的分析出來。監管方式的訓練模式包括有back-propagation及delta rule。非監管方式的規則無需教師,因為他們所產生的輸出會被進一步評估。

Architecture
--------------------------------------------------------------------------------

在神經網路中,遵守明確的規則一詞是最「模糊不清」的。因為有太多不同種類的網路,由簡單的布爾網路(Perceptrons),至復雜的自我調整網路(Kohonen),至熱動態性網路模型(Boltzmann machines)!而這些,都遵守一個網路體系結構的標准。

一個網路包括有多個神經元「層」,輸入層、隱蔽層及輸出層。輸入層負責接收輸入及分發到隱蔽層(因為用戶看不見這些層,所以見做隱蔽層)。這些隱蔽層負責所需的計算及輸出結果給輸出層,而用戶則可以看到最終結果。現在,為免混淆,不會在這里更深入的探討體系結構這一話題。對於不同神經網路的更多詳細資料可以看Generation5 essays

盡管我們討論過神經元、訓練及體系結構,但我們還不清楚神經網路實際做些什麼。

The Function of ANNs
--------------------------------------------------------------------------------

神經網路被設計為與圖案一起工作 - 它們可以被分為分類式或聯想式。分類式網路可以接受一組數,然後將其分類。例如ONR程序接受一個數字的影象而輸出這個數字。或者PPDA32程序接受一個坐標而將它分類成A類或B類(類別是由所提供的訓練決定的)。更多實際用途可以看Applications in the Military中的軍事雷達,該雷達可以分別出車輛或樹。

聯想模式接受一組數而輸出另一組。例如HIR程序接受一個『臟』圖像而輸出一個它所學過而最接近的一個圖像。聯想模式更可應用於復雜的應用程序,如簽名、面部、指紋識別等。

The Ups and Downs of Neural Networks
--------------------------------------------------------------------------------

神經網路在這個領域中有很多優點,使得它越來越流行。它在類型分類/識別方面非常出色。神經網路可以處理例外及不正常的輸入數據,這對於很多系統都很重要(例如雷達及聲波定位系統)。很多神經網路都是模仿生物神經網路的,即是他們仿照大腦的運作方式工作。神經網路也得助於神經系統科學的發展,使它可以像人類一樣准確地辨別物件而有電腦的速度!前途是光明的,但現在...

是的,神經網路也有些不好的地方。這通常都是因為缺乏足夠強大的硬體。神經網路的力量源自於以並行方式處理資訊,即是同時處理多項數據。因此,要一個串列的機器模擬並行處理是非常耗時的。

神經網路的另一個問題是對某一個問題構建網路所定義的條件不足 - 有太多因素需要考慮:訓練的演算法、體系結構、每層的神經元個數、有多少層、數據的表現等,還有其它更多因素。因此,隨著時間越來越重要,大部份公司不可能負擔重復的開發神經網路去有效地解決問題。

Conclusion
--------------------------------------------------------------------------------

希望您可以通過本文對神經網路有基本的認識。Generation5現在有很多關於神經網路的資料可以查閱,包括文章及程序。我們有Hopfield、perceptrons(2個)網路的例子,及一些back-propagation個案研究。

Glossary
--------------------------------------------------------------------------------
NN 神經網路,Neural Network
ANNs 人工神經網路,Artificial Neural Networks
neurons 神經元
synapses 神經鍵
self-organizing networks 自我調整網路
networks modelling thermodynamic properties 熱動態性網路模型

❸ 多分類神經網路訓練問題

  1. 確定數據和代碼沒有問題

  2. 是否過擬合?

❹ 神經網路的分類應用的問題

是的,你數據維數高了,需要主成分之類降維處理

❺ 為什麼要對訓練好的神經網路進行測試目的是什麼測試和訓練過程區別是什麼

訓練得到擬合程度高的網路,測試樣本的准確率未必高。一個好的網路應該具有很好的泛化能力。
可以這樣理解,訓練是根據你輸入的數據通過修正權值來減小誤差得到網路模型,測試是用另外的數據去測試網路的性能。

❻ 神經網路中的訓練次數是指什麼

神經網路中的訓練次數是訓練時,1個batch訓練圖像通過網路訓練一次(一次前向傳播+一次後向傳播),每迭代一次權重更新一次;測試時,1個batch測試圖像通過網路一次(一次前向傳播)的次數。

在機器學習和相關領域,人工神經網路(人工神經網路)的計算模型靈感來自動物的中樞神經系統(尤其是腦),並且被用於估計或可以依賴於大量的輸入和一般的未知近似函數。人工神經網路通常呈現為相互連接的「神經元」,它可以從輸入的計算值,並且能夠機器學習以及模式識別由於它們的自適應性質的系統。

例如,用於手寫體識別的神經網路是由一組可能被輸入圖像的像素激活的輸入神經元來限定。後進過加權,並通過一個函數(由網路的設計者確定的)轉化,這些神經元的致動被上到其他神經元然後被傳遞。重復此過程,直到最後,一輸出神經元被激活。這決定了哪些字元被讀取。

(6)分類神經網路為什麼經過多輪訓練擴展閱讀

神經網路分類:

1、選擇模式:這將取決於數據的表示和應用。過於復雜的模型往往會導致問題的學習。

2、學習演算法:在學習演算法之間有無數的權衡。幾乎所有的演算法為了一個特定的數據集訓練將會很好地與正確的超參數合作。然而,選擇和調整的演算法上看不見的數據訓練需要顯著量的實驗。

3、穩健性:如果該模型中,成本函數和學習演算法,適當地選擇所得到的神經網路可以是非常健壯的。有了正確的實施,人工神經網路,可以自然地應用於在線學習和大型數據集的應用程序。其簡單的實現和表現在結構上主要依賴本地的存在,使得在硬體快速,並行實現。

❼ 為什麼利用BP神經網路設計的分類器訓練完後 實際測試時其輸出的分類值不變,就是分不出類別啊,急,謝謝了

有可能是訓練樣本,兩類樣本數量相差懸殊 ,你那神經網路什麼結構,什麼訓練方式,你確信通過超曲面能把樣本分開?因為BP神經網路分類器是在擬合一種超曲面分類器,如果樣本不可分,或者特徵變數沒選好,訓練神經網路是不可能達到目的的。

❽ 為什麼在類別少時卷積神經網路識別率很高,類別多時識別率下降

神經網路也不是萬能的。
問題太復雜,神經網路訓練時的收斂壓力也越大,效果自然沒有之前好。另外可以選擇調整下網路參數,對結果會有一些改進。

❾ 為什麼要批量訓練神經網路

神經網路每次迭代的時候使用小批量,有兩個好處,一方面可以降低參數更新時候的方差,收斂更加穩定,另一方面可以高度利用矩陣操作進行有效的梯度計算。

閱讀全文

與分類神經網路為什麼經過多輪訓練相關的資料

熱點內容
app網路什麼特點 瀏覽:607
怎麼連自家wifi網路拒絕接入 瀏覽:2
電信網路貓的信號顯示 瀏覽:15
網路安全責任書甲方責任 瀏覽:295
實際網路信號波形 瀏覽:476
一個月通訊費和網路多少合適 瀏覽:952
蘋果手機解鎖後重新連接網路 瀏覽:703
如何查找網路文獻發布時間 瀏覽:438
山上無網路華為4G路由器 瀏覽:126
宿舍同一個網路為什麼別人不卡 瀏覽:21
陰陽師渠道服網路連接錯誤 瀏覽:996
承德網路營銷經理怎麼做 瀏覽:244
長安逸動plus網路是哪個營業廳 瀏覽:574
網路共享熱點限制 瀏覽:995
忘記網路密碼怎麼連接華為 瀏覽:184
無線網路機頂盒設計 瀏覽:758
三層無線網路實驗 瀏覽:327
家庭網路總是斷開怎麼回事 瀏覽:856
圓形網路線怎麼畫 瀏覽:166
共享電視網路錯誤怎麼辦 瀏覽:173

友情鏈接