腦網路特徵選擇方法有哪些

A. 深度學習與神經網路有什麼區別

找深度學習和神經網路的不同點，其實主要的就是：
原來多層神經網路做的步驟是：特徵映射到值。特徵是人工挑選。
深度學習做的步驟是 信號->特徵->值。 特徵是由網路自己選擇。

另外，深度學習作為機器學習的領域中一個新的研究方向，在被引進機器學習後，讓機器學習可以更加的接近最初的目標，也就是人工智慧。
深度學習主要就是對樣本數據的內在規律還有表示層次的學習，這些學習過程中獲得的信息對諸如文字，圖像和聲音等數據的解釋有很大的幫助。它的最終目標是讓機器能夠像人一樣具有分析學習能力，能夠識別文字、圖像和聲音等數據。 深度學習是一個復雜的機器學習演算法，在語音和圖像識別方面取得的效果，遠遠超過先前相關技術。
深度學習在搜索技術，數據挖掘，機器學習，機器翻譯，自然語言處理，多媒體學習，語音，推薦和個性化技術，以及其他相關領域都取得了很多成果。深度學習使機器模仿視聽和思考等人類的活動，解決了很多復雜的模式識別難題，使得人工智慧相關技術取得了很大進步。
而神經網路則是可以分為兩種，一種是生物神經網路，而另一種則是人工神經網路。
生物神經網路就是生物的大腦神經元、主要是由細胞以及觸點組成的，主要的作用就是讓生物產生意識，或者是幫助生物實現思考還有行動的目的。
神經網路可以指向兩種，一個是生物神經網路，一個是人工神經網路。
人工神經網路（Artificial Neural Networks，簡寫為ANNs）也簡稱為神經網路（NNs）或稱作連接模型（Connection Model），它是一種模仿動物神經網路行為特徵，進行分布式並行信息處理的演算法數學模型。這種網路依靠系統的復雜程度，通過調整內部大量節點之間相互連接的關系，從而達到處理信息的目的。
人工神經網路：是一種應用類似於大腦神經突觸聯接的結構進行信息處理的數學模型。在工程與學術界也常直接簡稱為「神經網路」或類神經網路。

B. BP神經網路的核心問題是什麼其優缺點有哪些

人工神經網路,是一種旨在模仿人腦結構及其功能的信息處理系統,就是使用人工神經網路方法實現模式識別.可處理一些環境信息十分復雜,背景知識不清楚,推理規則不明確的問題,神經網路方法允許樣品有較大的缺損和畸變.神經網路的類型很多,建立神經網路模型時,根據研究對象的特點,可以考慮不同的神經網路模型. 前饋型BP網路,即誤差逆傳播神經網路是最常用,最流行的神經網路.BP網路的輸入和輸出關系可以看成是一種映射關系,即每一組輸入對應一組輸出.BP演算法是最著名的多層前向網路訓練演算法,盡管存在收斂速度慢,局部極值等缺點,但可通過各種改進措施來提高它的收斂速度,克服局部極值現象,而且具有簡單,易行,計算量小,並行性強等特點,目前仍是多層前向網路的首選演算法.

• 多層前向BP網路的優點：

• 網路實質上實現了一個從輸入到輸出的映射功能，而數學理論已證明它具有實現任何復雜非線性映射的功能。這使得它特別適合於求解內部機制復雜的問題；

• 網路能通過學習帶正確答案的實例集自動提取「合理的」求解規則，即具有自學習能力；

• 網路具有一定的推廣、概括能力。

• 多層前向BP網路的問題：

• 從數學角度看，BP演算法為一種局部搜索的優化方法，但它要解決的問題為求解復雜非線性函數的全局極值，因此，演算法很有可能陷入局部極值，使訓練失敗；

• 網路的逼近、推廣能力同學習樣本的典型性密切相關，而從問題中選取典型樣本實例組成訓練集是一個很困難的問題。

• 難以解決應用問題的實例規模和網路規模間的矛盾。這涉及到網路容量的可能性與可行性的關系問題，即學習復雜性問題；

• 網路結構的選擇尚無一種統一而完整的理論指導，一般只能由經驗選定。為此，有人稱神經網路的結構選擇為一種藝術。而網路的結構直接影響網路的逼近能力及推廣性質。因此，應用中如何選擇合適的網路結構是一個重要的問題；

• 新加入的樣本要影響已學習成功的網路，而且刻畫每個輸入樣本的特徵的數目也必須相同；

• 網路的預測能力（也稱泛化能力、推廣能力）與訓練能力（也稱逼近能力、學習能力）的矛盾。一般情況下，訓練能力差時，預測能力也差，並且一定程度上，隨訓練能力地提高，預測能力也提高。但這種趨勢有一個極限，當達到此極限時，隨訓練能力的提高，預測能力反而下降，即出現所謂「過擬合」現象。此時，網路學習了過多的樣本細節，而不能反映樣本內含的規律

• 由於BP演算法本質上為梯度下降法，而它所要優化的目標函數又非常復雜，因此，必然會出現「鋸齒形現象」，這使得BP演算法低效；

• 存在麻痹現象，由於優化的目標函數很復雜，它必然會在神經元輸出接近0或1的情況下，出現一些平坦區，在這些區域內，權值誤差改變很小，使訓練過程幾乎停頓；

• 為了使網路執行BP演算法，不能用傳統的一維搜索法求每次迭代的步長，而必須把步長的更新規則預先賦予網路，這種方法將引起演算法低效。

C. 人工神經網路有哪些類型

人工神經網路模型主要考慮網路連接的拓撲結構、神經元的特徵、學習規則等。目前，已有近40種神經網路模型，其中有反傳網路、感知器、自組織映射、Hopfield網路、波耳茲曼機、適應諧振理論等。根據連接的拓撲結構，神經網路模型可以分為：

（1）前向網路 網路中各個神經元接受前一級的輸入，並輸出到下一級，網路中沒有反饋，可以用一個有向無環路圖表示。這種網路實現信號從輸入空間到輸出空間的變換，它的信息處理能力來自於簡單非線性函數的多次復合。網路結構簡單，易於實現。反傳網路是一種典型的前向網路。

（2）反饋網路 網路內神經元間有反饋，可以用一個無向的完備圖表示。這種神經網路的信息處理是狀態的變換，可以用動力學系統理論處理。系統的穩定性與聯想記憶功能有密切關系。Hopfield網路、波耳茲曼機均屬於這種類型。

學習是神經網路研究的一個重要內容，它的適應性是通過學習實現的。根據環境的變化，對權值進行調整，改善系統的行為。由Hebb提出的Hebb學習規則為神經網路的學習演算法奠定了基礎。Hebb規則認為學習過程最終發生在神經元之間的突觸部位，突觸的聯系強度隨著突觸前後神經元的活動而變化。在此基礎上，人們提出了各種學習規則和演算法，以適應不同網路模型的需要。有效的學習演算法，使得神經網路能夠通過連接權值的調整，構造客觀世界的內在表示，形成具有特色的信息處理方法，信息存儲和處理體現在網路的連接中。
根據學習環境不同，神經網路的學習方式可分為監督學習和非監督學習。在監督學習中，將訓練樣本的數據加到網路輸入端，同時將相應的期望輸出與網路輸出相比較，得到誤差信號，以此控制權值連接強度的調整，經多次訓練後收斂到一個確定的權值。當樣本情況發生變化時，經學習可以修改權值以適應新的環境。使用監督學習的神經網路模型有反傳網路、感知器等。非監督學習時，事先不給定標准樣本，直接將網路置於環境之中，學習階段與工作階段成為一體。此時，學習規律的變化服從連接權值的演變方程。非監督學習最簡單的例子是Hebb學習規則。競爭學習規則是一個更復雜的非監督學習的例子，它是根據已建立的聚類進行權值調整。自組織映射、適應諧振理論網路等都是與競爭學習有關的典型模型。
研究神經網路的非線性動力學性質，主要採用動力學系統理論、非線性規劃理論和統計理論，來分析神經網路的演化過程和吸引子的性質，探索神經網路的協同行為和集體計算功能，了解神經信息處理機制。為了探討神經網路在整體性和模糊性方面處理信息的可能，混沌理論的概念和方法將會發揮作用。混沌是一個相當難以精確定義的數學概念。一般而言，「混沌」是指由確定性方程描述的動力學系統中表現出的非確定性行為，或稱之為確定的隨機性。「確定性」是因為它由內在的原因而不是外來的雜訊或干擾所產生，而「隨機性」是指其不規則的、不能預測的行為，只可能用統計的方法描述。混沌動力學系統的主要特徵是其狀態對初始條件的靈敏依賴性，混沌反映其內在的隨機性。混沌理論是指描述具有混沌行為的非線性動力學系統的基本理論、概念、方法，它把動力學系統的復雜行為理解為其自身與其在同外界進行物質、能量和信息交換過程中內在的有結構的行為，而不是外來的和偶然的行為，混沌狀態是一種定態。混沌動力學系統的定態包括：靜止、平穩量、周期性、准同期性和混沌解。混沌軌線是整體上穩定與局部不穩定相結合的結果，稱之為奇異吸引子。

D. 人工神經網路有什麼應用條件

人工神經網路（Artificial Neural Network，簡稱ANN ），以數學模型模擬神經元活動，是基於模仿大腦神經網路結構和功能而建立的一種信息處理系統。人工神經網路具有自學習、自組織、自適應以及很強的非線性函數逼近能力，擁有強大的容錯性。它可以實現模擬、預測以及模糊控制等功能。是處理非線性系統的有力工具。
它是物流合作夥伴選擇方法中合作夥伴選擇的神經網路演算法的另一種名稱。它是20世界80年代後迅速發展的一門新興學科，ANN可以模擬人腦的某些智能行為，如知覺，靈感和形象思維等，具有自學性，自適應和非線性動態處理等特徵。
將ANN應用於供應鏈管理（SCM）環境下合作合辦的綜合評價選擇，意在建立更加接近於人類思維模式的定性與定量相結合的綜合評價選擇模型。通過對給定樣本模式的學習，獲取評價專家的知識，經驗，主管判斷及對目標重要性的傾向，當對合作夥伴作出綜合評價時，該方法可再現評價專家的經驗，知識和直覺思維，從而實現了定性分析與定量分析的有效結合，也可以較好的保證合作夥伴綜合評價結果的客觀性。
在選定評價指標組合的基礎上，對評價指標作出評價，得到評價值後，因各指標間沒有統一的度量標准，難以進行直接的分析和比較，也不利於輸入神經網路計算。因此，在用神經網路進行綜合評價之前，應首先將輸入的評價值通過隸屬函數的作用轉換為（0，1]之間的值，即對評價值進行標准無綱量化，並作為神經網路的輸入，以使ANN可以處理定量和定性指標。

E. 探索大腦網路連接的幾種方式——基於靜息態功能磁共振數據

摘要:目的：在研究腦網路連接過程中，存在不同的連接方式。本文的目的在於探索不同連接方式之間的區別和特點。方法：利用3T磁共振設備，實驗當中採集22個健康人靜息態功能磁共振數據，依據運動控制過程當中的活動腦區，提取出前額葉皮層、運動聯合皮層、基底節、初級運動皮層、初級感覺皮層、小腦中部及小腦側面區域的時間序列。然後，分別利用Pearson相關、偏相關、偏最小二乘演算法、格蘭傑因果方程建模、結構方程建模方法來構建上述七個腦區之間的連接。最後，把由五種連接方法建立的結構圖與運動控制過程當中的信號傳遞圖做比較，以比較五種不同的連接方法。結果：實驗結果表明在無向連接圖裡面，偏相關顯示了較好的結果。在有向連接圖裡面，格蘭傑因果方程建模與模板匹配更好。結論：在腦網路研究當中，不同的連接方法會對實驗結果造成不同的影響。實際研究當中，應該結合實際的實驗條件和目的，選擇合理的連接方法。

F. 如何通過人工神經網路實現圖像識別

人工神經網路（Artificial Neural Networks）（簡稱ANN）系統從20 世紀40 年代末誕生至今僅短短半個多世紀，但由於他具有信息的分布存儲、並行處理以及自學習能力等優點，已經在信息處理、模式識別、智能控制及系統建模等領域得到越來越廣泛的應用。尤其是基於誤差反向傳播（Error Back Propagation）演算法的多層前饋網路（Multiple-Layer Feedforward Network）(簡稱BP 網路)，可以以任意精度逼近任意的連續函數，所以廣泛應用於非線性建模、函數逼近、模式分類等方面。

目標識別是模式識別領域的一項傳統的課題，這是因為目標識別不是一個孤立的問題，而是模式識別領域中大多數課題都會遇到的基本問題，並且在不同的課題中，由於具體的條件不同，解決的方法也不盡相同，因而目標識別的研究仍具有理論和實踐意義。這里討論的是將要識別的目標物體用成像頭(紅外或可見光等)攝入後形成的圖像信號序列送入計算機，用神經網路識別圖像的問題。

一、BP 神經網路

BP 網路是採用Widrow-Hoff 學習演算法和非線性可微轉移函數的多層網路。一個典型的BP 網路採用的是梯度下降演算法，也就是Widrow-Hoff 演算法所規定的。backpropagation 就是指的為非線性多層網路計算梯度的方法。一個典型的BP 網路結構如圖所示。

六、總結

從上述的試驗中已經可以看出，採用神經網路識別是切實可行的，給出的例子只是簡單的數字識別實驗，要想在網路模式下識別復雜的目標圖像則需要降低網路規模，增加識別能力，原理是一樣的。

G. 對於入侵檢測，統計異常檢測方法和特徵選擇異常檢測方法有什麼區別

統計異常檢測的方法用的是特徵輪廓的異常值加權，而特徵選擇異常檢測方法用的是特徵空間構成入侵的子集來判斷是否入侵。

這里ai表示與度量Mi的相關權重。一般而言，變數M1,M2…Mi 不是相互獨立的，需要更復雜的函數處理其相關性。異常性測量值僅僅是數字，沒有明確的理論依據支持這種處理方式。例如，使用多個獨立的異常性變數作為結合的依據，概率計算在理論上是正確的。但是，異常性測量和貝葉斯概率計算之間的關系並不是很清晰的。常見的幾種測量類型通常包括：

• 活動強度測量： 描述活動處理速度。通常用作檢測突發性行為，而檢測不出這種長時期的平均行為效果；
• 審計記錄分布測量：描述最近審計記錄中所有活動類型分布狀況。如特定的用戶在整個系統使用中文件訪問和I/O活動分布；
• 類型測量：描述特定的活動在各種類型中的分布狀況。如在系統中，從各個物理位置來的遠程登錄相關頻度，每個郵件發送者、編譯器、shell、編輯器的相關使用；
• 順序測量：描述活動的輸出結果，以數字值來表示。如特定的用戶CPU和I/O使用總量。

統計異常檢測方法的優點是所應用的技術方法在統計學中已經得到很好的研究。例如，位於標准方差兩側的數據可認為是異常的。但統計入侵檢測系統有以下幾點不足：

• 統計測量對事件發生的次序不敏感，單純的統計入侵檢測系統可能不會發覺事件當中互相依次相連的入侵行為；
• 單純的統計入侵檢測系統將逐漸地訓練成單一點，要麼行為是異常的，要麼是正常的。入侵者如果知道他被這樣的異常檢測器監視，他可以誘導這個系統，使得那些大部分依靠行為統計測量的入侵檢測方案對監視的特定的事件模式失效；
• 異常閥值難以確定，閥值設置偏低或偏高均會導致誤報警事件；運用統計技術對異常作形式化處理要假定數據來源穩定並具有相似性，但是這種假定並不總是滿足。

特徵選擇異常檢測方法是通過從一組度量中挑選能檢測出入侵的度量構成子集來准確地預測或分類已檢測到的入侵。判斷符合實際的度量是復雜的，因為合適地選擇度量子集依賴於檢測到的入侵類型，一個度量集對所有的各種各樣的入侵類型不可能是足夠的。預先確定特定的度量來檢測入侵可能會錯過單獨的特別的環境下的入侵。最理想的檢測入侵度量集必須動態地決策判斷以獲得最好的效果。假設與入侵潛在相關的度量有n 個,則這n個度量構成的子集數是2^n 個 。由於搜索空間同度量數是指數關系，所以窮盡搜索最理想的度量子集的開銷不是很有效的。Maccabe提出遺傳方法來搜索整個度量子空間以尋找正確的度量子集。其方法是使用學習分類器方法生成遺傳交叉運算元和基因突變運算元,除去降低預測入侵的度量子集，而採用遺傳運算元產生更強的度量子集取代。這種方法採用與較高的預測度量子集相結合，允許搜索的空間大小比其它的啟發式搜索技術更有效。