① 神經網路中損失函數一般降到多少就可以了
關鍵不是損失函數降到多少，關鍵是你的模型測試集效果要好。訓練集再好也沒有用，可能是過擬合，所以不要太在意損失函數降到多少的問題。
② 訓練好的cnn網路的損失函數最後為多少
上世紀60年代，Hubel等人通過對貓視覺皮層細胞的研究，提出了感受野這個概念，到80年代，Fukushima在感受野概念的基礎之上提出了神經認知機的概念，可以看作是卷積神經網路的第一個實現網路，神經認知機將一個視覺模式分解成許多子模式（特徵），然後進入分層遞階式相連的特徵平面進行處理，它試圖將視覺系統模型化，使其能夠在即使物體有位移或輕微變形的時候，也能完成識別。
卷積神經網路(Convolutional Neural Networks, CNN)是多層感知機(MLP)的變種。由生物學家休博爾和維瑟爾在早期關於貓視覺皮層的研究發展而來。視覺皮層的細胞存在一個復雜的構造。這些細胞對視覺輸入空間的子區域非常敏感，我們稱之為感受野，以這種方式平鋪覆蓋到整個視野區域。這些細胞可以分為兩種基本類型，簡單細胞和復雜細胞。簡單細胞最大程度響應來自感受野范圍內的邊緣刺激模式。復雜細胞有更大的接受域，它對來自確切位置的刺激具有局部不變性。
通常神經認知機包含兩類神經元，即承擔特徵提取的采樣元和抗變形的卷積元，采樣元中涉及兩個重要參數，即感受野與閾值參數，前者確定輸入連接的數目，後者則控制對特徵子模式的反應程度。卷積神經網路可以看作是神經認知機的推廣形式，神經認知機是卷積神經網路的一種特例。
CNN由紐約大學的Yann LeCun於1998年提出。CNN本質上是一個多層感知機，其成功的原因關鍵在於它所採用的局部連接和共享權值的方式，一方面減少了的權值的數量使得網路易於優化，另一方面降低了過擬合的風險。CNN是神經網路中的一種，它的權值共享網路結構使之更類似於生物神經網路，降低了網路模型的復雜度，減少了權值的數量。該優點在網路的輸入是多維圖像時表現的更為明顯，使圖像可以直接作為網路的輸入，避免了傳統識別演算法中復雜的特徵提取和數據重建過程。在二維圖像處理上有眾多優勢，如網路能自行抽取圖像特徵包括顏色、紋理、形狀及圖像的拓撲結構；在處理二維圖像問題上，特別是識別位移、縮放及其它形式扭曲不變性的應用上具有良好的魯棒性和運算效率等。
CNN本身可以採用不同的神經元和學習規則的組合形式。
③ 神經網路能否較快收斂
要收斂快，就把學習步長設長一些、目標精度設低一些即可。
④ 為什麼神經網路損失函數在下降正確率卻始終不變
一般是對參量求導。問題就是選擇最佳的參量值使損失最小。
⑤ matlab中的神經網路擬合怎麼在mse=1左右就不走了 請問是他已經收斂了么。這樣的結果可以用么
建議你去網上下載一個checkmark，matlab寫的，裡面有你需要的全部東東，還有一些更寶貴的代碼
以上。
做過的老狼
⑥ BP人工神經網路的收斂是什麼
收斂和迭代演算法有關。
反向傳播演算法是定義一個誤差er（往往是輸出結果與預想結果之間的某個范數），然後求出滿足誤差極小的權向量。如果把誤差看成一個連續函數（泛函）的話，求對權向量各分量的偏導為0即可，但是實際上它是離散的，所以我們需要用迭代來求最小梯度。
如果是新定義演算法的話理論上的收斂要證明，可以證明它在迭代次數趨近無窮的時候等於某一解，也可以證明它滿足李普希茲條件（就是帶有完備范數和李普希茲常數的那個），這種情形下我們叫做收斂，要是用已有演算法或者乾脆就是BP演算法的時候不需要你證明。理論上不收斂的情況是這樣，當迭代次數趨近無窮的時候，權向量的解不唯一。
實際上的收斂是這樣，給定一個最大迭代次數n，一個誤差限erl，反向傳播演算法應該很容易找，我不往上寫了，每一步權值修正都會使er減小，直觀的看就是權向量的分量沿著梯度減小的方向在前進，雖然理論上樣本足夠大並且n趨於無窮的時候會收斂，但是實際上有可能出現當迭代到第n次，誤差er依然大於誤差限erl的情況，也就是說我們沒有解出來滿足要求的權向量，所以網路訓練失敗，叫做不收斂。當然，也可以使用梯度限來作為迭代終止的條件，這種情況下不收斂就是梯度在迭代了n次以後沒有小於某一值，從而沒有求出滿足要求的權向量；收斂就是求出了滿足梯度限的權向量。
⑦ bp神經網路收斂問題
當然是越慢。因為已經接近最低點，訓練也進入誤差曲面的平坦區，每次搜索的誤差下降速度是減慢的。這一點可以在BP神經網路的誤差調整公式上看出。
事實上收斂速度逐漸減慢，這是正常的，如果一定要避免這種情況，可以自適應改變學習率。
由於傳統BP演算法的學習速率是固定的，因此網路的收斂速度慢，需要較長的訓練時間。對於一些復雜問題，BP演算法需要的訓練時間可能非常長，這主要是由於學習速率太小造成的，可採用變化的學習速率或自適應的學習速率加以改進。
BP演算法可以使權值收斂到某個值，但並不保證其為誤差平面的全局最小值，這是因為採用梯度下降法可能產生一個局部最小值。對於這個問題，可以採用附加動量法來解決。
⑧ 神經網路中的梯度與損失值區別
層數比較多的神經網路模型在訓練的時候會出現梯度消失(gradient vanishing problem)和梯度爆炸(gradient exploding problem)問題。
梯度消失問題和梯度爆炸問題一般會隨著網路層數的增加變得越來越明顯。
⑨ 神經網路利用哪種演算法將損失函數的值降到最低
用的是梯度下降演算法，用偏微分找出超平面下降最快的方向，使損失函數快速下降。
⑩ 神經網路訓練loss收斂的問題
這個問題比較泛，因為網路的損失函數是由自己設計的，如果不特殊說明一般是有均方誤差和交叉熵兩種損失函數的。其中均方誤差當然就是指的輸出與標簽的差的平方和的平均，計算方式如下： 而交叉熵則是為了防止網路在訓練後期遲緩而提出的一種損失函數，計算方式如下：