1樓：匿名使用者
1、引入動量項
2、變尺度法
3、變步長法
具體怎麼做，網上都有相關資料，公式比較難打，只能寫到這個份
2樓：匿名使用者
改進點主要在以下幾個方面
1激勵函式的坡度
———————誤差曲面的平臺和不收斂現象
————————————————激勵函式中引入陡度因子，分段函式做激勵函式
2誤差曲面
——————誤差平方做目標函式，逼近速度慢，過擬合
————————————————標準誤差函式中加入懲罰項
————————————————資訊距離和泛化能力之間的關係，構建新的神經網路學習函式
3網路初始權值的選取
—————————通常在【0,1】間選取，易陷入區域性最小
—————————————————複合演算法優化初始權值
—————————————————cauchy不等式和線性代數方法得最優初始權值
4改進優化演算法
————————標準bp採用梯度下降法，區域性最小收斂慢
——————————————————共扼梯度法、newton法、gauss一ncwton法、lvenber_marquardt法、快速傳播演算法
——————————————————前饋網路學習演算法，二階學習演算法，三項bp演算法，最優學習引數的bp演算法。
5.優化網路結構
————————拓撲結構中網路層數、各層節點數、節點連線方式的不確定性
——————————————構造法和剪枝法（權衰減法、靈敏度計算方法等）
——————————————網路結構隨樣本空間進行變換，簡化網路結構
6混合智慧演算法
————————與遺傳演算法、進化計算、人工免疫演算法、蟻群演算法、微粒群演算法、
————————模糊數學、小波理論、混沌理論。細胞神經網路
bp神經網路中net.iw{1,1} 兩個1分別代表什麼意思？？
3樓：莫道無情
第一個1是指網路層數（net.numlayers）；
第二個1是指網路輸入個數（net.numinputs）；
從第j個輸入到到第i層的權重的權重矩陣（或null matrix ）位於net.iw ；
神經網路物件iw屬性：該屬性定義了網路輸入和各輸入層神經元之間的網路權值，屬性值為nxni維的單元陣列，其中，n為網路的層數，ni為網路的輸入個數。
如果net.inputconnect(i,j)為1，即第i層上的各神經元接收網路的第j個輸入，那麼在單元net.iw 中將儲存它們之間的網路權值矩陣。
該矩陣的行數為第i層神經元的個數（net.layers.size），列數為第j個輸入的維數（net.
inputs.size）與輸入延退拍數（net inputweights.delays）的乘積。
4樓：天涯明遠
net.iw=w0;net.b=b0;
net.iw=w0;輸入層和隱層間的權值，net.b=b0輸入層和隱層間的閾值.
bp(back propagation)神經網路是2023年由rumelhart和mcclelland為首的科學家提出的概念，是一種按照誤差逆向傳播演算法訓練的多層前饋神經網路，是目前應用最廣泛的神經網路。
bp神經網路具有任意複雜的模式分類能力和優良的多維函式對映能力，解決了簡單感知器不能解決的異或(exclusive or，xor)和一些其他問題。從結構上講，bp網路具有輸入層、隱藏層和輸出層；
從本質上講，bp演算法就是以網路誤差平方為目標函式、採用梯度下降法來計算目標函式的最小值。
5樓：匿名使用者
bp網路中 w(1,1) 表示第 1 個輸入向量在輸入層和隱含層中的權值。
w(1,2) 表示第 2 個輸入向量在輸入層和隱含層中的權值。
...w(1, j ) 表示第 j 個輸入向量在輸入層和隱含層中的權值。
w(2,1) ：第 1 個輸入向量在隱含層和輸出層中的權值。。。。
若w( i , j ) 中i > 2，則有多個隱含層。
6樓：匿名使用者
net.iw=w0;net.b=b0;
net.lw=w1;net.b=b1;
net.iw=w0;輸入層和隱層間的權值，net.b=b0輸入層和隱層間的閾值
net.lw=w1;隱層到
輸出層間的權值，net.b=b1;隱層到輸出層間的閾值上面是對三層神經網路而言。
bp神經網路收斂問題
7樓：匿名使用者
當然是越慢。因為bai已經接近最低du點，訓練也進入誤
zhi差曲面的平dao坦區，每次搜內索的誤差下降速度是容減慢的。這一點可以在bp神經網路的誤差調整公式上看出。
事實上收斂速度逐漸減慢，這是正常的，如果一定要避免這種情況，可以自適應改變學習率。
由於傳統bp演算法的學習速率是固定的，因此網路的收斂速度慢，需要較長的訓練時間。對於一些複雜問題，bp演算法需要的訓練時間可能非常長，這主要是由於學習速率太小造成的，可採用變化的學習速率或自適應的學習速率加以改進。
bp演算法可以使權值收斂到某個值，但並不保證其為誤差平面的全域性最小值，這是因為採用梯度下降法可能產生一個區域性最小值。對於這個問題，可以採用附加動量法來解決。
英語中的時態一共有多少種，英語中一共有16種時態 分別是哪些
英語共有16種時態，時態測試重點主要有 完成時態 現在完成時 過去完成時 將來完成時 進行時態 現在進行時 過去進行時 將來進行時 完成進行時 一般時態。英語一共有16種時態，但是在學習中呢，最多應用的是其中的8種。分別是一般現在時，一般過去時，一般將來時，過去進行時，過去完成時，現在進行時，現在完...
全世界的語言有多少種，全世界一共有多少種語言？
世界上的語言 世界上使用人口最多的語言有10種，它們依次是 漢語 英語 俄語 西班牙語 北印度語 阿拉伯語 葡萄牙語 孟加拉語 德語和日語。據統計，全世界有5000餘種語言。其中使用人口達5000萬的有19種。這19種語言的使用人口約佔全球人口的75 就使用人數而言，漢語居首位 就分佈面積而言，通用...
表達方式一共有多少種？詳細的解說
修辭手法 1 比喻的作用是能將表達的內容說得生動 具體 形象。給人以深刻鮮明的形象,使說理更透徹。2 擬人的作用是使具體事物人格化 句子的表達方式有幾種？哪幾種？急求！有五種。1 記敘 2 說明 3 議論 4 描寫 5 抒情 1 敘述。敘述是寫作中最基本 最常見的一種表達方式，它是作者對人物的經歷和...