神經(jīng)網(wǎng)絡(luò):多層感知器-MLP
MLP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和原理
理解神經(jīng)網(wǎng)絡(luò)主要包括兩大內(nèi)容,一是神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),其次則是神經(jīng)網(wǎng)絡(luò)的訓(xùn)練和學(xué)習(xí),其就好比我們的大腦結(jié)構(gòu)是怎么構(gòu)成的,而基于該組成我們又是怎樣去學(xué)習(xí)和識(shí)別不同事物的,這次樓主主要講解第一部分,而訓(xùn)練和學(xué)習(xí)則放到后續(xù)更新中。
神經(jīng)網(wǎng)絡(luò)其實(shí)是對(duì)生物神經(jīng)元的模擬和簡(jiǎn)化,生物神經(jīng)元由樹突、細(xì)胞體、軸突等部分組成。樹突是細(xì)胞體的輸入端,其接受四周的神經(jīng)沖動(dòng);軸突是細(xì)胞體的輸出端,其發(fā)揮傳遞神經(jīng)沖動(dòng)給其他神經(jīng)元的作用,生物神經(jīng)元具有興奮和抑制兩種狀態(tài),當(dāng)接受的刺激高于一定閾值時(shí),則會(huì)進(jìn)入興奮狀態(tài)并將神經(jīng)沖動(dòng)由軸突傳出,反之則沒有神經(jīng)沖動(dòng)。
我們基于生物神經(jīng)元模型可得到多層感知器MLP的基本結(jié)構(gòu),最典型的MLP包括包括三層:輸入層、隱層和輸出層,MLP神經(jīng)網(wǎng)絡(luò)不同層之間是全連接的(全連接的意思就是:上一層的任何一個(gè)神經(jīng)元與下一層的所有神經(jīng)元都有連接)。
由此可知,神經(jīng)網(wǎng)絡(luò)主要有三個(gè)基本要素:權(quán)重、偏置和激活函數(shù)
權(quán)重:神經(jīng)元之間的連接強(qiáng)度由權(quán)重表示,權(quán)重的大小表示可能性的大小
偏置:偏置的設(shè)置是為了正確分類樣本,是模型中一個(gè)重要的參數(shù),即保證通過輸入算出的輸出值不能隨便激活。
激活函數(shù):起非線性映射的作用,其可將神經(jīng)元的輸出幅度限制在一定范圍內(nèi),一般限制在(-1~1)或(0~1)之間。最常用的激活函數(shù)是Sigmoid函數(shù),其可將(-∞,+∞)的數(shù)映射到(0~1)的范圍內(nèi)。
激活函數(shù)還有tanh和ReLU等函數(shù),tanh是Sigmoid函數(shù)的變形,tanh的均值是0,在實(shí)際應(yīng)用中有比Sigmoid更好的效果;ReLU是近來比較流行的激活函數(shù),當(dāng)輸入信號(hào)小于0時(shí),輸出為0;當(dāng)輸入信號(hào)大于0時(shí),輸出等于輸入;具體采用哪種激活函數(shù)需視具體情況定。
從上面可知下層單個(gè)神經(jīng)元的值與上層所有輸入之間的關(guān)系可通過如下方式表示,其它以此類推。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會(huì)
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國智造CIO在線峰會(huì)
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價(jià)骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價(jià)拍賣
- 5 具身智能火了,但規(guī)模落地還需時(shí)間
- 6 三次錯(cuò)失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 7 國產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 8 英特爾賦能智慧醫(yī)療,共創(chuàng)數(shù)字化未來
- 9 英偉達(dá)的麻煩在后頭?
- 10 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市