CVPR 2020: 8比特?cái)?shù)值也能訓(xùn)練模型?商湯提出訓(xùn)練加速新算法
由于卷積神經(jīng)網(wǎng)絡(luò)的梯度具有如上四個(gè)特點(diǎn),所以當(dāng)我們直接在訓(xùn)練中對梯度進(jìn)行量化時(shí),訓(xùn)練精度非常容易出現(xiàn)突發(fā)的崩潰情況。下圖展示了在CIFAR-10數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)的精度和損失函數(shù)變化曲線,以MobileNetv2在CIFAR-10數(shù)據(jù)集上訓(xùn)練為例,其訓(xùn)練的精度曲線和loss曲線如下圖,從圖中可以發(fā)現(xiàn)INT8訓(xùn)練的loss在訓(xùn)練初期正常下降,但隨后迅速上升,對應(yīng)的精度也不斷下降。
是什么影響了收斂穩(wěn)定性
根據(jù)以上的觀察和初步啟發(fā),我們希望通過理論的分析和推導(dǎo),對量化訓(xùn)練的收斂穩(wěn)定性進(jìn)行建模。根據(jù)Adam等相關(guān)論文的經(jīng)驗(yàn)和優(yōu)化理論中的Regret analysis,不失一般性地定義R(T)為
其中f是損失函數(shù),t是訓(xùn)練輪數(shù),T是訓(xùn)練總輪數(shù),
為t輪的權(quán)重,
是最優(yōu)權(quán)重。
基于以下兩個(gè)樸素的假設(shè):
通過推導(dǎo)證明可以得到:
其中
為
輪的學(xué)習(xí)率,
為權(quán)重的維度,
為
輪的量化誤差,
是
輪的量化后梯度。
為了確保網(wǎng)絡(luò)能夠穩(wěn)定收斂,
在T變大時(shí)需要能夠達(dá)到足夠小。通過上式可以發(fā)現(xiàn),在T趨于無窮大時(shí),第(1)項(xiàng)可以忽略不計(jì),主要考慮減小第(2)項(xiàng)和第(3)項(xiàng)。
我們發(fā)現(xiàn),第(2)項(xiàng)與量化誤差正相關(guān),第(3)項(xiàng)與學(xué)習(xí)率以及量化后的梯度大小有關(guān)。
因此我們不難得到兩個(gè)直觀的提升訓(xùn)練收斂穩(wěn)定性的策略:通過調(diào)節(jié)量化函數(shù)中的截?cái)嘀禍p小量化誤差通過適當(dāng)調(diào)低學(xué)習(xí)率來提高量化訓(xùn)練精度
主要方法
依據(jù)以上分析,我們針對量化誤差和學(xué)習(xí)率提出了基于方向自適應(yīng)的梯度截?cái)嗪驼`差敏感的學(xué)習(xí)率調(diào)節(jié)兩個(gè)方法來解決量化訓(xùn)練帶來的精度損失問題。同時(shí),為了減少量化操作帶來的額外開銷,本文還提出了周期更新和量化卷積融合的方法。
1. 基于方向自適應(yīng)的梯度截?cái)啵赫{(diào)整截?cái)嘀,讓梯度方向保持正確。
為了最小化量化誤差,之前有很多研究提出優(yōu)化截?cái)嘀档姆椒,其中就有研究提出通過假設(shè)數(shù)據(jù)分布直接求解最優(yōu)截?cái)嘀。但是已有的研究都針對于?quán)重量化的截?cái)嘀颠M(jìn)行優(yōu)化。就如本文觀察所顯示,梯度的分布特征與權(quán)重區(qū)別較大,無法直接使用。本文通過KS檢驗(yàn)發(fā)現(xiàn)梯度的分布并不符合常見的高斯分布、拉普拉斯分布和學(xué)生t分布,因此很難通過假設(shè)梯度分布來直接求解最優(yōu)的截?cái)嘀怠?/p>
基于以上的分析,本文采用梯度下降的方法來自適應(yīng)地學(xué)習(xí)最優(yōu)截?cái)嘀,常見的目?biāo)函數(shù)有均方誤差函數(shù),但是由于梯度的分布特征,均方誤差的大小會(huì)受到梯度的影響,影響優(yōu)化過程;同時(shí)對于梯度來說,均方誤差并不能很好地體現(xiàn)梯度的量化誤差對于優(yōu)化過程的影響,因此本文提出使用能夠體現(xiàn)梯度方向的余弦距離來衡量梯度的量化誤差,并以余弦距離為目標(biāo)函數(shù)來優(yōu)化求解最優(yōu)截?cái)嘀。余弦距離定義如下:
其中,
是梯度,
是量化后的梯度。
2. 誤差敏感的學(xué)習(xí)率調(diào)節(jié):在錯(cuò)誤的方向上盡量少更新。
根據(jù)上述的理論分析,降低學(xué)習(xí)率能夠有助于模型量化訓(xùn)練的收斂。針對學(xué)習(xí)率的調(diào)整,本文提出誤差敏感的學(xué)習(xí)率調(diào)節(jié)方法,使用學(xué)習(xí)率系數(shù)對原學(xué)習(xí)率進(jìn)行調(diào)整,學(xué)習(xí)率系數(shù)與余弦距離
負(fù)相關(guān),學(xué)習(xí)率系數(shù)
定義如下:
其中
和
是超參數(shù),用于控制衰減程度和調(diào)節(jié)下界。
3. 周期更新:降低由于統(tǒng)計(jì)而帶來的額外計(jì)算耗時(shí)
由于量化操作需要的統(tǒng)計(jì)數(shù)據(jù)范圍和計(jì)算截?cái)嘀档炔僮魇趾臅r(shí),為了減少這些操作的時(shí)間開銷,本文采用周期更新的方式,周期性地統(tǒng)計(jì)數(shù)據(jù)范圍和計(jì)算截?cái)嘀。通過周期更新的方法能夠有效地提高減少因量化引入的額外時(shí)間開銷。下表為ResNet50在ImageNet數(shù)據(jù)集上不同周期的單次訓(xùn)練時(shí)間統(tǒng)計(jì)表。
4. 量化卷積融合:減少訪存次數(shù)、節(jié)省cuda kernel launch次數(shù)
通過將量化和反量化操作融合入卷積計(jì)算的CUDA核函數(shù)里,可以減少一次數(shù)據(jù)的訪存,有效地減少量化和反量化操作的時(shí)間開銷。
發(fā)表評(píng)論
請輸入評(píng)論內(nèi)容...
請輸入評(píng)論/評(píng)論長度6~500個(gè)字
最新活動(dòng)更多
-
即日-10.29立即報(bào)名>> 2024德州儀器嵌入式技術(shù)創(chuàng)新發(fā)展研討會(huì)
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場仿真助跑新能源汽車
-
11月14日立即報(bào)名>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國智造CIO在線峰會(huì)
推薦專題
- 1 Intel宣布40年來最重大轉(zhuǎn)型:年底前裁員15000人、拋掉2/3房產(chǎn)
- 2 因美封殺TikTok,字節(jié)股價(jià)骨折!估值僅Meta1/5
- 3 宏山激光重磅發(fā)布行業(yè)解決方案,助力智能制造產(chǎn)業(yè)新飛躍
- 4 國產(chǎn)AI芯片公司破產(chǎn)!白菜價(jià)拍賣
- 5 具身智能火了,但規(guī)模落地還需時(shí)間
- 6 三次錯(cuò)失風(fēng)口!OpenAI前員工殺回AI編程賽道,老東家捧金相助
- 7 國產(chǎn)英偉達(dá)們,抓緊沖刺A股
- 8 英偉達(dá)的麻煩在后頭?
- 9 將“網(wǎng)紅”變成“商品”,AI“爆改”實(shí)力拉滿
- 10 智慧貨架管理引領(lǐng)零售新風(fēng)尚
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市