導航:首頁 > 網路安全 > 如何測試神經網路運行時的功耗

如何測試神經網路運行時的功耗

發布時間:2025-02-11 10:52:32

㈠ qnn是什麼意思網路用語

神經網路(QNN)的方法,在運行時具有極低精度(例如1bit)權重和激活的神經網路。在訓練時期,量化的權重和激活值被用於計算參數梯度。在前向傳遞期間,QNN大大減少了內存大小和訪問,並用按位運算代替了大多數算術運算。結果,預期功耗將大大降低。我們通過MNIST,CIFAR-10,SVHN和ImageNet數據集訓練了QNN。由此產生的QNN可以達到與32-bit同類網路相當的預測精度。例如,我們的AlexNet量化版本具有1-bit權重和2-bit激活,可實現51%的top-1准確性。此外,我們還將參數梯度量化為6-bit,這使得僅使用按位運算就可以進行梯度計算。在Penn Treebank數據集上對量化的遞歸神經網路進行了測試,並僅使用4-bit就獲得了與32-bit相當的准確性。最後但並非最不重要的一點是,我們對二進制矩陣乘法GPU內核進行了編程,與未優化的GPU內核相比,使用它可以使MNIST QNN的運行速度快7倍,而不會降低分類精度。 QNN代碼已開源。

閱讀全文

與如何測試神經網路運行時的功耗相關的資料

熱點內容
網路研修如何沖抵學分 瀏覽:413
網路選課怎麼進去 瀏覽:541
拒絕連接網路是設置了嗎 瀏覽:487
蘋果手機網路監測 瀏覽:655
雅思培訓網路課程哪個比較好 瀏覽:533
哪種方式的網路共享最好 瀏覽:936
電腦版人人視頻網路連接 瀏覽:764
蘋果12網路顯示2g 瀏覽:520
網路營銷高級人才 瀏覽:723
遙控器連接網路教程 瀏覽:874
做一個衛星網路Wifi 瀏覽:248
開移動網路會怎麼樣 瀏覽:201
蘋果認證網路工程師有用嗎 瀏覽:56
廣電網路公司賣家電手機 瀏覽:440
自動連接附近網路的廣告 瀏覽:302
小米無網路路由器 瀏覽:828
一個家庭用兩個網路介面接路由器 瀏覽:278
計算機網路的就業去向是什麼 瀏覽:532
舒服網路用語怎麼說 瀏覽:961
手機怎麼頻繁的切換5g網路 瀏覽:262

友情鏈接