百科創(chuàng)建
15K
2579

受限玻耳茲曼機

RBM是玻耳茲曼機(Boltzmann machine,BM)的一種特殊拓撲結(jié)構(gòu)。RBM是BM的一種變體,其限定模型為二分圖。模型中包含對應輸入?yún)?shù)的可見單元和對應訓練結(jié)果的隱藏單元,兩組單元中的每一組的一對節(jié)點具有對稱連接。相比之下,無限制BM可能包含隱藏單元間的連接,這種限定使得相比一般BM更高效的訓練算法成為可能,特別是基于梯度的對比分歧(contrastive divergence)算法。

RBM由一個可見神經(jīng)元層和一個隱藏神經(jīng)元層組成。由于隱層神經(jīng)元之間沒有相互連接且隱層神經(jīng)元獨立于給定的訓練樣本,這使得直接計算依賴數(shù)據(jù)的期望值變得容易??梢妼由窠?jīng)元之間也沒有相互連接。通過從訓練樣本得到的隱層神經(jīng)元狀態(tài)上執(zhí)行馬爾可夫鏈(Markov chain,MC)抽樣過程,來估計獨立于數(shù)據(jù)的期望值,并行交替更新所有可見層神經(jīng)元和隱層神經(jīng)元的值。

BM及其模型已經(jīng)成功應用于協(xié)同濾波、分類、降維、圖像檢索、信息檢索、語言處理、自動語音識別、時間序列建模、文檔分類、非線性嵌入學習、暫態(tài)數(shù)據(jù)模型學習和信號與信息處理等任務(wù)。RBM在降維、分類、協(xié)同過濾、特征學習和主題建模中都有應用。根據(jù)任務(wù)的不同,可以以監(jiān)督學習或無監(jiān)督學習的方法進行訓練。RBM也可被用于深度學習網(wǎng)絡(luò),可使用多個RBM堆疊并可選地使用梯度下降法和反向傳播算法進行調(diào)優(yōu),便可得到深層信任網(wǎng)絡(luò)。

2579

免責聲明:本站詞條系由網(wǎng)友創(chuàng)建、編輯和維護,內(nèi)容僅供參考。

以上內(nèi)容均為商業(yè)內(nèi)容展示,僅供參考,不具備專業(yè)問題解決服務(wù),

如果您需要解決具體問題(尤其在法律、醫(yī)學等領(lǐng)域),建議您咨詢相關(guān)領(lǐng)域的專業(yè)人士。

如您發(fā)現(xiàn)詞條內(nèi)容涉嫌侵權(quán),請通過 948026894@qq.com 與我們聯(lián)系進行刪除處理!

下一篇:節(jié)能計算
一秒推