読者です 読者をやめる 読者になる 読者になる

ボルツマンマシン

統計・機械学習

・無向グラフなニューラルネットワークで,確率的に発火する,というのがボルツマンマシンみたいだ.
・制限付きボルツマンマシン(RBN)ではユニットを幾つかのグループに分けて,グループ内での接続はしない形態.例えば2つのグループに分けると2部グラフになる.3つ以上だと階層型ニューラルネットワークが無向グラフになったと見えるんだと思う.
・特に入力にフィードバックした後に入力自身を教師データとして重みを学習する使い方でニューラルネットワークの事前学習(オードエンコーダ)に使われる.RBNを多段接続して,各層毎に学習を進めていくものがDeep Belief Network:DBN
・また別の使い方として組合せ最適化問題の最適解探索に使われる.ボルツマンマシンは無向グラフなので(双方向接続なので)初期状態から相互作用で逐次状態が変化する.そしていずれどこかの値に収束する(か振動することもあるよね?).その基底状態を組合せ最適化問題の最適解と捉え,問題自身を初期状態として定義することで最適化問題を解く.問題のマッピングが難しそうだ.
・状態が離散化(特に2値)されている必要はない.