ボルツマンマシン

統計・機械学習

・無向グラフなニューラルネットワークで，確率的に発火する，というのがボルツマンマシンみたいだ．
・制限付きボルツマンマシン（RBN）ではユニットを幾つかのグループに分けて，グループ内での接続はしない形態．例えば２つのグループに分けると2部グラフになる．３つ以上だと階層型ニューラルネットワークが無向グラフになったと見えるんだと思う．
・特に入力にフィードバックした後に入力自身を教師データとして重みを学習する使い方でニューラルネットワークの事前学習（オードエンコーダ）に使われる．RBNを多段接続して，各層毎に学習を進めていくものがDeep Belief Network:DBN．
・また別の使い方として組合せ最適化問題の最適解探索に使われる．ボルツマンマシンは無向グラフなので（双方向接続なので）初期状態から相互作用で逐次状態が変化する．そしていずれどこかの値に収束する（か振動することもあるよね？）．その基底状態を組合せ最適化問題の最適解と捉え，問題自身を初期状態として定義することで最適化問題を解く．問題のマッピングが難しそうだ．
・状態が離散化（特に２値）されている必要はない．