階層型ニューラルネットの2変数関数近似能力の比較

野中 和明,田中 文英,森田 昌彦

概要: 階層型ニューラルネットは,与えられたサンプルから入出力関係を推定する関数近似器としてよく用いられる. なかでも多層パーセプトロン(MLP)は,理論上任意の連続関数を精度よく表現可能であることが知られているが,実際にサンプルを学習して多変数関数を近似する能力には大きな疑問がある. 本研究では,MLPおよび同様に万能な関数表現能力をもつ放射状基底関数ネットワーク(RBFN),並列パーセプトロン(PP),選択的不感化ニューラルネット(SDNN)について,関数近似器としての実際的能力の違いを明らかにするために,やや複雑な2変数関数を用いて評価実験を行った. その結果,学習能力や汎化能力を含めた近似能力はSDNNが最も高く,計算コストなど実用性の点でもSDNNが優れていた. また,SDNNの性能の高さには,アナログの入力値を多数の2値素子によって表現するパターンコーディングと,複数のパターン表現を統合する選択的不感化がともに大きく貢献していることがわかった. この結果はSDNNがMLPなどにはない高い有用性をもつことを示しており,これによってニューラルネットの応用範囲が大きく広がる可能性がある.

キーワード: 神経回路 機械学習 汎化能力 近似誤差 分散表現


[全文(PDF, 1.6MB)]