軌道アトラクタによる時系列パターンの学習・記憶・認識

研究概要

 非単調神経回路網では、同期機構による離散的な状態遷移ではなく、線状に連なる安定な状態(軌道アトラクタと呼ぶ)に沿って連続的に状態遷移することが可能である[1,3,4]。 これによって、回路網に初期状態を与えるだけで、自動的に時系列パターンを再生することができる。
 また、ある時系列パターンを教師信号として学習し、軌道アトラクタを形成することもできる。 この際に用いる学習則は、Hebb型の非常に単純なものであり、学習回数も数回〜十数回(条件により異なる)程度でよい[2,4]。

 さらに、回路網の一部に複雑な時系列パターンを、別の部分に単純なパターンを入力して同時に学習させると、両者の変換が可能となる。 これを用いて、複雑なパターンを入力して単純なパターンを出力させることにより、時系列パターンを遅延などを用いて空間パターンに展開することなく認識することができるが、単にパターンを識別するだけでなく、入力パターンの欠損を補完したり、入力を予測する機能も実現できた[5-8]。

図(a) 図(b) 図(c)
図(d) 図(e)
学習による軌道アトラクタの形成過程:
矢印は現在入力されているパターン、丸は回路網の現在状態を表す。 前者を教師信号として学習することによって、徐々に自律的に状態遷移するようになる。

参考文献

  1. Morita, M. (1994): Smooth recollection of a pattern sequence by nonmonotone analog neural networks, Proceedings of the 1994 IEEE International Conference on Neural Networks, Orlando, 2, 1032-1037.
  2. 森田昌彦 (1994): 非単調ダイナミクスを用いた時系列パターンの学習, 日本神経回路学会誌, 1, 69-74. [Abstract]
  3. 森田昌彦 (1995): 非単調ダイナミクスを用いた時系列パターンの連想記憶, 電子情報通信学会論文誌(D-II), J78-D-II, 677-688. [概要 / Abstract]
  4. Morita, M. (1996): Memory and learning of sequential patterns by nonmonotone neural networks, Neural Networks, 9, in press. [Abstract] [Full text (PDF)] [Full text (gzipped PostScript)]
  5. Morita, M. and Murakami, S. (1997): Recognition of spatiotemporal patterns by nonmonotone neural networks, Proceedings of the 1997 International Conference on Neural Information Processing, Dunedin, 1, 6-9. [Abstract] [Full text (PDF)] [Full text (gzipped PostScript)]
  6. Murakami, S., Morita, M., and Sakamoto, N. (1998): Recognition of spatiotemporal patterns using a nonmonotone neural network with hidden neurons, Proceedings of the 1998 International Conference on Neural Information Processing, Kitakyushu, 1, 287-290. [Abstract] [Full text (PDF)] [Full text (gzipped PostScript)]
  7. 森田昌彦,村上 聡 (1998): 非単調神経回路網による時系列パターンの認識, 電子情報通信学会論文誌(D-II), J81-D-II, 1679-1688. [概要] [全文(PDF)] [全文(gzipped PostScript)]
  8. Murakami, S. and Morita, M. (1999): Top-down and bottom-up processing of spatiotemporal patterns in a fully recurrent network of nonmonotonic neurons, Proceedings of the 1999 International Conference on Neural Information Processing, Perth, 3, 1118-1122. [Abstract] [Full text (PDF)] [Full text (gzipped PostScript)]


次の研究項目へ
森田のページへ戻る