軌道アトラクタによる時系列パターンの学習・記憶・認識
研究概要
非単調神経回路網では、同期機構による離散的な状態遷移ではなく、線状に連なる安定な状態(軌道アトラクタと呼ぶ)に沿って連続的に状態遷移することが可能である[1,3,4]。
これによって、回路網に初期状態を与えるだけで、自動的に時系列パターンを再生することができる。
また、ある時系列パターンを教師信号として学習し、軌道アトラクタを形成することもできる。
この際に用いる学習則は、Hebb型の非常に単純なものであり、学習回数も数回〜十数回(条件により異なる)程度でよい[2,4]。
さらに、回路網の一部に複雑な時系列パターンを、別の部分に単純なパターンを入力して同時に学習させると、両者の変換が可能となる。
これを用いて、複雑なパターンを入力して単純なパターンを出力させることにより、時系列パターンを遅延などを用いて空間パターンに展開することなく認識することができるが、単にパターンを識別するだけでなく、入力パターンの欠損を補完したり、入力を予測する機能も実現できた[5-8]。
学習による軌道アトラクタの形成過程:
矢印は現在入力されているパターン、丸は回路網の現在状態を表す。
前者を教師信号として学習することによって、徐々に自律的に状態遷移するようになる。
参考文献
- Morita, M. (1994):
Smooth recollection of a pattern sequence by nonmonotone analog
neural networks,
Proceedings of the 1994 IEEE International Conference on Neural
Networks, Orlando, 2, 1032-1037.
- 森田昌彦 (1994):
非単調ダイナミクスを用いた時系列パターンの学習,
日本神経回路学会誌, 1, 69-74.
[Abstract]
- 森田昌彦 (1995):
非単調ダイナミクスを用いた時系列パターンの連想記憶,
電子情報通信学会論文誌(D-II), J78-D-II, 677-688.
[概要 / Abstract]
- Morita, M. (1996):
Memory and learning of sequential patterns by nonmonotone
neural networks, Neural Networks, 9, in press.
[Abstract]
[Full text (PDF)]
[Full text (gzipped PostScript)]
- Morita, M. and Murakami, S. (1997):
Recognition of spatiotemporal patterns by nonmonotone neural networks,
Proceedings of the 1997 International Conference on Neural Information
Processing, Dunedin, 1, 6-9.
[Abstract]
[Full text (PDF)]
[Full text (gzipped PostScript)]
- Murakami, S., Morita, M., and Sakamoto, N. (1998):
Recognition of spatiotemporal patterns using a nonmonotone neural network
with hidden neurons,
Proceedings of the 1998 International Conference on Neural Information
Processing, Kitakyushu, 1, 287-290.
[Abstract]
[Full text (PDF)]
[Full text (gzipped PostScript)]
- 森田昌彦,村上 聡 (1998):
非単調神経回路網による時系列パターンの認識,
電子情報通信学会論文誌(D-II), J81-D-II, 1679-1688.
[概要]
[全文(PDF)]
[全文(gzipped PostScript)]
- Murakami, S. and Morita, M. (1999):
Top-down and bottom-up processing of spatiotemporal patterns
in a fully recurrent network of nonmonotonic neurons,
Proceedings of the 1999 International Conference on Neural Information
Processing, Perth, 3, 1118-1122.
[Abstract]
[Full text (PDF)]
[Full text (gzipped PostScript)]
次の研究項目へ
森田のページへ戻る