非単調ダイナミクスを用いた時系列パターンの連想記憶
森田 昌彦
概要:
従来の神経回路網は,同期機構や特殊な回路構造がない限り,ごく限られた時系列パターンしか記憶できなかった.これは,時系列パターンの記憶に適した力学的性質をもっていないからである.本論文では,非単調ダイナミクスを適用した神経回路網は,静的なパターンの場合と同様な方法により,ほとんど任意のパターン系列を記憶できることを示す.このモデルでは,力学系の状態空間において,記憶したパターン系列を結ぶ軌道が動的アトラクタになっており,回路網の状態はその軌道に沿って連続的に変化していく.こうしたなめらかな想起を可能にする力学的構造が,どのように実現されているのかについても議論する.
キーワード:
神経回路網,連想記憶,非単調ダイナミクス,時系列パターン,動的アトラクタ
Masahiko Morita
Abstract:
Conventional neural networks have a limited ability to memorize
temporal patterns, unless they are provided with a synchronizing
mechanism or some special structure such as delay circuits.
The present paper shows that using nonmonotone dynamics,
neural networks with continuous-time dynamics can memorize
almost arbitrary pattern sequences.
In this model, the state of the network changes gradually
from pattern to pattern.
Numerical experiments show that the trajectory along the stored
sequence can be regarded as a dynamic attractor with a large basin.
How such attractors are formed is also discussed.
Keywords:
Neural networks, Associative memory,
Nonmonotone dynamics, Sequential pattern, Dynamic attractor.