森田昌彦（班員）
筑波大学 電子・情報工学系

　神経回路網上で思考などの高次情報処理を行うためには，過去に記憶した細胞の興奮パターンの複雑な時間変化を記憶し，その断片をつなぎ合わせて再生するという機能が必要と考えられる．このような観点から，本年度は，昨年度の研究成果を発展させ，複雑で長い時系列パターンと単純で短い時系列パターンとの連合を可能にするモデルを構成した．
　このモデルは，パターンを記憶する神経回路網と，それに必要な学習信号を生成する回路からなる．前者は，非単調な入出力特性をもつ素子が双方向に結合したものであり，図1のように入力・中間・出力の各部に分かれている．但し，すべての素子は同一のダイナミクスと学習則に従って動作する．
　ここでは，入力部に長く複雑な時系列パターンを，出力部に短く単純なパターンをそれぞれ学習信号 r_inおよび r_outとして与え，前者から後者への変換を実現するよう学習を行う．しかし，入力パターン群に多くの重複があり，パターン空間における軌道が非常に複雑な場合には，両者を直接連合することはできない．そこで，入力部および出力部と同時に，両者の中間的な性質をもつ軌道を中間部に学習させる．学習則はコバリアンス型の単純なものであるが，詳細は文献[1]〜[3]を参照されたい．

図1　回路網の構造

　このとき，中間部への学習信号 r_midをどのように決めるかが問題となる．本研究は，脳における情報処理原理を明らかにすることが目的なので，逆伝播法のように脳内で実現困難な方法を用いることはできない．検討の結果，図2のような非常に単純な回路によって，必要な性質を満たす学習信号が生成できることがわかった．この回路は，中間部と同数のしきい素子 (±1を出力) からなり，各素子はランダムな荷重をもつシナプスを介して r_inと r_outを受ける．また，自己結合をもち，入力がある程度変化しないと出力値が変わらないようになっている．

図2　学習信号生成回路

　例として，表1に示す21個の時系列パターンをそれぞれ {OS¹}〜{OS²¹} に変換するよう学習した．ここで，A〜G は400次元の2値パターン，O および S^μは200次元の2値パターンで，それぞれランダムに作成した．{ABCDE} は A を始点として B, C, D を経由して E に達する連続的な (成分が非同期的に変化する) 軌道を，{ABCDE}_T はそのような軌道をもつ時間長 T の時系列パターンを表す．

　これらを入力部および出力部への学習信号として与えると同時に，図2の回路に入力し，その出力を中間部へ学習信号として入力する．中間部の素子数は600とした．r_midと r_outの入力強度を徐々に減らしながら，各パターンについて15回ずつ学習した．
　学習が完了した後，入力部に適当なパターンを入力し，中間部と出力部には初期状態 O のみを与えた．このときの回路網の状態遷移の様子を図3に示す．これは，8番目の入力パターン {CEACA}_T に50%相当のノイズを加えたものを入力した場合である．下のグラフは入力部の状態と A〜G との類似度，中のグラフは中間部の状態と学習時の各 r_mid(t) との類似度，上のグラフは出力パターンと S^μとの類似度を示す．出力部には，途中まで {OS⁷} と {OS⁸} の中間のパターンが出力されるが，後半はほぼ目的のパターンが出力されている．また，入力したパターンはかなりのノイズを含むにもかかわらず，入力部にはほぼ正しいパターンが現れていることがわかる．他の入力パターンも同様に，正しく変換された．

図3　学習後のモデルの動作

　ところで，脳内において時系列パターンの学習・記憶に必要な学習信号を皮質に送っている部位として，海馬や大脳基底核が想定される．図2の回路は，それらのモデルとしては単純すぎて不十分であるが，記憶の形成における役割とそのメカニズムを考える上で示唆的である．これについては今後の検討課題である．

文献

1. Morita, M. Computational study on the neural mechanism of sequential pattern memory. Cognitive Brain Research:5, 137-146, 1996.
2. Morita, M. Memory and learning of sequential patterns by nonmonotone neural networks. Neural Networks:9, 1477-1489, 1996.
3. Morita, M. and Murakami, S. Recognition of spatiotemporal patterns by nonmonotone neural networks. Proceedings of ICONIP'97:1, 6-9, 1997.
4. 森田昌彦，村上　聡．非単調神経回路網による時系列パターンの認識． 電子情報通信学会論文誌(D-II), 印刷中.