神経回路網上で実現される思考は,過去に記憶した情報 (細胞の興奮パターンとして表現される) の連鎖の断片を自在につなぎ合わせて再生する,というメカニズムを基礎としていると思われる.そのような記憶や思考のメカニズムを解明することを目的として,いくつかの研究テーマを並行して進めている.本年度は,以下のような成果を得た.
(1) 時系列パターンの想起速度の制御
記憶と思考の神経回路モデルの研究
森田昌彦(班員)
筑波大学 電子・情報工学系
これまでの研究により,局所抑制細胞をもつ神経回路モデルは,連続的に変化する時系列パターンを容易に学習し,記憶できることが分かってきた[1].しかし,学習した際と同じ速さで再生することしかできず,シナプス荷重をリアルタイムに変化させない限り,想起の一時的な停止やテンポの変化はできないという問題があった.
この問題について様々な方法を検討し実験を行った[2]が,最終的に次のようなメカニズムが妥当であろうという結論に達した.すなわち,学習後の回路網において,ユニット (興奮性と抑制性の細胞の組) 間の側抑制 (他のユニットの抑制細胞への結合) の強度を一様に増減する方法である.一様な増減なので,実際にシナプス荷重を変えなくても,介在ニューロンへの刺激レベルを変化させることで実現できる.
シミュレーションの一例を図1に示す.図の縦軸は,回路網の出力パターンと,学習した時系列パターンを適当な間隔でサンプルしたものとの類似度を表す.時刻 t=75 で刺激レベルを上げて側抑制を強めると,その時点での出力パターンが保持され続け,t=115 で元に戻すと再び系列の想起が再開されている.また,刺激レベルを上手く調節すれば,速度を制御することもある程度可能である.但し,現時点では学習時よりも大幅に速く想起することはできず,リズムの導入などが今後の課題である.
図1 想起の一時停止
(2) 軌道アトラクタを用いた認識のモデル
非単調神経回路網[3]が様々な動的なパターン情報処理に適していることを確認し,思考のモデルへとつなげるために,軌道アトラクタへの引き込みを利用した時系列パターン認識のモデルを構成した.
このモデルは,入力・中間・出力の3つの部分に分けられるが,すべての素子は相互に結合しており,動作や学習則はどの部分も同じである.入力部には認識させたい時系列パターンを,中間部には一種の文脈情報を,出力部にはどの系列かを表すパターンを,それぞれ同時に入力し学習させる.学習則は,コバリアンス則に基づくごく単純なものである.数回の繰り返し学習が完了後は,入力部に時系列パターンの一部を入力するだけで,出力部にその系列を表すパターンが表れるようになる.
一例として,入力部・中間部各250個,出力部40個の計540個の素子からなる非単調神経回路網に,A→B→C,A→B→E,D→B→C,D→B→Eの4つの時系列パターンを学習させた.ここでA, B, C, D, Eはそれぞれランダムに選んだ250成分からなる2値パターンであり,A→B→CはパターンAからBを経由してCに連続的に変化することを表す.中間部には入力パターンに応じてそれぞれO→W1→W2,O→W1→W3,O→W4→W2,O→W4→W3を学習させ,出力部も同様にO'→S1,O'→S2,O'→S3,O'→S4を学習させる (O, O', W1, S1などはすべてランダムに選んだ2値パターン).このように,入力部の状態空間中では,4つの系列に対応する軌道が至るところ重なり合う厳しい条件になっている.しかし,中間部や出力部を含めた全体の状態空間を考えると,4本の軌道は時系列パターンの類似性を反映しつつ分離がなされている.
認識結果の例を図2に示す.縦軸は,各部の出力とパターンA, B, C, W1, W2, S1との類似度を表す.AからAとBの中間までのパターンを入力 (0≦t≦180) 後に入力を切ると,入力部の状態はB付近まで到達してほぼ停止する.このとき中間部はW1を出力するが,出力部は初期状態O'からあまり変化しない.また,t=580 から t=760 にかけてBからBCの中間までを入力すると,出力部の出力は急速にS1に近づき,入力を切った後も各部の状態はほぼ学習した軌道上を進んでいる.同様に,他のすべての系列についても正しく認識が行われることが確認された.
図2 認識過程の例
以上の結果は,シナプス荷重の変化を伴わなくても,適当な入力刺激によって回路網の状態 (興奮パターン) の多様な遷移が制御できることを示しており,神経回路網によって思考を実現するメカニズムにも示唆を与えるものだといえる.
文献