|
平藤様 ＬＩＦＥの皆様
平藤さん：
> 「中間層が２層ある多層型NNは，ほぼ全ての連続関数を良い精度
> で近似できる」という潜在能力がありながら，５層とか６層に
> なって来ると適切なNNをBP(Back Propagation)で見つけだすこと
> がなかなかできないのです。
> 例えば，当時ATRのグループが砂時計型NN（６層程度の多階層NNの
> 第４層あたりの中間層のユニット数を２，３個にしたもの）を使
> うと絞られた中間層のユニットに高度に汎化された概念が抽出さ
> れるというおもしろい結果を出していましたが，彼らも「滅多に
> 学習に成功しない」といっていました（アプリケーションでは至
> る所でBPモデルの限界が認識されていた訳です）。
飯田：ＢＰは最急降下法ですから．
（これは私の経験ですが，（なんと私，昔，確率論理型ニューラル
ネットというのを開発して精神科の問診ルールの抽出をしてました．
日経新聞に載ったこともあるんです．）実用に耐える最適解を得たいなら，
データに依存した専用のネット構造を考えるのが良いです．）
平藤さん：
> KauffmanのNKシステムもしかりで，「高い自由度（間接度）のシ
> ステムが持つ膨大な選択肢のなかから妥当な時間内で最適解を見
> い出す」という問題が残されたままのように思われます。ＧＡで
> そこそこに使える局所最適解がたくさんあるのでそれで十分！と
> いう言い訳的解釈では，「生命の起源」のような現象を考えてい
> る研究者は納得しがたいんじゃないでしょうか。
飯田：この問題は，生命起原研究会で（あ，うちわの話で恐縮です）
解決を見るんじゃないかな．５月にお話できると思います．
平藤さん：
> あるモデルが出ると期待感でフィーバーし，やがて冷めてゆく，
> といういつものサイクルからいうと，GA（KauffmanのNKシステ
> ム）は３年前のA-Life V（奈良で開催された会議）の時点で既に
> 冷却段階に入っていたという印象を受けました。
飯田： Alifeには一度も出したことがありません．
飯田＠NEC基礎研究所
----- |
|
|