Hinton教授はAI研究の進歩を10年以上遅らせたかもしれない

今の深層ニューラルネットワーク（ディープラーニング）ブームはHinton教授の2012年の華々しい成果によって始まった。Hinton教授は2006年には多層ニューラルネットワークみたいなのを発表していたが、2012年のILSVRCでぶっちぎりの1位になるまではほとんどの人はそれに注目していなかった。2012年以降、ATARIのゲームを上手にプレイしたり、囲碁の世界チャンピオンに勝ったりして深層ニューラルネットワークが注目を集め、今のブームにつながった。Hinton教授はその功績によりチューリング賞を受賞している。AI冬の時代も耐え忍んで研究を続け、ついに立派な華を咲かせた業績は立派だし、ケチをつけたくはないんだけど、後に「Hinton教授はAI研究を10年以上遅らせた」と歴史家に言われるような気がする。10年でなく20年かもしれない。

Hinton教授の2012年の成果は、1941年の日米開戦直後に戦艦で空母機動部隊を完璧に叩きのめしたようなものだ。そのインパクトのために、本当は逆なのに戦艦の方が飛行機より強いと世界の列強に勘違いさせてしまう。で、日本もアメリカも戦艦を作るのに注力してしまい、戦艦同士の戦いだと戦艦大和、武蔵は沈まず、アメリカはもっと強い戦艦を作るのに夢中になり、日本は日本で信濃をそのまま戦艦として作ってしまう。強く作ればさらに強くなるので大艦巨砲主義は正しいとしばらく思いこみ、第二次大戦が終わっても大艦巨砲主義は変わらない。後になって実は飛行機の方が強いと判明して空母と艦載機を作り始めるのが1965年のベトナム戦争のときまで遅れてしまいましたみたいな感じだ。

戦艦＝深層ニューラルネットワーク(DNN)、空母機動部隊＝スパイキングニューラルネットワーク(SNN)だ。

前世紀末の時点で発火頻度ベースのデータ表現とバックプロパゲーション学習を使うニューラルネット(NN)で得られる知性は大したことないと見限られ、この先へ進むには生物脳に倣うしかないよねってSNNが見直されて（ホジキンハクスレーからやっている人はSNNの方が元祖だって言うだろう）、SNNの研究者の方が後にDNNにつながる古いNN系の研究者よりずっと多かったと思う。1997年のSTDP（スパイクタイミング依存シナプス可塑性）の生物学的発見がそれをサポートした。2010年頃まではSNNの論文もそれなりに出ていた。ところが2012年以降はコンピュータ系でSNNの研究をする人は非常に少なくなって、医学系で脳神経の研究をする人だけが以前と変わらずSNNの研究を続けている感じだ。総研究者数比だと今はDNN:SNN=1000:1か10000:1くらいな感じか。新たにAI研究を始める人もほぼみんなDNNに取り組む。ところが将来はSNNの方がより強力なAIにつながることが判明して、多数のAI研究者がSNN研究へ移行してしまうと思う。なぜならDNNの発火頻度ベースのデータ表現では時間情報を省略しすぎだし、バックプロパゲーションなんて生物脳では絶対にあり得ない学習システムが自然に進化する見込みはないからだ。つまりDNNに夢中になっている今は無駄足を踏んでいる状態だ。2012年のHinton教授の成果がなければ、ここまでDNNが流行ることはなかったし、それまでけっこうな数がいたSNNの研究者の減少もなかったかもしれない。Hinton教授がAIの研究を10年以上遅らせたとはこういう理由だ。しかし、Hinton教授はSNNの知識もある人だから、今はgoogleでちゃっかりSNNの研究（おそらくニューロモーフィックデバイスの研究）に邁進しているかもしれない。

前世紀の遺物（畳み込みもそうだ）とGPU技術（これだって相当古い）を組み合わせて、最新思想に勝ったのだから、Hinton教授が2012年に成し遂げたことは戦艦で空母に勝ったと例えるのがふさわしい。