2024年5月27日月曜日

AIバブルがはじけるのはいつか

nVidiaは運のよいビデオカードメーカーだ。20世紀はMatroxとか#9とかの高画質ビデオカードメーカーの後塵を拝していたが、画質はいまいちだが3Dゲームが速いという特長を売りにして売り上げを徐々に伸ばしていった。21世紀になってもそれほど3Dゲームユーザーは増えなかった。しかし2009年にビットコインが発表されてしばらくして風向きが変わった。ビットコインのマイニングにビデオカードを使えることが知られたのだ。最初はビットコインはマニアの遊びだったし、マイニングもCPUを使っている人が多かった。しかし、ビットコインが投機の対象になってからビデオカードを使って業としてマイニングする人が増えた。

#ビットコインのマイニングとは、0が連続したハッシュ値を生成するおまけ数値をブルートフォースで探すことであると分かっている仮想通貨の投機家がほとんどいないのが情けない。この計算はビデオカードをたくさん使ってもすぐに結果が出るものではないので、ビットコインをはじめとするPoW系の仮想通貨のトランザクションを完結するには時間がかかることがある。これも分かっている人が少ないのが情けない。

ビットコインが出て3年後の2012年にトロント大学のヒントン教授がこれまで誤差逆伝搬でシナプス重みをうまく計算できなかった多段のパーセプトロン風ネットワークをうまく計算するアイディアを出し、ディープラーニングが使える技術として世の中に知られた。このとき誤差逆伝搬の計算を素早く行うのにビデオカードを使った。しかしビデオカードがバカ売れするほどではなかった。2020年にアテンションをパラメータとすることを特長とするGPT-3が出て、やや賢い応答をネットワークが返せるようになった。しかし、これも研究者にしか興味を持たれなかった。ところが2022年にGPT-3を誰もが使えるインターフェースで提供するChatGPTが発表されてから、GPT-3が爆発的な人気を得た。これでアテンションをトランスフォーマーネットワークで学習するネットワークが大流行して、ビデオカードがバカ売れした。そして2024年にnVidiaは最高売り上げと最高利益を達成した。AIバブルである。

こう書くとnVidiaはたまたま運がよかっただけと思われるかもしれないが、CUDAを2006年に発表したことが全ての運を引き寄せた。そこがnVidiaが優れていたところだ。CUDAはビデオカードでの計算プログラムを簡単に書けるようにするフレームワークだ。CUDAが出る前は異種のプロセッサ(CPUとGPU等)による並列処理プログラムは、ハードウェアを熟知したプログラマでないと書けない難しいものだった。ヘテロジニアスコンピューティングと呼ばれる。それを誰でも書けるようにしたのがCUDAだ。CUDAがあったからこそ、ビットコインもディープラーニングもビデオカードを活用できたのだ。

本題のAIバブルがいつはじけるかだが、私は2年後だと思う。GPT系がいくら大規模化しても所詮は教師あり学習なので大して賢くはならない。技術の中身を知らない利用者も2年もすればGPTでは解決できない問題がたくさんあることに気づくだろう。GPTで処理できる問題であれば大丈夫かと言えばそれも違う。GPTで処理できる問題であっても、かけたコストに見合うリターンが得られる状況が少なすぎることが問題になる。それも2年くらいでみんな気づくだろう。そうなるとビデオカードの需要がなくなって、AIバブルははじける。

0 件のコメント:

コメントを投稿