「これまでと異なる科学の形がある」――AI技術のノーベル賞受賞に、東大・松尾教授が語ったこと

[島田拓，ITmedia]

　AI研究で知られる東京大学の松尾豊教授は11月12日、防衛装備庁の開催する技術シンポジウムに登壇し、2024年のAI関連のノーベル賞受賞について「これまでと異なる科学の形がある」などとコメントした。生成AI業界の人材動向などにも言及。「1番優秀な人はスタートアップを自分で作る」と語った。

東京大学の松尾豊教授

　松尾教授は、近年の生成AIの成長について、24年のノーベル物理学賞を受賞したジェフリー・ヒントンさんらの功績が大きいと指摘。ジェフリーさんらの開発したディープラーニングにより、ニューラルネットワークの層を増やし、AIの精度を上げられるようになったとして「ノーベル物理学賞を取るのもその通り」と述べた。

2024年ノーベル物理学賞の解説

　一方、米Google DeepMindのデミス・ハサビスさんらが、タンパク質の構造を予測するAIモデル「AlphaFold2」の開発で、24年のノーベル化学賞を受賞したことについては「面白い」と表現。「AlphaFold2は、巨大なニューラルネットワークを学習させてよく当たるようにしたものだが、なぜ当たるのかというのはよく分かっていない」「フォールディング問題といわれるもので、3次元形状をなぜ的確に当てられるのかは分かっていないが、9割当たる。非常に便利だということで、それに対してノーベル賞が賞を与えた」と説明した。

2024年ノーベル化学賞の解説

　「従来の科学技術は、基本的に人間が理論とか法則を理解し、現象を説明できると、科学的な発見だとされてきた。今回は、大きなニューラルネットワーク内で何が起きているか分からないが、当てられるということに対してノーベル賞が与えられた。これまでと異なる科学の形もあるんだよという、ノーベル賞からのメッセージのように思う。今後は、理論や法則は分からないが、非常に大きなAIモデルで精度が高まる、といった研究も増えるのではないか」（松尾教授）

学習するほど賢くなる――グロッキングとは？

　生成AIの性能向上に関し、松尾教授は「グロッキング」（Grokking）という現象も紹介した。グロッキングは、自然言語処理などに使われるトランスフォーマー技術と、文章に出てくる次の単語を予測して学習する手法・自己教師あり学習を組み合わせた際に現れる。AIに学習をさせるほど、性能が上がっていく現象だという。

トランスフォーマーと自己教師あり学習の解説

　松尾教授は、グロッキングについて「従来知られていることと真逆だ」と指摘する。というのも、AIの学習では、過学習という現象が発生するからだ。過学習に陥ると、AIモデルは学習するデータに過剰に適応し、汎用的な性能が落ちる。しかしトランスフォーマーと自己教師あり学習を組み合わせた場合、過学習が発生した後もさらに学習を続けると、なぜか精度が急上昇するという。

グロッキングの解説

　「ニューラルネットワークは、最初の段階では学習するデータを丸覚えしているらしい。これは過学習にあたる。だが、そこからさらに学習を続けると、近くにあるべきものが近くに、遠くにあるべきものは遠くに、といった構造を学習する」（松尾教授）

　松尾教授によると、グロッキングは日本語で腑に落ちるという意味。「新しい仕事を覚える際、まず丸覚えして、だんだん腑に落ちる」という人間に似たプロセスが、ニューラルネットワーク内でも起こっているかもしれないとしている。

「大企業に行くのが良いという時代ではない」　生成AI業界の人材動向

　松尾教授は、生成AI業界の人材動向についても言及。松尾研究室での取り組みを踏まえ、優秀な学生はスタートアップ企業を立ち上げる傾向があるなどと語った。

　松尾研究室で行っているAIの講義は、東大以外の学生も受講できる。最近は中高生の受講も増加しているという。こうした受講生の中から、希望する場合、企業との共同研究プロジェクトに招待するといった取り組みをしている。

松尾研究室のAI講義の受講者数の推移

　「共同研究では、実際の企業の課題をどうやってAIで解決するかということを学べる。他にも実務を通じ、企業との交渉やチームマネジメントなどの能力も身につく。すると、スタートアップを作るようになる」（松尾教授）

　こうした動きに対し、実際に松尾研究室発のスタートアップで上場しているPKSHA TechnologyやGunosyといった企業を例に挙げ、「大企業に行くのが良いという時代ではない」と述べた。

PKSHA Technologyの紹介

Gunosyの紹介

　「松尾研で学ぶ学生でも、1番優秀な人はスタートアップを自分で作る。自分で作るほどの力がなかったり、向いていなかったりする人も、先輩や同級生の作るスタートアップに早くから入るというのが、スタンダードになってきている」（松尾教授）