ITmedia AI＋
生成AI
「これまでと異なる科学の形がある」――AI技術のノーベル賞受賞に、東大・松尾教授が語ったこと

「これまでと異なる科学の形がある」――AI技術のノーベル賞受賞に、東大・松尾教授が語ったこと

公開 2024年11月12日 18時12分

[ITmedia]

印刷する Googleで優先するソースとして追加

　AI研究で知られる東京大学の松尾豊教授は11月12日、防衛装備庁の開催する技術シンポジウムに登壇し、2024年のAI関連のノーベル賞受賞について「これまでと異なる科学の形がある」などとコメントした。生成AI業界の人材動向などにも言及。「1番優秀な人はスタートアップを自分で作る」と語った。

東京大学の松尾豊教授

　松尾教授は、近年の生成AIの成長について、24年のノーベル物理学賞を受賞したジェフリー・ヒントンさんらの功績が大きいと指摘。ジェフリーさんらの開発したディープラーニングにより、ニューラルネットワークの層を増やし、AIの精度を上げられるようになったとして「ノーベル物理学賞を取るのもその通り」と述べた。

2024年ノーベル物理学賞の解説

　一方、米Google DeepMindのデミス・ハサビスさんらが、タンパク質の構造を予測するAIモデル「AlphaFold2」の開発で、24年のノーベル化学賞を受賞したことについては「面白い」と表現。「AlphaFold2は、巨大なニューラルネットワークを学習させてよく当たるようにしたものだが、なぜ当たるのかというのはよく分かっていない」「フォールディング問題といわれるもので、3次元形状をなぜ的確に当てられるのかは分かっていないが、9割当たる。非常に便利だということで、それに対してノーベル賞が賞を与えた」と説明した。

2024年ノーベル化学賞の解説

　「従来の科学技術は、基本的に人間が理論とか法則を理解し、現象を説明できると、科学的な発見だとされてきた。今回は、大きなニューラルネットワーク内で何が起きているか分からないが、当てられるということに対してノーベル賞が与えられた。これまでと異なる科学の形もあるんだよという、ノーベル賞からのメッセージのように思う。今後は、理論や法則は分からないが、非常に大きなAIモデルで精度が高まる、といった研究も増えるのではないか」（松尾教授）

学習するほど賢くなる――グロッキングとは？

　生成AIの性能向上に関し、松尾教授は「グロッキング」（Grokking）という現象も紹介した。グロッキングは、自然言語処理などに使われるトランスフォーマー技術と、文章に出てくる次の単語を予測して学習する手法・自己教師あり学習を組み合わせた際に現れる。AIに学習をさせるほど、性能が上がっていく現象だという。

トランスフォーマーと自己教師あり学習の解説

　松尾教授は、グロッキングについて「従来知られていることと真逆だ」と指摘する。というのも、AIの学習では、過学習という現象が発生するからだ。過学習に陥ると、AIモデルは学習するデータに過剰に適応し、汎用的な性能が落ちる。しかしトランスフォーマーと自己教師あり学習を組み合わせた場合、過学習が発生した後もさらに学習を続けると、なぜか精度が急上昇するという。