Innovative Tech(AI+)

AIが自律的にAIを開発する技術「ASI-ARCH」 中国チームなどが開発 「AlphaGoの“神の一手”のような設計へ導く」

Innovative Tech(AI+):

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。

X: @shiropen2

 上海交通大学と、AI研究機関・SII-GAIRに所属する研究者らが発表した論文「AlphaGo Moment for Model Architecture Discovery」は、AIが自律的にニューラルアーキテクチャを発見し、改良する能力を実証した研究報告だ。

 従来のアーキテクチャ探索では、人間が定義した枠組みの中での最適化にとどまっており、イノベーションに本質的な限界があった。これに対して今回開発したシステム「ASI-ARCH」は、仮説の生成から実装、実験による検証まで、研究プロセスの全てを自律的に実行する。これにより、人間の想像力の制約を超えた真に革新的なアーキテクチャの創造が可能となった。

 研究チームは2万GPU時間(GPUが処理にかかった時間)をかけて1773回の自律実験を実施。その結果、106個の新規アーキテクチャを発見した。これらのアーキテクチャは全て人間が設計したベースラインを体系的に上回る性能を示した。

ASI-ARCHが自律的に発見したニューラルアーキテクチャの進化系統樹

 特に発見されたモデル「PathGateFusionNet」は、Mamba2やDeltaNetといった既存の最先端モデルを複数のベンチマークで超える性能を実証。この成果は、AlphaGoが囲碁で人間のプロ棋士が予想もしなかった第37手を打って世界を驚かせたことをほうふつとさせる。

 ASI-ARCHは、「Researcher」「Engineer」「Analyst」の3つのモジュールで構成している。Researcherモジュールは過去の実験データと人間の専門知識に基づいて新しいアーキテクチャを提案する。Engineerモジュールは、提案されたアーキテクチャを実際の環境で訓練・評価。Analystモジュールは実験結果を分析し、新たな洞察を抽出する。

ASI-ARCHシステムの概要図

 この研究で最も重要な発見は、投入された計算資源(GPU時間)と発見される最先端アーキテクチャの数が比例関係にあることだ。これはAIアーキテクチャの発見というプロセスが、もはや人間の専門家の数や時間に縛られるものではなく、計算能力によってスケールアップできることを意味している。

投じられた計算時間(GPU時間)に比例して、発見された最先端AIアーキテクチャの数

Source and Image Credits: Yixiu Liu, Yang Nan, Weixian Xu, Xiangkun Hu, Lyumanshan Ye, Zhen Qin, Pengfei Liu. AlphaGo Moment for Model Architecture Discovery

印刷する
SNSでシェア

Innovative Tech(AI+)

2019年の開始以来、多様な最新論文を取り上げている連載「Innovative Tech」。ここではその“AI編”として、人工知能に特化し、世界中の興味深い論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」(シームレス)を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

この連載の記事をもっと見る

この記事の著者

山下裕毅

山下裕毅

2014年から幅広い分野の研究論文をピックアップして解説しているメディア「Seamless」(シームレス)を主宰している。

関連記事

こんなメディアも見られています

ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

メールマガジンを配信中
メールマガジンを配信中

国内外の業界動向、AIやクラウドなどの最新技術、キャリア情報など今知りたい情報をまとめてお届けします。

いますぐご登録

よく見られているカテゴリー

アクセスランキング

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

SpecialPR

ITmedia AI+ SNS

X @itm_aiplusをフォロー

インフォメーション

ITmedia AI+をフォロー

あなたにおすすめの記事PR