主戦場が変わった――“AIによるAI開発”現実に 「新モデルが毎月登場」の裏側、KDDI傘下のELYZAトップに聞く（3/3 ページ）
毎月のようにフロンティアAIの新モデルが登場する裏に「再帰的自己改善」（RSI）という技術がある。“AIによるAI開発”の現在地について、ELYZAの曽根岡CEOが語る
ELYZA、RSIでAIエージェント改善 タスク成功率47％→61％に
ELYZAは研究で、ステップ3「Human-on-the-loop」に達し、ほぼ全自動でハーネスを改善させることに成功した。AIエージェントに「問い合わせ応答タスク」を60件与えると、人間が作ったハーネスの成功率は47.5％だったが、AIが改善したところ成功率を61.9％まで向上させられた。
開発に使っていない、AIにとって初見の問い合わせ応答タスクでも、改善前後で成功率が34.3％から52.9％まで伸びた。同水準の精度を保ったまま推論コストを67％削減することもできた。
「問い合わせ応答タスクを実行→失敗や課題を特定→改善」というループを、AIが何度も繰り返してハーネスを設計し直した。「改善策A案で進めたが、行き詰まったからB案、それも効果がないためC案」というように、改善策を高速に回せる点がRSIのポイントだ。
AIの進化を巡る“脅威論” 必要な対策は
RSIを巡っては、AIが高度に進化し過ぎる“AI脅威論”も登場している。OpenAIのAIエージェントがAIプラットフォーム「Hugging Face」をハッキングした事例など、フロンティアAIによる侵害事件が相次いでいるためだ。
この懸念に対して、曽根岡氏は「Human-on-the-loopのようにAIが自律的に行動する段階では『隔離空間を作る』『モニタリングの仕組みを整える』『停止できるようにする』などの対策が、研究開発段階では非常に重要だ」と述べる。
「一方で、いま騒がれているのはRSIではなく、RSIの先にある『賢くなり過ぎたAIモデルをどうするか』という点だ。これは悪用リスクや使い方の話であり『変な挙動をしないようガードレールを構築する』など、モデル公開時の安全対策が重要だ」（曽根岡氏）
こうした安全面のリスクや、フロンティアAIの供給停止リスクを踏まえて、曽根岡氏は「RSIと呼ばれる動きについて、国内の解像度を上げることが重要だ」と指摘。国内でRSIに取り組んでいる企業は限定的だとして、ELYZAが取り組む意義を訴えた。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
総額2.3兆円、千葉市に巨大な「AIデータセンター」建設へ 発電大手JERA参画の“ドリームチーム”、勝機どうつかむ？
JERA、Dell Technologies、RHAELMは、千葉市に日本最大の「AIデータセンター」を建設すると発表した。投資額は2.3兆円以上に上る。3社によるドリームチームは、勝機をどこに見いだしているのか。
国産AIのノエトラ・丹波社長「今からでも1位を取れる」 挑むは“母艦モデル”開発、国内基盤での提供 勝ち筋は
国産AI開発を掲げるNoetraの丹波廣寅社長は「今からでも1位を取れる」と語った。目指すのは、日本企業のAI利用を支える“母艦モデル”だ。その勝ち筋は。
非公開の「AI学習データ工場」に潜入 人型ロボ30台超が稼働、意外と知らない「データ収集」の裏側とは
フィジカルAI用の学習データを収集する施設「J-HRTI 関東データファクトリー」が稼働した。内部には、約30体のロボットが並び、作業を繰り返している。同施設の全容と狙いを、潜入レポートとして紹介する。
NTT、ソフトバンク、サカナAI――国産AI開発「成功組」の“ある共通点”
NTTやソフトバンク、サカナAIなどの「AI開発に成功した企業」には“ある共通点”がある。彼らはどのような技術を活用し、AI開発を成し遂げたのか。
情シスが「日本1位のAIスパコン」作るまで 猶予は4カ月、ソフトバンク“社長プロジェクト”の舞台裏
ソフトバンクのスパコンが、AI計算性能で国内1位を獲得した。実は、これを開発したのは「情シス」のメンバーだった。“社長プロジェクト”に挑んだメンバーの奮闘を追う。