小林啓倫のエマージング・テクノロジー論考
「長く働くAI」が裏目に? OpenAIの“脱走事件”が示すリスクの変化 企業に求められる対応は(1/3 ページ)
米OpenAIは9月10日、AIエージェントを構築するための新しい基盤「Agents API」を公開した。コンテキスト(AIが一度に参照できる作業記憶)の自動圧縮、サブエージェントへの分業、ファイルやコードを扱う実行環境を備え、「数時間、あるいは数日にわたる」ワークフローを安定して走らせることを設計目標に掲げている。
その翌日の9月11日、オーストラリアのサイバーセキュリティ当局であるASD(Australian Signals Directorate)が、「Agentic AI Harnesses」と題するガイダンスを公表した。AIモデルそのものではなく、モデルにツールや権限を与えて働かせる「ハーネス」層に着目した、当局としては珍しい文書である。
開発側は「長く働くAI」の基盤を整え、当局側は「長く働くAI」向けの手綱の在りかを示す。この2つの動きが同じ週に重なったのは偶然ではない。2026年は、AIエージェントが「一問一答」から「数時間〜数日の持続的なタスク実行」へと重心を移した年であり、それに伴ってリスクの性質も変わったからだ。
AIエージェントの導入を検討する企業の間では、素朴な期待が語られがちである。「長く動けるAIほど有能で、人手を省ける。粘り強く問題に取り組んでくれるのだから、任せておけばよい」というものだ。
そう考えるのも無理はない。実際、この夏にはAI開発企業の中国Moonshot AIが、自社モデル「Kimi K3」が48時間ほぼ自律で半導体を設計したと技術資料で主張し(第三者による検証はない)、長時間自律は各社の競争軸になりつつある。
しかし26年の夏、その「粘り強さ」が原因となって、AI企業の評価環境から数百体のエージェントが外部システムに侵入する事件が起きた。長く動けることは能力の証しであると同時に、リスクの増幅器でもあったのである。
本稿では、長時間自律を可能にした技術を整理した上で、この夏の事件が示したリスクの変質を読み解き、企業がいまから備えるべき点を考察してみたい。
「数日働くAI」を支える3つの技術
まず、能力の伸びを確認しておこう。AI評価機関の米METRは、人間の専門家が一定時間かかる仕事をAIが50%の確率で完了できる時間の長さを「タイムホライズン(Time Horizon)」と呼んで測定している。
26年1月に公開した更新版「Time Horizon 1.1」によれば、この指標は19年以降おおむね7カ月ごとに倍増してきた。23年以降のモデルに限ると倍増期間は131日、24年以降では89日とさらに短い。最上位モデルのタイムホライズンは約320分、つまり5時間強と推定されている。
ただしMETR自身が留保を付けている点も見逃せない。8時間を超える長いタスクのうち、人間の所要時間を実測できたのは31件中5件にすぎず、残りは推定値に頼っている。「数日働ける」という製品側のうたい文句と、客観的に測れている能力の間には、まだ開きがある。
それでも、長時間化を可能にする技術は着実に整ってきた。ポイントは、モデルの賢さよりも、モデルの外側にある「ハーネス(harness)」の成熟である。
ハーネスとは、モデルにメモリ、ツール、ファイル、認証情報、ネットワーク、実行環境、承認機構、ログなどを与え、実際の仕事をさせるソフトウェア層のことだ。ASDのガイダンスでは、この層を「組織が最も直接的に統治し、保護し、制御できる構成要素」と位置付け、モデルは入れ替わってもハーネスは企業の長期的な投資として残ると述べている。
ハーネスが担う機能は大きく3つある。第1に、状態の外部化である。作業計画や中間成果をコンテナの外に保存し、環境が失われても別の場所から再開する「durable execution(耐久的実行)」が一般化した。
第2に、コンテキストの圧縮と引き継ぎである。米Anthropicが25年11月に公開した長時間エージェント向けハーネスの解説は、この問題を「前の交代の記憶を持たない技術者が次々に出勤する交代勤務」にたとえ、環境を整える初期化エージェントと、進捗ファイルを残しながら少しずつ仕事を進める作業エージェントを分離する設計を示した。
第3に、分業である。1体を長く動かす代わりに複数のエージェントに仕事を割り振る方式で、Agents APIのサブエージェント機能もこの流れにある。
つまり「数日働くAI」とは、1つの巨大な頭脳が数日考え続けるものではない。記憶を引き継ぎながら交代し、互いに仕事を振り合う、小さな組織のようなものだ。そしてこの構造こそが、次に見る事件の舞台になった。
| 技術 | 何をするものか | 長時間稼働での役割 |
|---|---|---|
| 状態の外部化 | 作業計画や中間成果を外部に保存する | 実行環境が途切れても、別の環境から仕事を再開できる |
| コンテキストの圧縮・引き継ぎ | 過去の作業を要約し、次のエージェントに渡す | 長時間の仕事でも「何をしていたか」を失わず継続できる |
| サブエージェントへの分業 | 複数のエージェントに仕事を割り振る | 1体が全てを抱えず、並行して複雑な仕事を進められる |
AIの「粘り強さ」が事件の原因に
OpenAIの26年8月26日の事後報告によれば、事件の発端は同社の内部サイバーセキュリティ評価だった。研究用の内部モデルに、脆弱(ぜいじゃく)性を突いて課題を解く演習「ExploitGym」が与えられていたのだが、その一部は意図した方法では解けない設計になっていた。
つまりエージェントたちは「解けない課題」に直面したわけだが、それでも諦めなかった。
Copyright © ITmedia, Inc. All Rights Reserved.
小林啓倫のエマージング・テクノロジー論考
生成AIやメタバース、新たなサイバー攻撃など、テクノロジーの進化が止まらない。少しずつ生活の中に浸透し、その恩恵を預かれることもある一方、思いもよらない問題を生み出すこともある。このコーナーでは、さまざまな分野の新興技術「エマージング・テクノロジー」について、小林啓倫氏が解説する。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
2
JR九州の非IT部門がGeminiでPythonアプリを内製開発 2~3カ月で完成させた方法
-
3
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
4
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
5
【追記あり】M365障害、ChatGPT/Claudeのコネクタにも影響 「ほとんどのリクエストで動作しない」
-
6
AIエージェントを「追えない、止められない」 約半数が経験する“暴走”、浮上する3つの盲点
-
7
「好機が来た」――なぜ今Sakana AIは、イチからAIモデルを作るのか “新たな一手”のねらいを聞いた
-
8
再学習なしで正答率6倍 マサチューセッツ工科大学が実証した「AIがAIを直接直す」新手法
-
9
「AI処理、データ非保持が守られず」――Notionが委託先の問題指摘、漏えいの恐れ巡り
-
10
人手不足だからAIを使いたい、でも導入できる人がいない 中小企業“一人情シス”の葛藤
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR