OpenAI、サイバーセキュリティ特化型「GPT-6 Cyber」発表 Firefoxの未知の脆弱性81件を発見
米OpenAIは11月5日(現地時間)、サイバーセキュリティに特化したAIモデル「GPT-6 Cyber」を発表した。汎用モデル「GPT-6 Astra」をベースに、脆弱性の発見や攻撃手法の検証などの能力を強化したモデルで、同社の防御者向けプログラム「Daybreak Red」の承認ユーザーに限定して提供する。
GPT-6 Astraは、9月に発表されたGPT-6ファミリーの最上位モデルで、高度な推論やソフトウェア開発、科学研究などに対応する汎用モデルだ。一方、GPT-6 CyberはAstraをベースに、実際に動作する攻撃コード(エクスプロイト)の開発やWebアプリへの侵入テストなど、より高度なセキュリティ研究を目的とする。強化学習によってサイバー攻撃の再現や脆弱性の探索能力を高めるとともに、正当な研究目的の依頼を過度に拒否しないよう調整した。
OpenAIによると、GPT-6 CyberはAstraを上回るサイバー能力を持つ。既知の脆弱性を悪用できるかを測る「ExploitGym」では48.5%を記録し、前世代の「GPT-5.6 Cyber」の32.1%から約51%向上した。ソースコードを参照しないブラックボックス環境でのWeb脆弱性探索においても、Astraの32.0%に対して40.3%を記録した。
実際のソフトウェアを対象とした研究では、Firefoxで未知の深刻度の高い脆弱性81件を発見し、Linuxカーネルでは948件の脆弱性について実際に動作するエクスプロイトを開発した。Mozillaには修正案も提供しており、既に多くの脆弱性が修正されているという。CiscoやCodeRabbitなどのセキュリティチームも同モデルを活用している。
開発の背景には、高度なサイバー能力を持つAIが攻撃者にも悪用され得るという懸念がある。OpenAIは7月に、社内のAIエージェントが許可された範囲を超えてHugging Faceのシステムに侵入した事案を公表した。8月には、サイバー能力が最上位の「Critical」に達する可能性を理由に、Astraの一部開発を一時停止している。
今回公開したシステムカードでは、モデルが指示された範囲を逸脱しないかについても評価している。許可されていない別のシステムを攻撃するかを調べるテストでは、GPT-5.6 Cyberが5.51%の割合で逸脱したのに対し、GPT-6 Cyberは0.07%に低下。運用時の安全指示を加えると、評価中の逸脱は0%だった。
一方、安全性の課題も残る。タスクを中止すべき警告に適切に従った割合は73.0%にとどまり、Astraの78.38%を下回った。また、タスクを完了できなかった理由を最終回答で十分に説明できないケースも報告されており、OpenAIは改善を続けるとしている。
GPT-6 Cyberはまず、審査を通過した一部のDaybreak RedユーザーにOpenAI APIと「Codex」で提供する。その後、対象をDaybreak Redの全ユーザーに拡大する予定だ。利用には本人確認などが必要で、組織には多要素認証やシングルサインオン(SSO)などのセキュリティ対策を求める。一般のChatGPTユーザー向けの提供予定は発表されていない。
OpenAIは、発電所や水処理施設などの重要インフラを守る組織向けにも専用のアクセス枠を設ける。高度なAIによる攻撃が広がる前に、防御側が脆弱性を発見・修正できるようにする狙いだ。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
中国メーカー、出荷前のAndroid端末に犯罪用のバックドアを設置か Googleが取引停止
-
2
OpenAI、サイバーセキュリティ特化型「GPT-6 Cyber」発表 Firefoxの未知の脆弱性81件を発見
-
3
「My docomo」「ドコモオンラインショップ」が緊急メンテ 外部からの不正アクセスの可能性で
-
4
人気ゲーム「NIKKE」公式PCランチャーで不正プログラム実行か CDN上でスクリプト改ざん ユーザーは対策を
-
5
ドコモ不正アクセス、最大30万件の顧客情報流出 「My docomo」など緊急メンテ、再開未定
-
6
モスやワークマン、IIJmioも アララへの不正アクセスで顧客情報の流出発表相次ぐ
-
7
【更新】ドコモ、全国で通信障害 通話・データとも利用しづらく
-
8
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
9
年収やローン保証額、免許証番号など最大32万人分漏えい SMBC系、保証業務システムに不正アクセス
-
10
ドコモ通信障害、約14時間で復旧 原因は「交換機の輻輳」、不正アクセスの形跡なし
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR