Google、AI採用のサイバー防御イニシアチブ発表 「Magika」オープンソース化も
Googleは、「防衛者のジレンマ」に対処するための新イニシアチブ「AI Cyber Defense Initiative」の立ち上げを発表した。また、Gmailなどで活用しているAI採用マルウェア検出ツール「Magika」をオープンソース化した。
米Googleは2月15日(現地時間)、AIを活用してサイバーセキュリティ防御を強化する新たな取り組み「AI Cyber Defense Initiative」を発表した。AIによる脅威の検出強化、脆弱性管理の自動化、インシデント対応の効率向上を推進していくことが目的だ。
Googleは、サイバーセキュリティの主な課題として、攻撃者にとっては脅威が1つでも成功すればいい一方、防御側は1つのミスもなく常に最高の防御を展開しなければならないという「Defender’s Dilemma(防衛者のジレンマ)」があると説明。大規模なAIがあれば、この防衛者のジレンマに対処できるとしている。
新イニシアチブは、AIで脅威に対応するだけでなく、脅威を予測し、無力化することを目的とする。そのために、サイバー脅威を示すパターンを分析するAIアルゴリズムを導入する。
Googleは昨年6月、生成AIを採用する企業向けの、AIを安全に使うためのフレームワーク「Secure AI Framework」(SAIF)を発表している。
Googleはサイバー脅威に対抗するために、業界と政府にAI主導のセキュリティ対策の進歩を共有するパートナーシップを呼び掛けた。
同社はまた、マルウェアの検出のためのAIツール「Magika」をGitHubでオープンソース化したことも発表した。Magikaは、AIでバイナリファイルとテキストファイルを正確に識別するファイル形式識別システム。既にGmailやGoogleドライブなどで活用されている。
Magikaは独自開発のディープラーニングモデルを作用しており、CPU上で数ミリ秒でファイル形式を識別できる。Googleによると、従来の識別法より優れており、VBA、JavaScript、Powershellなど、従来は識別が困難だったコンテンツに対して、全体で30%精度が向上し、最大95%高い精度を出すという。
米Microsoftと米OpenAIも前日、政府とつながる脅威アクターによるAIの悪用について報告し、AI悪用攻撃に対処するためには政府を含む防御者コミュニティと協力していくことが重要だと語った。
関連記事
- OpenAIとMicrosoft、AIを攻撃に悪用するロシアや中国のアカウント停止
MicrosoftとOpenAIは、LLMなどのAIツールがロシアや中国などとつながる脅威アクターに悪用されているという調査結果を発表した。両社はこれらの脅威アクターに関連付けられているすべてのアカウントと資産を無効にしたとしている。 - AIの安全性を検討する専門機関、IPAが設立 内閣府や経産省なども協力
情報処理推進機構(IPA)は2月14日、AIの安全性を検討する機関「AIセーフティ・インスティテュート」(AISI)を設立した。 - 生成AIはサイバー攻撃側にメリット 米Akamaiトム・レイトンCEOが警鐘 対策は
米Akamai Technologiesのトム・レイトンCEOが取材に応じ、生成AIが情報セキュリティに与える影響を語った。 - バイデン米大統領、AIの安全性に関する大統領令に署名
ジョー・バイデン米大統領は、AIの安全性とセキュリティに関する基準確立を目指す大統領を発令した。大手AI企業から7月に確保した自主的な約束に基づいている。 - Google、生成AI採用企業向け保護フレームワーク「Secure AI Framework」
Googleは、生成AIを採用する企業向けのフレームワーク「Secure AI Framework」を発表した。トレーニング用データセットの盗難やAIモデルの改ざんを阻止するためのものだ。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.