米Anthropicが封印した「ミトス」の衝撃 なぜ、AI対AIの時代が来るのか：世界を読み解くニュース・サロン（3/4 ページ）

[山田敏弘，ITmedia]

サイバー防御は“AI対AI”の攻防に

　これほど能力があるAIが登場すれば、もはや人間は追いつけないだろう。そうなると、AI対AIの攻防になる。防御する側がAIで自社コードを先回りして探索し、攻撃者に悪用される前に脆弱性を修正することが、インフラの安全を維持するための前提になる。

　さらに、AIを暴走させないために、AIがうそをついていないか、思考の裏側までチェックすることも必要だ。そのためには「重要な操作には必ず人間による承認が必要」としたほうがいい。また、システムのマスターキーを1カ所に置かず、分散して守ることで、一気に機能停止したり、制御不能になったりするリスクを抑えられる。

高度な能力を持つAIを使うために何に注意すべきか（画像提供：ゲッティイメージズ）

　さらに、これほどのAIを一部の人たちだけが使えるというのも問題だ。AIの生みの親とも呼ばれるコンピュータ科学者、ヨシュア・ベンジオ氏は「一私企業が他のすべての人々のインフラの運命を決めるのは筋が通らない。アクセスを得られなかった他の企業や国はどうするのか」と述べる。確かに、AIのガバナンスは国際的に議論すべきだ。

　また、米非営利研究機関「AI安全センター」の所長であるダン・ヘンドリックス氏は「最大の懸念は、ミトス級モデルが非国家主体でも重要インフラを停止できるようにしてしまう点だ。発電所・水道などは相互運用性の制約で何年もアップデートされておらず、極めて脆弱で、その状況を変えるのは非常に難しい」と指摘する。