連載
米Anthropicが封印した「ミトス」の衝撃 なぜ、AI対AIの時代が来るのか：世界を読み解くニュース・サロン（3/4 ページ）
米Anthropicは、最新AIモデル「Claude Mythos（クロード・ミトス）」を発表したものの、一般公開を見送った。ミトスはかなりの速度で脆弱性を見つけ、自律的に判断できることから、サイバーセキュリティを根本から変える可能性がある。
サイバー防御は“AI対AI”の攻防に
これほど能力があるAIが登場すれば、もはや人間は追いつけないだろう。そうなると、AI対AIの攻防になる。防御する側がAIで自社コードを先回りして探索し、攻撃者に悪用される前に脆弱性を修正することが、インフラの安全を維持するための前提になる。
さらに、AIを暴走させないために、AIがうそをついていないか、思考の裏側までチェックすることも必要だ。そのためには「重要な操作には必ず人間による承認が必要」としたほうがいい。また、システムのマスターキーを1カ所に置かず、分散して守ることで、一気に機能停止したり、制御不能になったりするリスクを抑えられる。
さらに、これほどのAIを一部の人たちだけが使えるというのも問題だ。AIの生みの親とも呼ばれるコンピュータ科学者、ヨシュア・ベンジオ氏は「一私企業が他のすべての人々のインフラの運命を決めるのは筋が通らない。アクセスを得られなかった他の企業や国はどうするのか」と述べる。確かに、AIのガバナンスは国際的に議論すべきだ。
また、米非営利研究機関「AI安全センター」の所長であるダン・ヘンドリックス氏は「最大の懸念は、ミトス級モデルが非国家主体でも重要インフラを停止できるようにしてしまう点だ。発電所・水道などは相互運用性の制約で何年もアップデートされておらず、極めて脆弱で、その状況を変えるのは非常に難しい」と指摘する。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
AIの「見えない影響力」 米政府とAI企業の衝突が突き付けた問い
米アンソロピックがAIの用途を巡って米政府と対立し、政府の調達から排除された。AI技術の利用範囲が拡大する中で、テクノロジー企業と利用者の関係も見直されつつある。社会への影響力の大きさを直視し、どのように利用していくべきか判断する必要がある。
「顔認証」はどこまで進むのか 700億枚データと日本の現在地
さまざまな企業の顔認証技術が、世界各地で広まっている。日本でも、大阪・関西万博で「手ぶら決済」が実現し、空港や駅でも導入が進んでいる。利便性が向上する一方、ルール整備が後手に回っており、社会的合意の形成が課題になっている。
「潜伏型サイバー攻撃」すでに侵入されているかも 企業はどう対策すべきか
日本企業がサイバー攻撃の被害を受けるケースが後を絶たない。サイバーセキュリティ企業のCEOによると、最近は「ステルス型」攻撃が増加し、長期的にネットワークに侵入される。被害に遭わないために、企業はどのような対策を実施すべきだろうか。
LINEを避ける人たちは何を使うのか “安全神話”Signalの実力と盲点
スマホのメッセージングアプリで、安全性を売りにしているのが米国発のSignalだ。強力な暗号化によってセキュリティを高めているが、サイバー攻撃の標的にもなっている。ビジネスでもチャットアプリの利用が増えており、セキュリティ意識を高めるべきだ。
BYDの“軽”が日本に上陸 エコカー補助金の陰に潜む“監視リスク”
中国のEVメーカー、BYDが日本の軽自動車市場に参入すると発表した。中国製のEVを巡っては、欧米でセキュリティの懸念が指摘されている。多くの情報を収集するEVは、スパイ活動にも活用できると見られており、日本でも警戒が必要だ。