相次ぐサイバー攻撃に「AI悪用の可能性」……初来日のAnthropic共同創業者が言及 悪用どう抑止
「おそらく、AIツールが使われている可能性はあるだろうと推測している」──米Anthropicの共同創業者のジャック・クラーク氏が初来日し、同社の日本法人が10月14日に開いたメディア説明会に登壇した。講演では、報道陣の質問に答える形でサイバー攻撃とAIの関係性についても言及する一幕も。悪用の抑止に向けて同社がどう取り組むか、現在の方針も説明した。
クラーク氏は世界で相次ぐサイバー攻撃について「ハッカーも企業と同じように、使えるツールを使う」と、AIが使われている可能性があるとの見方を示す。同社は悪用防止の「セーフガード」や、企業に優先して最新AIモデルを提供する「Project Glasswing」を通して対策を講じているとしつつ、他社モデルやオープンウェイトモデルも存在するため、Anthropic1社の対策で事態は改善しないとの見方を示した。
「責任ある行動を取るのがAnthropicだけでは不十分。エコシステム全体としてこの問題を解決する必要がある。そのため、私たちは政策議論に時間を割いている。全ての事業者に等しく適用され、誰にとってもより安全な環境を生み出す、常識的な交通ルールを作ることを目指している」(クラーク氏)
ただし、記者からの「AIが自律的に攻撃を行った例はあるか」との質問に対しては「確認していない」と否定した。
クラーク氏は、AIが自らを改良し性能向上を続ける「再帰的自己改善」(RSI)についても触れた。早ければ2027年にも可能になり得ると述べた自身のニュースレターに言及し「今年、AIシステムが数学から生物学に至るまで、科学的なタスクで創造性を発揮し始めている証拠が出てきた。AI研究も科学の一つの形。来年にはAIによる科学が非常に速いペースで進歩し始める可能性を想定しておくべき」と説いた。
講演にはAnthropic日本法人の東條英俊代表執行役社長も登壇。クラーク氏と同じく相次ぐサイバー攻撃について触れ「Mythosが登場したのが春で、そのころから予想できたことではあった」と指摘した。一方で「今からでもできることはある」と、AIを活用した対応を促した。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
Amazon、AWSのAPIを手元で再現する「AWS Emulator」を無償公開 コードはすべてAIエージェントが記述
-
2
「盗撮」→「法律で規制」が話題のAI眼鏡 海外では大ヒットなのに、日本での普及は限定的 ビジネスでの活用事例を探る
-
3
靖国神社に不正アクセス 約1万4500件の個人情報漏えい、パスワードが特定されるおそれも
-
4
ドコモ「5G SA」また障害、原因は5日と同じ「交換機の輻輳」 約9時間で復旧
-
5
ユナイテッド航空、外部のAIアシスタントによる航空券の予約などを禁止へ 「チェックインには人間の確認が必要」
-
6
ドコモ不正アクセスで「本人確認書類の番号」も流出 見舞金検討
-
7
Appleサポートコミュニティ、11月20日に閉鎖へ 新規投稿は既に終了
-
8
メモリ8GBでも快適? Windows 11最新アプデと「AIカスタム」した日本語入力環境で、旧型PCを蘇らせる
-
9
NTTデータ、住友生命から受託したシステムに不正アクセス 「Vitality」利用者約8万人の情報漏えい
-
10
相次ぐ個人情報流出対策に、パスワードは紙に書いてアナログ管理 一部「伏せ文字」で
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR