英チャールズ国王、AI大手トップらに「実存的な危険」を警告　NVIDIAやOpenAI、Anthropicが参加

公開 2026年09月18日 07時23分

[ITmedia]

印刷する Googleで優先するソースとして追加

　英国王室は9月17日（現地時間）、チャールズ国王がAI業界のリーダー、政府関係者、市民社会の有識者を集め、AI技術の今後の開発と展開について議論するサミットを開催したと発表した。AI関連大手のNVIDIA、Google DeepMind、OpenAI、Anthropicの各社代表が参加した。

スコットランドのダンフリーズハウスで開かれたAIサミットの参加者集合写真。中央がチャールズ国王、その向かって右にデミス・ハサビス氏、サラ・フライアー氏。国王の向かって左にジェンスン・フアン氏、1人おいてティノ・クエヤル氏（画像：英国王室公式サイト）

　チャールズ国王は、AIの発展はその中身とスピードの両面で「興味深くもあり、同時に深く憂慮すべきものでもある」と述べ、技術を生み出した当事者たち自身が、AIが「より暗い能力」、場合によっては生命を奪う能力を持つに至るリスクを警告するようになっていると指摘。こうした技術が「誤った手に渡り、破滅的な形で使われる」実存的リスク（人類の存亡に関わる危機）を考慮することに緊急性があるとして、「手遅れになる前に十分な制御手段が必要ではないか」と問いかけた。その上で、「皆さんの前にある課題は、単に技術を進歩させることではなく、技術が人類、コミュニティー、自然界への奉仕にしっかりととどまるようにすることだ」と語った。

　英BBCによると、出席したNVIDIAのジェンスン・フアンCEOは安全性が「最優先」だと述べ、十分に安全でなければ製品の投入を見送り「エンジニアリングを続ける」べきだと語った。同氏はまた、ユーザーがソフトウェアに直接アクセスできるオープンモデルの価値を強調し、人々や国々が取り残されないようにする手段になると指摘。研究者や大学、スタートアップ、各国が単独では想像し得なかった応用を開発できるよう、こうしたシステムは保護されるべきだと訴えた。その上で「責任ある楽観主義で先導し、安全かつセキュアにAIを構築し、より多くの人々に開放しよう」と呼び掛けた。

チャールズ国王とジェンスン・フアン氏（画像：英国王室の公式X投稿より）

　同じくBBCによると、Google DeepMind共同創業者のデミス・ハサビス氏は、AGI（汎用人工知能）が「おそらくあと数年」で実現し、産業革命の10倍の影響を与える可能性があると述べ、何かがうまくいかない可能性は「確実にゼロではない」と語った。OpenAIのサラ・フライアーCFOは、AIが社会の最も困難な問題を解決し得るとしつつ、能力の向上が安全性と「AIが常に人々に奉仕するようにする方法」への問いを生んでいると述べ、1社や1政府だけでは対処できないと指摘した。

　参加者の顔ぶれについて、王室の発表は企業名のみを挙げているが、米Bloombergによると、Anthropicからはグローバル渉外責任者のティノ・クエヤル氏が出席したという。チャールズ国王は、同氏を含む数人と個別に面会した。参加者は経営幹部や政策担当者、研究者ら約30人規模だったという。

印刷する