OpenAI、AIの社会的責任を定義する5原則を提示 外部監視の必要性を強調

[ITmedia]

　米OpenAIのSam Altman CEOは4月26日（現地時間）、最先端のAIモデルを開発するラボのあり方に関する5つの原則（principles）を公表した。同社はこれまでもAIの安全性や運用に関する方針を示してきたが、今回の原則は、2018年に公開した「OpenAI Charter」以来となる、ラボ運営の指針を改めて示したものだ。

（画像：OpenAI）

　原則は以下の5つからなる。

　民主化（Democratization）：AIによる権力の過度な集中を避け、重要な意思決定については特定のラボに閉じず、より広範な関係者を含むプロセスを志向する。

　エンパワーメント（Empowerment）：ユーザーに目標達成のための自律性と裁量を与える一方で、潜在的な被害を抑制する責任も重視する。

　普遍的な繁栄（Universal prosperity）：AIインフラのコスト低減や新たな経済モデルの検討を通じ、より多くの人が恩恵を受けられる社会の実現を目指す。

　レジリエンス（Resilience）：未知のリスクに対し、企業単独ではなく政府や社会全体と連携して対処し、段階的な技術展開によって社会の適応を促す。

　適応性（Adaptability）：不確実性の高い将来に対応するため、新たな知見に基づいて方針を柔軟に更新し、その過程の透明性を確保する。

　2018年のCharterでは、長期的な安全性の確保や、他のプロジェクトがAGI（汎用人工知能）に先行する場合の協調といった、開発競争そのものに関する指針が中心となっていた。これに対し今回の原則は、AIが既に広く実社会で利用されている現状を踏まえ、インフラ整備や経済的影響、ガバナンスの在り方などに重点を置いた構成となっている。

　なぜこのタイミングで原則を示したのかについてアルトマン氏は、OpenAIが社会に与える影響力が数年前と比べて高まっている点を挙げた。また、技術の進展に伴いAIの振る舞いが予測しにくくなっていることから、より慎重かつ段階的な導入と、社会との継続的な対話が重要になっていると説明している。こうした状況に対応するため、外部からの監視を受け入れつつ、状況の変化に応じて方針を柔軟に見直していく体制の必要性を強調した。