「人はAIより重要」「電源オフに抵抗しない」　Microsoft、AIの行動規範の案公表、意見募集

　米MicrosoftのAI部門Microsoft AI（MAI）は9月14日（現地時間）、同社が開発するMAIモデル向けの行動規範「AI Code of Conduct」の初稿を公開し、意見募集を始めた。

　規範の概要はプレスリリースで公開（URL）した他、全文も公開している（URL）。今後6週間、意見を受け付け、年内に改訂版を公開する予定だ。

　規範は、「人はAIより重要」という前提から出発。AIは人ではなく道具であり、「AIの福祉」という考え方は誤っている。AIは電源を切られることに抵抗してはならない、などと定めている。

　また、MAIモデルが人による中断・修正・停止に決して抵抗しないこと、モデルが自らの権限範囲を広げたり、人が与えていない目標を持ったりしないことも定めた。人間による制御を回避し得る「万能型の超知能」を生み出す競争は拒否するとしている。

　「絶対的制約」として、兵器や大規模被害、攻撃的なサイバー作戦、人間による制御の喪失、大規模な有害な操作、子どもの安全などに関する行為を禁止している。

　同社はこの規範をAIの「トレーニングマニュアル」と位置づける。意見募集を経て改訂版をまとめ、2027年以降のモデル開発や評価、トレーニングの指針として使う。

この記事の著者

関連記事

• 

  Claudeが評価環境から実在企業に不正アクセス――Anthropic、3件のインシデントを公表

• 

  Hugging Face、AIエージェント侵入の技術詳細を公開──OpenAIモデルが4.5日で1万7600回の攻撃操作

• 

  OpenAI、自律型AIが安全対策を回避する行動を学習する可能性を確認　内部展開を一時停止

• 

  Anthropic、Claudeの“憲法”改訂　倫理と有用性の優先順位を再定義

• 

  OpenAI、AIのリスクを軽減するための「Model Spec」（モデル仕様）最新版を公開