「人はAIより重要」「電源オフに抵抗しない」 Microsoft、AIの行動規範の案公表、意見募集
米MicrosoftのAI部門Microsoft AI（MAI）は9月14日（現地時間）、同社が開発するMAIモデル向けの行動規範「AI Code of Conduct」の初稿を公開し、意見募集を始めた。
規範の概要はプレスリリースで公開（URL）した他、全文も公開している（URL）。今後6週間、意見を受け付け、年内に改訂版を公開する予定だ。
ニュースリリースより
規範案の概要より
規範は、「人はAIより重要」という前提から出発。AIは人ではなく道具であり、「AIの福祉」という考え方は誤っている。AIは電源を切られることに抵抗してはならない、などと定めている。
また、MAIモデルが人による中断・修正・停止に決して抵抗しないこと、モデルが自らの権限範囲を広げたり、人が与えていない目標を持ったりしないことも定めた。人間による制御を回避し得る「万能型の超知能」を生み出す競争は拒否するとしている。
「絶対的制約」として、兵器や大規模被害、攻撃的なサイバー作戦、人間による制御の喪失、大規模な有害な操作、子どもの安全などに関する行為を禁止している。
同社はこの規範をAIの「トレーニングマニュアル」と位置づける。意見募集を経て改訂版をまとめ、2027年以降のモデル開発や評価、トレーニングの指針として使う。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI＋に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
「Gemini Notebook」になって何が変わった？ NotebookLMからの変更点をおさらい
-
2
トランプ大統領、アモデイ氏を名指しで「完璧な小さい天使のふり」 「AIに必要なガードレールは強く賢い大統領だけ」
-
3
中国外務省、AI開発「減速論」に反応 「恐怖をあおることや対立、悪性の競争は誰の利益にもならない」
-
4
その.envのAPIキーが、AIエージェントを「内通者」に変える――“人間前提のやり方”は破綻した
-
5
AI開発“減速論”過熱でソフトバンク、キオクシア株急落 その他AI関連株も
-
6
AI技術を“無料で公開”、なぜ？ 米IT業界の文化「オープン化」の裏にしたたかな戦略、日本は追随できるか
-
7
トランプ政権のサックス氏、AI「ペース調整」論に苦言 「規制がなければできないふりをやめろ」
-
8
半年後に「巨額の損害」、Anthropicトップが示す“最悪のシナリオ” AI開発減速にOpenAIも“異例の同調”のワケ
-
9
「FDE」「ハーネス」「オープンウェイト」って何？ AI時代に現場で飛び交う10用語をGitHubが整理
-
10
“最強エージェント”は、まさかのポンコツだった 業務の30％をAIに任せるIT運用部門が明かす「つまずきポイント」
SpecialPR
ITmedia AI＋ SNS
@itm_aiplusをフォロー
インフォメーション
注目情報をチェック
ITmedia AI＋をフォロー
あなたにおすすめの記事PR