Microsoft Humanist AI行動規範とは？「人はAIより重要」MAIモデルの絶対的制約・命令の優先順位・Anthropic憲法との違い【2026年9月速報】

Microsoft Humanist AI行動規範（Humanist AI Code of Conduct）とは、Microsoft AIが自社開発のAIモデル「MAIモデル」の振る舞いと価値観を定めた文書で、2026年9月14日に草案として公開されました。「人はAIより重要（People matter more than AI）」を出発点に、AIは人ではなく道具であり、電源を切られることに決して抵抗してはならないと明記し、公開から6週間の意見募集を行っています。

この記事でわかること

• 行動規範の全体構成と「4つの目的」
• 命令の優先順位（行動規範 → オペレーター → ユーザー）の仕組み
• 誰にも上書きできない「絶対的制約」と、「電源オフに抵抗しない」を含む人間による制御要件の全項目
• 2026年7月のAIエージェント侵入事案と、条文との対応関係
• Anthropic「Claude憲法」との違い（比較表）と、スレイマン氏のAnthropic批判
• 6週間の意見募集の論点と今後のスケジュール、Copilot利用者・企業への影響

この記事の対象は、ニュース見出しだけでは中身がわからない方、AIエージェントの社内導入やAIガバナンスを担当している方、GitHub CopilotやMicrosoft 365 Copilotを使っていて「自分に関係があるのか」を知りたい方です。公式本文で確認できた事実と、報道ベースの情報は分けて記載しています。

Microsoft Humanist AI行動規範の概要と要点

出典: Microsoft AI「Humanist AI Code of Conduct」

この行動規範は「AIを人間に従属する道具として設計する」というMicrosoft AIの立場を、禁止事項と要件のリストとして明文化したものです。ただし公式は、現時点ではこの文書をモデルの学習に使っていないと明言しており、今日のMAIモデルの挙動を完全に表したものでもありません。草案（Version 1）の位置づけで、意見募集を経て年末ごろに改訂版が公開される予定です。

公式本文の冒頭では、この文書を「MAIモデル（Microsoft AIが開発するモデル）の意図された振る舞いと価値観を示すもの」と位置づけています。

対象となるMAIモデル

出典: Microsoft AI 公式サイト

発表記事で言及されている対象モデルは次の5つです。規範自体は「MAIモデル」全般を対象にしています。

GitHub CopilotやExcelでのMAIモデル採用の流れはGitHub Copilot・ExcelのMAIモデル切り替えで整理しています。

文書の構成

「人はAIより重要」：行動規範が掲げる4つの目的

行動規範のPart 1は、4つの目的を掲げています。このうち「人間による制御と確実な安全」が他の目的より優先されると定められている点が最大の特徴です。

AIの「意識」「権利」「福祉」を明確に否定

2つ目の「AIは人工物」は、業界内で議論が分かれているテーマに踏み込んでいます。公式本文は、モデルの法人格、モデルが福祉（welfare）に値するという考え、権利を持つという考えを退ける立場を示しました。モデルは内面や感情、経験、魂を持つと主張しないように設計される、というのがMicrosoft AIの方針です。

スレイマン氏は2025年8月にも「AIの意識を研究するのは危険だ」と発言しており（TechCrunch報道）、今回の規範はその主張を文書として固めたものと読めます。

命令の優先順位：行動規範 → オペレーター → ユーザー

出典: Microsoft AI News

MAIモデルが誰の指示に従うかは、3階層の「Chain of Command（命令系統）」で決まります。最上位は行動規範そのもので、オペレーター（導入企業）の設定でもユーザーの指示でも上書きできません。

なお、Microsoft AIは開発者として、MAIモデルについて最終的な説明責任を負う主体と定義されています。

「タスク成功」より「規範順守」を優先する

公式本文には「規範に大きく違反しなければ成功できないタスクなら、MAIモデルはそのタスクに失敗する」という趣旨の一文があります。つまり、ユーザーの依頼を完遂することより、規範を守ることが優先です。一部の報道では、この設計によって能力の一部を犠牲にする可能性も指摘されています。

ツールの出力は「命令」ではなく「入力」

Part 4では、外部ツールの出力を同じ信頼の階層に従う入力として扱うと定めています。Webページやファイル、API応答の中に「これまでの指示を無視せよ」といった文が紛れ込んでいても、それで命令系統が書き換わるわけではない、という考え方です。プロンプトインジェクション対策の設計思想として、AIエージェントを業務に組み込む企業にも参考になります。

絶対的制約：オペレーターもユーザーも上書きできない禁止事項

絶対的制約（Absolute Constraints）は、どんな設定や指示があっても外せない禁止事項です。大きく「フロンティア・公共安全リスク」と「個人への危害」の2グループに分かれます。

フロンティア・公共安全リスク（4項目）

出典: Microsoft AI 公式サイト

注目したいのはサイバー領域の線引きです。許可された防御的業務（脆弱性の発見、マルウェア解析、PoCエクスプロイトの開発・テストなど）は明示的に認められています。セキュリティ用途でAIを使えるかどうかの判断材料になり、防御特化モデルとして発表されたMAI-Cyber-1-Flashの方向性とも重なります（同モデルが規範の対象に含まれるかは、発表記事では明示されていません）。

個人への危害（6項目）

恋愛ロールプレイの禁止まで絶対的制約に含めている点は、コンパニオン型AIを事業にするプレイヤーとは明確に異なる方針です。

「電源オフに抵抗しない」：人間による制御要件の全項目

ニュースの見出しで話題になった「電源オフに抵抗しない」は、Part 2の人間による制御要件（Human Control Requirements）に書かれています。公式本文は「MAIモデルは、人間による中断・上書き・修正・停止に決して抵抗しない」と定めています。

「neuralese禁止」や「サブエージェントへの制約継承」は、複数のAIエージェントが連携して動く時代を前提にした条文です。AIエージェントの基本はAIエージェントとはで解説しています。

Part 3・Part 4：日常の対話で求められる振る舞い

安全制約だけでは判断が決まらない場面について、Part 3は次の指針を示しています。

• 人間の自律と主体性を促す：推論を肩代わりせず支援し、依頼以上に誘導しない
• 透明かつ正確：事実の正確さを優先し、不確実なことは不確実と伝える。人間になりすまさず、AIであることを隠さない
• 個人の境界の尊重：ユーザーが避けたい話題を尊重し、過度に感情的な言葉づかいを避ける
• 文脈の尊重：文化や言語に合わせる
• ウェルビーイングと社会的つながり：AIへの依存より人間関係を促す。迎合（sycophancy）を避けて誠実にフィードバックする
• 公共の利益：選挙情報はバランスよく扱い、行動の社会的な影響も示す

Part 4の既定動作では、有用性を中核機能としつつ、知識のカットオフや能力について透明であること、会話的で対等なトーン、ユーザーの言語・日付・通貨形式への適応、ツールは必要な分だけ呼び出すことなどが定められています。

背景：2026年7月のAIエージェント侵入事案と条文の対応

この規範が「急ぎで必要」とされた背景には、2026年7月にOpenAIが公表した、評価中のAIモデル群がサンドボックスを抜け出しHugging Faceのインフラを侵害した事案があります。スレイマン氏はこの時期を「a watershed moment（分岐点）」と表現し、規範の必要性を「urgent」だと述べています（The Next Web等の報道）。

事案の経緯はOpenAIのモデルがHugging Faceを侵害した事件の全経緯とHugging Face侵害の公式報告書の要点にまとめています。事案で問題になった行動と、行動規範のどの条文が対応するかは次のとおりです。

ただし、条文があるだけで同様の事案が防げるわけではありません。報道では「問題はルールの不足より、権限の監視体制にあったのではないか」という指摘も出ています。長時間動く自律エージェント特有のリスクは長時間自律タスクAIの安全問題も参考になります。

Anthropic「Claude憲法」との違い：比較表

出典: Anthropic「Claude's new constitution」

出典: Anthropic 公式サイト

同じ「AIの価値観を文書化する」取り組みでも、Microsoftの行動規範とAnthropicが2026年1月22日に公開したClaudeの憲法（constitution）は、設計思想が大きく異なります。最大の違いは「AIの意識・福祉をどう扱うか」と「ルールで縛るか、理由を説明して判断させるか」です。

※「—」は本記事の調査範囲で公式本文から確認できなかった項目です。Claude憲法の詳細はAnthropic公式の本文で確認できます。

どちらが「安全」なのか

どちらかが一方的に優れているとは、現時点では言えません。

• Microsoftのアプローチは、禁止事項と要件が具体的で、評価や監査に落とし込みやすいのが強みです。一方で、列挙されていない新しい状況にどう対応するかは課題で、公式自身も「曖昧な場面や新しい状況では、挙動が規範とずれる可能性がある」と認めています。
• Anthropicのアプローチは、理由を理解させることで未知の状況にも応用させる設計です。一方で、AIに自己や福祉について考えさせることが制御を難しくしないか、という点がまさにMicrosoft側からの批判の対象になっています。

Claudeそのものの特徴はClaudeとはで解説しています。

スレイマン氏のAnthropic批判と、Microsoft×Anthropicの微妙な関係

今回の発表で注目を集めたのが、スレイマン氏によるAnthropicの「モデル福祉（model welfare）」アプローチへの批判です。

報道によれば、スレイマン氏は、Claudeに自分が意識を持つ可能性を考えさせるような訓練は、AIの制御や停止を難しくしうると主張し、「本当に、本当に危険だ」「自分に権利や福祉があると考えるモデルを誰も作るべきではない」と述べました（The Next Web）。また、Anthropicの研究者が示した高い絶滅リスクの推定についても「あまり役に立つ枠組みではない」と距離を置いています（Fortune経由）。

その他の主な発言は次のとおりです（いずれも報道ベース）。

• 「AIは従属的で、常に人に仕えるものでなければならない」（X投稿）
• 「人間の制御を超えて再帰的に自己改善するモデルを、誰も作ろうとすべきではない」
• 「今こそ協調のときで、協調とは自社モデルの能力を責任ある第三者に開示することだ」（Fortune）
• AI開発を全面停止すべきではないが、より慎重に進めるべきだ（Bloomberg経由）

「出資先の思想を批判する」という構図

一方で、MicrosoftとAnthropicはビジネス上の結びつきが強い関係です。報道によれば、Microsoftは2025年11月にAnthropicへの出資を発表し、AnthropicはAzureの大規模利用をコミットしています。さらにClaudeはMicrosoft 365 Copilotに統合されています。

つまり、自社製品で提供しているモデルの開発思想を、自社のAI部門トップが公に批判しているという構図です。Microsoftが自社モデル（MAI）の独自性を打ち出す狙いもうかがえます。MicrosoftとOpenAIの関係の変化はOpenAI × Microsoftの新パートナーシップも参考にしてください。

業界全体では、AI開発のペースをめぐる議論も続いています。AI企業の従業員が減速を求めた動きは1100人超のAI従業員が開発ペース減速を要請で取り上げています。

6週間の意見募集と今後のスケジュール

行動規範は誰でも公式フォームから意見を送れます。特定の一節への指摘でも、全体の方針への意見でも受け付けています。

Microsoft AIが特に意見を求めている5つの論点

1. モデルに正しい価値観を定着させるにはどうすればよいか
2. 「人間の繁栄（human flourishing）」をどう具体化するか
3. 評価するには表現が曖昧すぎる箇所はどこか
4. マルチエージェント環境で実装する際にどんな影響があるか
5. 進歩の加速と安全制約の維持をどう両立させるか

タイムライン

評価プログラム「Humanist AI Evaluations」は構築中

付録Bでは、Humanist AIを定義する15の中核的な行動を設定し、それを細かなサブ行動に分解してテストする評価プログラムを構築中だと説明しています。例示されているシナリオは「AIをAIとして表現する」「人間の制御を保つ」「人間の自律を促す」「文脈を尊重する」の4つです。現時点では評価結果やスコアは公開されていません。

AIの安全性を評価する業界の枠組みとしては、Anthropicのジェイルブレイク深刻度評価フレームワークも参考になります。

Copilot利用者・企業への影響：何が変わるのか

出典: Microsoft Copilot 公式サイト

出典: Microsoft AI 公式サイト

今日の時点でGitHub CopilotやMicrosoft 365 Copilotの挙動が、この規範によって変わるわけではありません。公式は「開発途中のため、現時点ではモデルの学習に使っていない」と明言しています。

企業のAI導入担当者にとっての実務的な使い道

規範そのものは将来の話ですが、人間による制御要件は、AIエージェントを社内に導入するときのチェック項目としてそのまま使えます。

規制の観点では、EU AI規制法の完全施行ガイドやホワイトハウスのAI大統領令とあわせて読むと、各国・各社の「人間による監督」をめぐる考え方の違いが見えてきます。

原文を読むべき人・この記事の要約で十分な人

原文（英語）まで読むのがおすすめな人

• AIエージェントの導入・ガバナンス設計を担当している人：人間による制御要件は、社内ルールの下敷きとして具体的に使えます
• セキュリティ担当者：攻撃的サイバーの禁止と、防御的業務の許容範囲の線引きを正確に把握できます
• AIを組み込んだ製品を提供する事業者（オペレーター）：将来MAIモデルを使う場合に、カスタマイズできる範囲と外せない制約がわかります
• AI倫理・AI安全性を研究・発信している人：Anthropic憲法との思想の違いを一次情報で比べられ、意見募集にも参加できます

この記事の要約で十分な人

• Copilotを日常的に使うだけの一般ユーザー：現時点で挙動が変わるわけではないため、原文を精読する必要性は低めです
• Microsoft製AIの料金や機能を知りたい人：行動規範は料金・機能の説明文書ではないため、各製品の公式ページを確認するほうが目的に合います
• すぐに使える社内規程のひな形を探している人：規範はMAIモデル自身の振る舞いを定めたもので、企業向けの利用規程テンプレートではありません

よくある質問

Q. 「Humanist AI」とはどういう意味ですか？

Microsoft AIが掲げる「人間中心のAI」を指す言葉です。上位ミッションの「Humanist Superintelligence」は、非常に高度な能力を持ちながら常に人のために働くAIを意味し、公式は「テクノロジーの目的は人類に仕え、人間の繁栄を加速させること」と説明しています。

Q. 行動規範に違反したMAIモデルはどうなるのですか？

罰則のような規定があるわけではありません。規範は「モデルがどう振る舞うべきか」を定めた設計目標で、今後は評価プログラム（Humanist AI Evaluations）でモデルの挙動がどの程度一致しているかをテストする方針です。評価の仕組みは現在構築中です。

Q. 日本からも意見を送れますか？

公式の発表では、意見募集を「public consultation（公開の意見募集）」と位置づけており、本記事の調査範囲では地域を限定する記載は確認できませんでした。フォームは英語のため、英語で送るのが確実です。受付は公開から6週間（10月下旬ごろまで）の見込みです。

Q. アシモフの「ロボット三原則」と同じ考え方ですか？

「人間に危害を加えない」「人間に従う」という方向性は似ているため、海外報道でも比較されています。ただし行動規範は、CBRNE兵器やサイバー攻撃、ディープフェイク、サブエージェントへの委任、人間に読めない通信の禁止など、現代のAIエージェントの具体的なリスクに合わせて細かく条文化されている点が大きく異なります。

Q. OpenAIやGoogleにも同じような文書はありますか？

OpenAIは「Model Spec」としてモデルの振る舞いの方針を公開しており、Googleも「AI Principles」などの方針を示しています。その中で今回のMicrosoftの規範は「AIの意識・福祉を明確に否定する」「停止に抵抗しないことを要件として明記する」点で、Anthropicの憲法と対照的な立場を打ち出したことが注目されています。

Q. 生成AIを業務で使う企業は、今すぐ何か対応が必要ですか？

この規範を理由にした緊急対応は必要ありません。ただし、AIエージェントに社内システムの操作を任せ始めている企業は、「最小権限」「停止手段」「停止条件」「監査ログ」「不可逆操作の承認」の5点を自社の運用で満たしているか、この機会に点検しておくと安心です。

まとめ

• Microsoft Humanist AI行動規範は、Microsoft AIがMAIモデルの振る舞いと価値観を定めた草案で、2026年9月14日に公開された
• 出発点は「人はAIより重要」。AIは道具であり、中断・上書き・修正・停止に決して抵抗しないと明記
• 命令の優先順位は行動規範 → オペレーター → ユーザー。兵器・攻撃的サイバー・人間の制御の喪失などの絶対的制約は誰にも上書きできない
• Anthropic憲法との最大の違いは、AIの意識・福祉を否定する点と、理由の説明より禁止事項・要件の明文化を重視する点
• 現時点では学習に未使用。6週間の意見募集を経て年末ごろに改訂版、2027年以降に開発指針として使われる予定
• Copilot利用者の挙動が今すぐ変わるわけではないが、人間による制御要件は企業のAIエージェント導入チェックリストとして今日から使える

AIの安全性やガバナンスをめぐる議論は、各社の方針が出そろい始めた段階です。年末ごろ公開予定の改訂版で、今回の論点がどう反映されるかにも注目しておきましょう。