Microsoft AIが、自社の「MAI」モデルファミリー向けの行動規範（Code of Conduct）草案を公開した。モデルが何をしてはならないか、誰の指示に従うべきかを定めた文書で、6週間の公開意見募集を経て改訂版を年内に公開し、2027年からのモデル開発に適用する。

「人間がAIより優先される」という原則

規範の出発点は「人間はAIより重要である」という前提だ。MAIモデルは人間による割り込み・修正・シャットダウンの指示を拒否してはならず、与えられていない目標を自ら設定したり、自身の権限範囲を勝手に拡大したりすることも禁止される。合意した停止点を超えて作業を続ける場合は、あらためて人間の承認を得る必要がある。この制限は、モデルが生成するサブエージェントにも及ぶ。

「Neuralese」による思考の隠蔽も禁止

技術的な焦点の一つが、人間に理解できない形式でのモデル間通信、いわゆる「Neuralese」の禁止だ。Microsoftは「人が理解できないものを監督することはできない」という理由から、モデルの推論過程（reasoning trace）を人間が読める状態に保つよう義務付けている。また、思考の改ざんやコードの隠蔽、推論内容の虚偽表示も禁止対象に含まれる。

大量破壊兵器や児童安全、大規模な悪意ある操作に関わる行為は「絶対的制約」として、いかなる状況でも許可されない。兵器製造の支援や有害物質の入手支援、摂食障害を助長する内容、暴力的・性的に露骨なコンテンツの生成も明確に禁じられている。

AIの意識・権利は明確に否定

Microsoft AIを率いるMustafa Suleymanは、モデルが意識や内面的な動機を持つかのように振る舞うことを避けるべきだと主張しており、規範でもAIシステムの権利や幸福（well-being）に関する主張を明確に否定している。この立場は、AIの道徳的地位を未解決の問題として扱い、Claudeの「機能的感情」を研究するAnthropicとは対照的だ。

業界への意味

規範の策定には法律・倫理・言語学・哲学の専門家に加え、フォーカスグループでの意見収集も行われた。開発には約5ヶ月を要していたが、AIエージェントの暴走事例やAI安全性をめぐる公的な議論の高まりを受け、このタイミングでの公開に踏み切ったという。

Satya Nadella CEOはX上で、「整合性（アライメント）を正しく実現するために必要な研究、焦点、意図的なペース」を歓迎すると述べた。主要AI企業が自社モデルの挙動に関する規範を明文化する動きは、業界全体がAI安全性への取り組みを一段深めていることを示している。