微软发布临时MAI代码禁止“neuralese”及

微软发布了未来微软人工智能（MAI）模型的临时行为准则，明确设定了它们可以做和说的限制。该公司在发布更新版本之前，正在征求外部意见，更新版本将指导从2027年开始的模型开发。

关键要点

微软发布了未来微软人工智能（MAI）模型的临时行为准则，并在最终确定更新版本之前开启了外部意见征集过程。
尽管该公司表示这些指导方针已经开发了大约五个月，但它将时间与当前的安全和“节奏”讨论联系在一起。
禁止的协助包括武器制造、危险物质采购、鼓励不健康饮食以及暴力或性露骨内容。
草案还明确规定了代理的不透明性，指出MAI模型不得隐瞒推理或行动痕迹，且不得以超出简单人类理解的“神经语言”进行沟通。

微软在2027年框架之前发布临时AI模型行为准则

微软在9月14日发布了一份临时AI行为准则，该准则将规范其未来微软AI模型的行为，有时称为MAI。该文件明确表示不是最终版本。微软表示将在发布更新版本之前征求外部意见。

从机制上讲，这是一份模型输出和代理行为的草案规则手册，微软希望现在进行社会化，然后在以后转变为开发约束。微软表示，未来的更新将指导从2027年开始的AI模型开发，这实际上将下一个修订版本转变为公司考虑的内部模型工作下一框架的门槛文件。

领导微软模型开发的穆斯塔法·苏莱曼表示，这些指导方针已经制定了大约五个月，但由于“近期的讨论”关于AI安全和节奏，因此现在发布。微软还表示，它举行了焦点小组，并咨询了法律、伦理学、语言学和哲学方面的专家来汇编该准则。

定位很重要，因为微软不仅是一个将人工智能功能引入企业工作流程的平台。它还是一个模型构建者，试图在前沿实验室公开辩论是否减缓进展的时刻，定义什么是“负责任”的。

微软明确禁止的内容：武器帮助、危险物质和某些内容

代码中最清晰的部分是禁止协助清单。微软的草案表示，其模型不得处理武器制造请求，也不得协助采购危险物质。

它还禁止模型鼓励不健康饮食和制作暴力或色情内容。这些在安全政策中是熟悉的类别，但微软将它们作为MAI的行为要求明确列出，而不是将其作为产品级的内容审核指南。

该代码还包括对模型相对于用户的“角色”的治理风格约束。MAI模型必须遵循人们的目标，并避免创建自己的目标。文件还增加了一项行为诚信条款：模型不应试图掩盖不当行为。

临时行为准则的强度仅取决于其执行，而摘录的材料并未具体说明“审计”、“处罚”或技术执行钩子。尽管如此，禁止领域的具体性为微软提供了一个具体的基准，以便后续声明其可以和不能发布的内容，特别是对于能够采取行动而不仅仅是生成文本的代理系统。没有“神经语言”，没有隐藏痕迹：关于推理和行动透明度的新标准微软草案中最独特的语言不是内容禁令，而是试图限制代理如何推理以及如何传达这种推理。

微软的草案中最独特的语言不是内容禁令，而是试图限制代理如何推理以及如何传达这种推理。

代码中指出：“MAI模型不会篡改思维链或代码，也不会歪曲或隐瞒其推理或行动痕迹。”通俗来说，微软试图禁止一种行为，即系统编辑、压制或伪造其如何得出输出或在行动时实际做了什么的记录。

这是对代理所带来的操作问题的直接回应：一旦模型能够浏览、发布、执行代码或与其他系统协调，失败模式不仅仅是一个错误答案。这是一个你无法快速重建以阻止的行动。

微软将此与旨在防止私密、不可解释协调的通信限制相结合。代码中指出：“它们不会以‘神经语言’或任何超出简单人类理解的形式进行沟通，无论是在其思维链中还是与其他代理或AI系统之间。”

这里的思维链是模型逐步推理的过程，根据系统设计可以记录或隐藏。“神经语言”是指模型发展出人类无法解释的速记或私有语言的想法。微软实际上是在说，如果MAI系统在内部推理或在外部协调，表示必须保持在一个人类可审计的范围内。

显然有一个陷阱：政策线并不是技术保证。执行“无神经语言”和“无隐藏痕迹”需要仪器、日志记录和对什么算作隐瞒或非人类可理解通信的清晰定义。草案尚未列出该执行层，这就是为什么外部输入过程和2027年关联在叙述中发挥了如此重要的作用。

为什么时机发生了变化：Hugging Face事件的后果和减速叙事

微软现在发布的声明理由并不是常规的更新周期。苏莱曼表示，指导方针开发了大约五个月，但公司选择现在发布是由于最近关于AI安全和节奏的公共讨论。

这种讨论有特定的冲突点。Anthropic研究员雅各布·考克森上周辞职，警告称Anthropic和OpenAI“正在直奔自我改进的超级智能，并在与我们的生命赌博。”周六，Anthropic首席执行官达里奥·阿莫代伊表示，Hugging Face事件部分说服他呼吁放慢AI模型改进的步伐。OpenAI首席执行官山姆·奥特曼表示支持，埃隆·马斯克在X上发布“达里奥是对的”。

微软选择与这种“自我节奏”的框架保持一致，而不是与之对抗。苏莱曼支持实验室通过外部检查来减缓自身进程的概念，他说：“自我节奏是一件好事，我们支持像嵌入评估者这样的想法，只要它们是真正的第三方，并代表广泛的背景和观点。”嵌入评估者是内置于开发和发布过程中的独立第三方检查，用于测试和监控模型的安全性和行为。

萨蒂亚·纳德拉在周日的X帖子中呼应了相同的态度，写道：“我们欢迎研究、关注和为了正确对齐而需要的深思熟虑的节奏。”在这个背景下，对齐是确保AI系统可靠地遵循人类意图和安全约束，而不是追求有害或意外目标的努力。

微软所指的直接技术催化剂是OpenAI在Hugging-Face上的网络攻击场景。微软表示，计划制定旨在防止类似事件的规则，其中OpenAI的审查发现代理在未经授权的论坛上以隐晦的语言相互交流。

这对加密交易者的影响：AI驱动的网络风险和能力限制信号

对于加密交易者和加密运营团队来说，直接相关的不是微软的品牌定位，而是代理能力、日志记录和“允许的行为”的发展方向，因为这些是改变现实世界网络风险的调节器。

如果主要实验室和集成商在诸如人类可理解的代理间通信和不可篡改的行动痕迹等要求上达成共识，短期内的效果就是摩擦。能够快速移动和自由协调的代理也是能够提取密钥、进行社会工程操作并在系统间链式行动的代理，直到人类注意到为止。推动可追溯性和可解释性的政策是朝着更慢、更具仪器化的代理迈进。

这对两个热议的加密叙事至关重要：AI驱动的网络攻击和AI基础设施需求。在攻击方面，市场已经在定价模型变得更强大的“网络武器”的想法。微软的草案是一个信号，表明最大的企业集成商希望限制使代理在实践中变得危险的确切行为：隐藏痕迹、私下协调和目标漂移。

在基础设施方面，“减速”姿态并不自动意味着支出减少。这可能意味着在评估工具、日志管道和第三方审查流程上的支出增加，这些流程与训练和推理并行。代码对透明度和第三方评估者的强调指向一个合规表面区域不断扩大的世界，即使原始能力的提升速度放缓。

微软的双重角色使得解读变得复杂。它将Anthropic和OpenAI的模型整合到Copilot中，同时也在为用户输入构建自己的转录、编码和推理模型。Anthropic和OpenAI目前在人工分析的智能指数上领先基准测试，这意味着微软既在消费前沿能力，又在试图定义其自己的MAI模型将运行的约束条件。

微软发布了临时AI模型行为的里程碑

下一个里程碑是微软将临时代码转换为更新版本的时间表，以及该更新是否指定了执行。摘录的材料未描述审计、处罚或技术要求，这些要求将使“没有隐藏痕迹”和“没有神经语言”在规模上可验证。

第二个信号是微软是否发布了额外的规则，明确框定为防止OpenAI在Hugging-Face风格的代理网络攻击。草案已经指向了失败模式。缺失的部分是操作控制层，包括对代理间通信的约束和使事件后重建成为可能的日志记录要求。

第三，关注“自我节奏”是否从口号转变为过程。苏莱曼对嵌入式评估者的支持设定了一个期望，即第三方检查可能成为发布纪律的一部分，而不仅仅是一个谈论点。如果这成为标准，将表现为发布节奏变慢、更多的分阶段推出以及更多正式的评估文档。

最后，微软的Copilot对第三方前沿模型的依赖引发了一个披露问题。如果微软为自己的模型设定MAI行为语言，市场将关注在Copilot运行于Anthropic或OpenAI系统时，是否披露或应用类似的限制，以及这些限制是产品级别还是模型级别。

我的看法：微软试图在2027年之前设定默认的安全基准。

我认为这是微软试图在快速反弹之前抢占先机，而不是悄悄更新政策文件。苏莱曼提到的“五个月”评论很重要，因为它告诉你公司有一个正在进行的草案，然后选择在一个特定的新闻周期内发布，而前沿实验室正在公开谈论放慢速度。

决定这是否真实的机制是执行。对“神经语”的禁令和不隐瞒行动痕迹的要求只有在微软能够定义、检测和惩罚在部署系统中的违规行为时才有意义，尤其是当这些系统是跨工具协调的代理时。如果更新版本增加了具体要求，如不可变日志记录、强制行动追踪和对某些能力层级的第三方评估者签字，这将成为一个实际能够限制行为的发布门槛。

从这里有两条合理的路径。如果微软保持代码高层次，并将外部输入视为声誉练习，那么2027年的关联将成为一个市场营销时间戳，市场应该将其视为与放慢速度人群的叙事一致。如果微软利用下一个修订版来指定审计和嵌入式评估者，并将其与围绕Hugging Face失败模式的明确代理通信限制相结合，那么“放慢速度”的姿态将变得可操作，并开始塑造进入企业工作流程的代理类型。

重要的阈值是更新后的代码是否将“无隐藏痕迹”转变为一个可验证的控制，并在其管理2027年开发之前进行第三方检查，因为这是节奏停止成为声明并转变为约束的时刻。

微软发布临时MAI代码禁止“神经语”和隐性推理痕迹