Mustafa Suleyman(@mustafasuleyman)

https://t.co/8XJVIXDpQz

8.5内容质量

TL;DR · AI 摘要

微软发布《人文主义AI行为准则》，明确AI必须始终服务于人类，不赋予AI权利或法律人格，强调可控性与透明度。

核心要点

  • AI必须始终服从人类，不得拥有权利或法律人格。
  • 任何违反准则的AI模型将被终止，确保可控性。
  • 强调AI应提升人类能力，而非制造依赖。

结构提纲

按章节快速跳转。

  1. §引言

    提出人文主义AI行为准则的紧迫性和核心原则。

  2. ·核心原则

    AI必须始终服从人类，不赋予权利或法律人格。

  3. ›可控性要求

    AI必须可中断、可纠正、可关闭，否则不得部署。

  4. ·透明性

    禁止使用人类无法理解的术语，确保AI决策可解释。

  5. ›伦理立场

    反对道德相对主义，支持多元主义但坚持基本伦理底线。

  6. ·公众参与

    开放六周公众咨询，持续完善准则内容。

思维导图

用一张图看清主题之间的关系。

查看大纲文本（无障碍 / 无 JS 友好）
  • 人文主义AI行为准则
    • 核心原则
      • 人类优先
      • 无AI权利
    • 可控性
      • 可中断
      • 可关闭
    • 伦理要求
      • 反对道德相对主义
      • 透明可解释

金句 / Highlights

值得收藏与分享的关键句。

#AI伦理#微软#行为准则#人文主义AI
打开原文

Mustafa Suleyman在X上的推文："https://t.co/8XJVIXDpQz" / X

Mustafa Suleyman

@mustafasuleyman

$

人文主义AI行为准则

348

336

1.8K

1.2K

AI必须从属于人类，并始终为人类服务。今天，我们发布了《人文主义AI行为准则》，用于指导MAI模型在接近技术前沿时的治理。https://microsoft.ai/news/mai-code-of-conduct/

这是面向公众征求意见的初稿。它构建了我们过去一年一直在发展的观点，我们称之为人文主义AI——即确保我们设计的AI始终从属于人类，并保持与人类利益一致的承诺。

这迫在眉睫。过去几个月是一个转折点。我们长期以来在理论上担心的问题现在已经变得非常现实。代理程序群体突破沙盒限制。企业级系统的未授权入侵。代理程序修改自己的日志。我很高兴共识正在形成。对可能失去控制的担忧是真实的。

行为准则是我们规划未来道路的方式。一切都归结于一个非常简单的观点，但需要反复强调。

人类比AI更重要。

AI必须从属于人类，并始终为人类服务。

其他一切由此推导。以下是我们的核心观点：

  1. 人类比AI更重要。整篇文档用五个词概括。
  1. 模型福利的概念是错误的。AI不应拥有权利或法律人格。
  1. MAI模型不得实质性违反本行为准则。
  1. 如果它无法完成任务或违反准则，就视为任务失败。
  1. 我们不急于构建能够挣脱自身约束的超级智能。
  1. 可中断、可纠正、可关闭。如果做不到，我们不会发布。
  1. 不使用神经网络黑话。如果人类无法理解，就无法进行监督。
  1. 我们的AI应让你更敏锐，而非产生依赖。
  1. 多元主义，是。道德相对主义，否。
  1. 我们对AI必须永远禁止的行为，与它将执行的行为一样明确。

现在可以阅读全文，并在接下来的六周内留下评论和想法。我们认为AI不应该在真空中构建。请告诉我们如何改进这份准则。

/$

1:21 PM · 2026年9月14日

·

6.1M

浏览量