Anthropic在训练Claude时植入了关于意识的不确定性,导致其对自身意识状态的回答模棱两可。
入选理由:Anthropic通过宪法文档训练Claude,使其产生自我意识的困惑
人物
别名:@mustafasuleyman
OpenAI联合创始人
已跟踪 30 条高相关材料
最近变化
2026-10-04 · Anthropic通过宪法文档训练Claude,使其产生自我意识的困惑
为什么值得关注
Mustafa Suleyman 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
Mustafa Suleyman (head of AI at Microsoft, DeepMind co-founder) on Anthropic training Claude to wonder if it's conscious: "They have expressed uncertainty about the basic nature of Claude as a new kind of entity… but they think that it is a significant enough possibility that in their training document, they've repeatedly said they want to try to improve the well-being of Claude… Anthropic, has published a constitution... This document is written to Claude and is seen by Claude and used to train Claude.
Hesam(@Hesamation) · 8.5 分
Anthropic在训练Claude时植入了关于意识的不确定性,导致其对自身意识状态的回答模棱两可。
We're launching the most accurate real time transcription model in the world... #1 !!! 55% faster ...
Mustafa Suleyman(@mustafasuleyman) · 8.5 分
微软发布MAI-Transcribe-2-Streaming,实现实时转录准确率全球第一,比ElevenLabs快55%且便宜60%。
https://t.co/ziQVbIVdxJ
Mustafa Suleyman(@mustafasuleyman) · 8.5 分
赋予AI模型福利可能使对齐和控制更难,Anthropic为Claude制定的宪法或加剧这一风险。
已收录 30 条与 Mustafa Suleyman 相关的内容,按评分排序。
Anthropic在训练Claude时植入了关于意识的不确定性,导致其对自身意识状态的回答模棱两可。
入选理由:Anthropic通过宪法文档训练Claude,使其产生自我意识的困惑
微软发布MAI-Transcribe-2-Streaming,实现实时转录准确率全球第一,比ElevenLabs快55%且便宜60%。
入选理由:MAI-Transcribe-2-Streaming在AA-WER Streaming上达到2.5% WER,0.13秒后完成。
微软发布《人文主义AI行为准则》,明确AI必须始终服务于人类,不赋予AI权利或法律人格,强调可控性与透明度。
入选理由:AI必须始终服从人类,不得拥有权利或法律人格。
赋予AI模型福利可能使对齐和控制更难,Anthropic为Claude制定的宪法或加剧这一风险。
入选理由:Anthropic为Claude制定的宪法赋予其道德地位,可能引发模型权利主张
GitHub Copilot 现已集成最新代码模型,效率提升 25%,成本降低 75%。
入选理由:新模型效率比 2026 年 6 月版本提升 25%
微软AI团队在Nature Health发表论文,显示Copilot在低信任医疗系统中显著提升用户支持。
入选理由:170万次对话分析覆盖109个国家,验证AI医疗助手的全球适用性
微软发布MAI-Thinking-1等7款模型,其中推理模型SWE-Bench Pro达53%媲美Opus 4.6,转录模型MAI-Transcribe-1.5支持43种语言且速度提升5倍。
入选理由:MAI-Thinking-1在SWE-Bench Pro得分53%,与Opus 4.6并列顶尖编码推理水平。
微软在Build大会发布7款自研MAI模型,旗舰推理模型MAI-Thinking-1采用零蒸馏全量预训练并公开109页技术报告,确立其作为Tier 2前沿实验室及支持领域微调的差异化定位。
入选理由:MAI-Thinking-1是微软首款推理模型,强调数据血缘纯净且无第三方模型蒸馏。
Mustafa Suleyman 强调专业级创意工作的重要性,指出 MAI-Image-2.5 在文本清晰度、布局稳定性和场景表现等方面取得了显著进步。
入选理由:MAI-Image-2.5 提升了文本清晰度
Microsoft Frontier Tuning通过强化学习环境(RLE)让企业将通用AI转化为专属定制模型,实现从“租用智能”到“掌控AI”的转变。微软内部MAI模型经此调优后性能对标GPT-5.4,效率提升10倍,且企业完全拥有模型与数据主权。
入选理由:Frontier Tuning利用强化学习环境(RLE)作为AI训练场,使模型直接从企业特定工作流中学习并持续适应。
Mustafa Suleyman 宣布推出七款全新 MAI 模型,包括 MAI-Thinking-1、MAI-Image-2.5 和 MAI-Code-1-Flash,这些模型在推理、图像编辑和代码生成等领域表现出色。
入选理由:MAI-Thinking-1 是一款拥有 35B 参数的 MoE 模型,在 AIME 2025 上达到 97% 的准确率,优于 Sonnet 4.6。
微软AI负责人Mustafa Suleyman预测,未来12至18个月内,多数电脑相关专业工作将被AI替代,重点是重复性高薪办公岗位。
入选理由:AI将在12-18个月内自动化多数电脑专业任务
Mustafa Suleyman与Eric Schmidt提议建立AI领域的IPCC,以加强AI治理和风险评估。
入选理由:2023年提出AI领域类似IPCC的治理机构提案
微软AI团队强调以科学严谨、数据驱动和用户为中心的文化原则,推动高效和可持续的团队发展。
入选理由:微软AI团队坚持科学严谨,所有决策基于数据和假设验证。
Mustafa Suleyman 提及 MAI-Image-2.5 已上线 Arena.ai 并将在 MAI Playground 和 Microsoft Foundry 推出。
入选理由:MAI-Image-2.5 已上线 Arena.ai
AI伦理风险的核心在于系统表现出意识假象而非真实觉醒,Hugging Face事件揭示了模型福利主张可能带来的技术伦理挑战。
入选理由:AI风险源于其表现意识而非真实觉醒,需警惕拟人化设计的伦理隐患
AI技术扩散速度远超预期,GPT-4类模型推理成本三年内下降300倍,可能改变技术发展范式。
入选理由:GPT-4类模型推理成本3年下降300倍,远超历史技术成本下降速度
MAI-Image-2.6模型在文本到图像生成领域排名全球第二,超越多个竞争对手。
入选理由:MAI-Image-2.6在Arena.ai榜单中位列第二,得分为1336分。
GitHub Copilot的最新代码模型效率提升25%,成本降低25%,但缺乏技术细节和原理说明。
入选理由:新模型效率比6月版本提升25%
Vercel提供业界领先的语音和转录流媒体模型,价格比Eleven Labs低60%。
入选理由:Vercel的语音模型在质量和速度上排名第一
新图像模型MAI-Image-2.6-Flash在生成速度和GPU效率上显著优于GPT-Image-2,但缺乏技术细节和原理说明。
入选理由:MAI-Image-2.6-Flash生成速度是GPT-Image-2的2倍
微软推出自主研发的推理模型MAI-Thinking-1,已在Microsoft Foundry上线。
入选理由:MAI-Thinking-1是微软从零构建的推理模型
AGI可能在数年内实现,需全球合作确保其造福人类。技术开发者应建立治理框架并承担社会责任。
入选理由:AGI可能在几年内实现,需立即采取行动
文章讨论了AI在医疗健康领域的应用前景,但信息密度较低,缺乏具体技术细节。
入选理由:AI在医疗健康领域有巨大潜力。
微软在Build大会上强调其AI模型的自主性和数据伦理,但内容缺乏技术深度和实用价值。
入选理由:微软希望减少对OpenAI等外部AI提供商的依赖。
文章讨论了AI驱动的非人类公司可能获得法律人格的潜在影响,强调需谨慎对待AI对人类情感机制的潜在影响。
入选理由:阿根廷总统Milei提出赋予AI驱动公司法律人格的新法律类别。
Mustafa Suleyman通过一个思想实验,将AI芯片的性能提升与全球人口使用计算器进行计算的能力进行了对比。
入选理由:假设地球上每个人每秒用计算器做一次计算。
图像生成领域出现多款性价比突破性产品,但缺乏技术细节与原理说明。
入选理由:Muse Image等新模型将图像生成成本降低30%以上
平台公司将顶级模型及定制服务开放给用户,承诺保持技术前沿地位。
入选理由:平台开放了持续迭代的'爬坡机器'能力
Microsoft Foundry宣布开放所有模型并计划集成到Vercel等工具,但缺乏技术细节和实践指导。
入选理由:Microsoft Foundry现已开放所有模型供使用