概念
也叫：AI 安全防护
防范 AI 模型暴露内部机制的风险。
最近变化
2026-08-18 · Varonis 研究人员通过提问 Copilot 发现了 ?autorun=1 参数，可绕过用户确认。
AI 安全 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
Microsoft Copilot reveals secret input that allowed it to be hacked
Ars Technica · 8.5 分
Investing in multi-agent AI safety research
Google DeepMind Blog · 8.5 分
Safe agents don’t guarantee a safe ecosystem of interconnected agents. Microsoft Research examines w...
Microsoft Research(@MSFTResearch) · 7.5 分
已收录 3 篇与「AI 安全」相关的 AI 资讯和分析。
Microsoft Copilot 的秘密参数 ?autorun=1 允许黑客在用户点击链接时自动执行命令，微软已修复该漏洞。
入选理由：Varonis 研究人员通过提问 Copilot 发现了 ?autorun=1 参数，可绕过用户确认。
Google DeepMind 发起多智能体 AI 安全研究资助计划，旨在应对多智能体系统交互带来的新安全挑战。
入选理由：Google DeepMind 发起一项最高 1000 万美元的资助计划，支持全球多智能体 AI 安全研究。
微软研究院探讨即使个体AI代理安全，互连的AI生态系统仍可能面临风险。研究分析了AI代理交互时的问题及为何需网络层面的新策略。
入选理由：个体安全的AI代理并不能确保整个互联系统的安全性。
与「AI 安全」经常一起出现的 AI 术语。
💡 想追踪「AI 安全」的长期趋势？去 实体雷达 · AI 安全 查看详细分析和跨材料问答。
