概念
别名：AI 安全防护
防范 AI 模型暴露内部机制的风险。
已跟踪 3 条高相关材料
最近变化
2026-08-18 · Varonis 研究人员通过提问 Copilot 发现了 ?autorun=1 参数，可绕过用户确认。
为什么值得关注
AI 安全 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
Microsoft Copilot reveals secret input that allowed it to be hacked
Ars Technica · 8.5 分
Microsoft Copilot 的秘密参数 ?autorun=1 允许黑客在用户点击链接时自动执行命令，微软已修复该漏洞。
Investing in multi-agent AI safety research
Google DeepMind Blog · 8.5 分
Google DeepMind 发起多智能体 AI 安全研究资助计划，旨在应对多智能体系统交互带来的新安全挑战。
Safe agents don’t guarantee a safe ecosystem of interconnected agents. Microsoft Research examines w...
Microsoft Research(@MSFTResearch) · 7.5 分
微软研究院探讨即使个体AI代理安全，互连的AI生态系统仍可能面临风险。研究分析了AI代理交互时的问题及为何需网络层面的新策略。
已收录 3 条与 AI 安全 相关的内容，按评分排序。
Microsoft Copilot 的秘密参数 ?autorun=1 允许黑客在用户点击链接时自动执行命令，微软已修复该漏洞。
入选理由：Varonis 研究人员通过提问 Copilot 发现了 ?autorun=1 参数，可绕过用户确认。
Google DeepMind 发起多智能体 AI 安全研究资助计划，旨在应对多智能体系统交互带来的新安全挑战。
入选理由：Google DeepMind 发起一项最高 1000 万美元的资助计划，支持全球多智能体 AI 安全研究。
微软研究院探讨即使个体AI代理安全，互连的AI生态系统仍可能面临风险。研究分析了AI代理交互时的问题及为何需网络层面的新策略。
入选理由：个体安全的AI代理并不能确保整个互联系统的安全性。
