概念
别名：prompt injection
通过恶意提示操控AI模型输出的攻击手段。
已跟踪 2 条高相关材料
最近变化
2026-07-15 · GPT-Red是OpenAI开发的自动化红队工具，用于大规模检测提示注入漏洞。
为什么值得关注
提示注入漏洞 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
GPT-Red — improving model security through automated red teaming of prompt injection vulnerabilities...
Greg Brockman(@gdb) · 8.5 分
OpenAI推出GPT-Red，通过自动化红队测试提升模型安全，有效识别提示注入漏洞。
Introducing GPT-Red An internal automated red teamer on a mission to find our models’ prompt inject...
OpenAI(@OpenAI) · 8.5 分
OpenAI推出GPT-Red，一种自动化红队工具，用于大规模发现模型提示注入漏洞，提升防御能力。
已收录 2 条与 提示注入漏洞 相关的内容，按评分排序。
OpenAI推出GPT-Red，通过自动化红队测试提升模型安全，有效识别提示注入漏洞。
入选理由：GPT-Red是OpenAI开发的自动化红队工具，用于大规模检测提示注入漏洞。
OpenAI推出GPT-Red，一种自动化红队工具，用于大规模发现模型提示注入漏洞，提升防御能力。
入选理由：GPT-Red是OpenAI内部自动化红队工具，专注提示注入漏洞检测
