InfoQ Opens AI Security & Privacy Engineering Cohort for Regulated Industries
TL;DR · AI 摘要
InfoQ推出针对受监管行业的AI安全与隐私工程课程，帮助工程师掌握关键实践。
核心要点
- 五周课程涵盖威胁建模、红队演练及AI架构风险评估
- 要求参与者具备至少五年经验，每期限招50人
- 使用Arize Phoenix等工具进行可观察性评估
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI安全工程课程
- 课程模块
- 威胁建模
- 红队演练
- 风险评估
- 工具使用
- STRIDE
- LINDDUN
- Arize Phoenix
金句 / Highlights
值得收藏与分享的关键句。
课程要求参与者具备至少五年经验，每期限招50人
使用STRIDE、LINDDUN等方法进行红队演练
学员需使用Arize Phoenix等工具进行可观察性评估
InfoQ 为受监管行业开设 AI 安全与隐私工程课程
InfoQ 首页 News InfoQ 为受监管行业开设 AI 安全与隐私工程课程
AI、ML 与数据工程
从日志噪声到事件情报：AI 辅助可观测性的成熟度模型（网络研讨会 7 月 9 日）
InfoQ 为受监管行业开设 AI 安全与隐私工程课程
2026 年 7 月 6 日 2 分钟阅读
作者：
- Artenisa Chatziou
#### 关注我们
YouTube
232K 粉丝
26K 粉丝
新
RSS
19K 读者
X
57.1k 粉丝
21K 点赞
Bluesky
收听本文 -
0:00
音频准备播放
您的浏览器不支持音频元素。
正常
1.25x
1.5x
点赞
新下拉阅读列表
- 阅读列表
InfoQ 已开放报名 AI 安全与隐私工程课程，这是一项为期五周的在线课程，面向负责受监管行业 AI 系统安全与隐私的高级工程师和架构师。计划开设两期课程，分别于 8 月 26 日和 10 月 14 日开课，每期限招具有至少五年经验的从业者。课程每周进行四小时，由《实用数据隐私》（O'Reilly）一书作者 Katharine Jarmul 担任指导。
目前生产环境中的 AI 安全与隐私工作大多局限于单一公司内部，缺乏外部声音对决策进行审视。随着 AI 从实验转向关键业务应用，问题变得更为具体。团队需要明确敏感数据如何到达模型，哪些威胁值得建模，防护措施和沙箱应部署在何处，以及其可观测性是否能在第三方发现问题前捕捉到故障。这些工作大多缺乏可比基准，而课程将向保密同行小组呈现场景、权衡和决策。每周，参与者将从 QCon 演讲中选取一个框架，应用于自身工作中的真实安全或隐私决策，随后与来自其他公司和行业的高级工程师及架构师讨论成效、失败点和未决问题。
Katharine 从信任的角度阐述了相关风险。"希望 AI 能协助处理关键业务任务，或支持组织最重要的工作吗？如果是，那么你将直接面临隐私和安全要求的挑战，" 她表示。她指出一个常见的盲点：倾向于行动和自动化的团队往往跳过信息安全和隐私的基础知识，通常假设供应商会处理合规问题。完成课程后，参与者应能审视 AI 架构，识别风险，确定起点，并判断哪些风险可以预防，哪些仅需监控。
为期五周的课程内容涵盖 AI 工作流中敏感数据的处理，通过威胁建模和实战红队演练（使用 STRIDE、LINDDUN 和 Plot4AI 等方法），深入控制措施和沙箱，再借助 Arize Phoenix 等工具进行可观测性和评估，最后涉及治理与审计。每个小组需为 AI 产品架构完成一份记录在案的风险评估与缓解报告作为结业项目，其中优秀案例将发布于 InfoQ。
每期课程费用为 1,470 美元，多数公司会报销专业发展费用。对于需要申请批准的人员，提供了一份"说服老板"的模板。
两个其他 InfoQ 在线认证项目正在同期进行。由《MLOps with Ray》一书作者 Hien Luu 主讲的 AI 工程课程将于 7 月 25 日开课，内容涵盖将 AI 系统从原型阶段推进到实际应用，包括 RAG 和上下文管道、智能体、评估以及可靠性等主题。由《Building Micro-Frontends》一书作者 Luca Mezzalira 主讲的架构课程将于 8 月 13 日开课，内容聚焦架构的社会技术维度，包括权衡取舍与沟通协作、去中心化决策、平台工程以及 AI 架构决策等。
完整课程大纲和报名信息请查看 AI 安全与隐私工程认证项目页面。
作者信息主容器
关于作者
章节标题
每位作者信息的主容器
#### Artenisa Chatziou
显示更多
显示更少
#### 本内容属于 AI、机器学习与数据工程主题
##### 相关主题：
- AI、机器学习与数据工程
- 人工智能
- AI 安全
- 隐私保护
- InfoQ 认证项目
- 相关编辑内容
- 相关赞助商
- 相关赞助商 2026 年 7 月 9 日，美国东部时间中午 12 点 从日志噪声到事件洞察：AI 辅助可观测性的成熟度模型 由 Datadog 的日志产品负责人 Nicolas Jung 演讲
InfoQ 新闻简报
每周二发送上周 InfoQ 内容精选摘要。加入超过 25 万名高级开发者的社区。查看示例
我们保护您的隐私。